มาเรียนกันว่าจะดูแลแอป AI (LLM) ให้ปลอดภัยยังไง โดยใช้เช็กลิสต์ช่องโหว่ยอดฮิตของวงการ (OWASP Top 10 for LLM Apps 2025) แถมยังสอนวิธีเอา AI มาช่วยงานทีมป้องกัน (blue-team) วางกติกาการใช้ AI ในองค์กร (governance) และทำให้ถูกต้องตามกฎหมายคุ้มครองข้อมูลของไทย (PDPA) ด้วย ทั้งหมดนี้ยึดหลักเดียวคือ เน้นตั้งรับป้องกัน (defensive) ล้วน ๆ ไม่สอนโจมตี
ทุกอย่างอิงจากมาตรฐานที่มีอยู่จริง เช่น OWASP Top 10 for LLM Apps 2025 (v2.0, เผยแพร่ 18 พ.ย. 2024), NIST AI RMF 1.0 + AI 600-1, ISO/IEC 42001:2023, EU AI Act และ MITRE ATLAS เราไม่กุกฎหรือฟีเจอร์ที่ไม่มีอยู่จริงขึ้นมาเอง
ทุกบทเรียนเน้นการตั้งรับและป้องกัน ไม่มีสอนวิธีโจมตี ทำมัลแวร์ หรือเจาะระบบ ส่วนมุมของคนร้าย (เช่น การแอบยัดคำสั่งร้ายมาในข้อความเพื่อหลอก AI หรือ prompt injection) เราอธิบายให้พอเข้าใจเท่าที่จำเป็น เพื่อเอาไปตั้งรับป้องกันได้ถูกจุดเท่านั้น
ได้ฝึกใช้เครื่องมือที่มืออาชีพใช้กันจริง เช่น NVIDIA NeMo Guardrails, Meta Purple Llama (Llama Guard, Prompt Guard 2, LlamaFirewall), Lakera Guard, NVIDIA Garak, Microsoft PyRIT, promptfoo, Prisma AIRS, HiddenLayer และ Cisco AI Defense
สอนครบว่าจะเอา Microsoft Security Copilot, CrowdStrike Charlotte AI และ Google Gemini in SecOps/Sec-Gemini มาช่วยงานยังไง ตั้งแต่ช่วยคัดกรองการแจ้งเตือนว่าอันไหนสำคัญ (alert triage) งานสืบข่าวภัยคุกคาม (threat-intel) ไปจนถึงงานเขียนกฎตรวจจับภัย (detection engineering) และเราจะเตือนให้ระวังตัวเลขโฆษณาเกินจริงที่คนขายเครื่องมือชอบพูดด้วย
ลงลึกเรื่องใกล้ตัวคนไทย ทั้ง PDPA พ.ศ. 2562, การบังคับใช้ที่เข้มข้นขึ้นในปี 2025-2026, ร่างแนวทางเรื่อง AI ของ PDPC (17 ก.พ. 2026), การที่หน่วยงานรัฐต้องมีเจ้าหน้าที่คุ้มครองข้อมูล (DPO) และแนวทางจาก ETDA
เราปลูกฝังหลักง่าย ๆ ว่าจะทดสอบได้ก็เฉพาะระบบที่เราเป็นเจ้าของเองหรือได้รับอนุญาตแล้วเท่านั้น ทุกการตัดสินใจเรื่องความปลอดภัยต้องมีคนที่รู้จริงเป็นผู้รับผิดชอบ และทุกอย่างต้องตรวจสอบย้อนหลังได้ (auditability)
เลือกจุดเริ่มที่เหมาะกับตัวเอง แล้วค่อย ๆ ไต่ระดับขึ้นไปทีละขั้น
ปูพื้นภาพรวมการดูแลระบบ AI ให้ปลอดภัยสำหรับมือใหม่ ให้เข้าใจว่าความเสี่ยงหลัก ๆ มีอะไรบ้าง และมาตรฐานที่ใช้อ้างอิงจริงมีอะไร · 18-24 ชั่วโมง
ภาพรวม AI Security และขอบเขตการป้องกัน (defensive); OWASP Top 10 for LLM Apps 2025 ภาพรวม; Prompt Injection และ Sensitive Information Disclosure (LLM01, LLM02); Supply Chain และ Data/Model Poisoning (LLM03, LLM04) …
เข้าสู่บทเรียน →ลงมือติดตั้งเครื่องมือป้องกันของจริง ทดสอบระบบของตัวเองอย่างมีจริยธรรม และเอา AI มาช่วยงานทีมป้องกัน · 24-30 ชั่วโมง
Guardrails แบบ Open-source: NeMo Guardrails และ Purple Llama; Guardrails เชิงพาณิชย์และ managed API; AI Security Posture Management (AI-SPM) และ ML Supply-chain Tools; Red-teaming เชิงป้องกันบนระบบของตนเอง …
เข้าสู่บทเรียน →ออกแบบระบบดูแลความปลอดภัย AI ทั้งองค์กร วางกติกาการใช้งาน (governance) ตามมาตรฐานสากล และทำให้ถูกต้องตาม PDPA กับ EU AI Act · 28-36 ชั่วโมง
กรอบ Governance และ Risk: NIST AI RMF, ISO/IEC 42001, MITRE ATLAS; EU AI Act และ Google SAIF/CoSAI; AI-use Policy และการจัดการ Shadow AI; PDPA ของไทยกับระบบ AI …
เข้าสู่บทเรียน →หน้านี้พาเจาะลึกช่องโหว่ยอดฮิต 10 ข้อของแอป LLM (OWASP Top 10 for LLM Applications 2025 v2.0 เผยแพร่ 18 พ.ย. 2024 โดย OWASP)
หน้านี้รวมตัวอย่างการเอา AI มาช่วยงานฝั่งทีมป้องกัน (blue-team) ด้วยเครื่องมือจริงปี 2025-2026 โดยทุกขั้นตอนยังยึดหลัก
หน้านี้รวมกติกาการใช้ AI ในองค์กร (governance) และการทำให้ถูกต้องตามกฎ (compliance) เชิงป้องกัน มีครบตั้งแต่การวางโครงหลักด้วย
| ระดับ | กลุ่มเป้าหมาย | ความคาดหวังหลังเรียน |
|---|---|---|
| Foundation | นักพัฒนา, DevOps, ผู้ดูแลระบบ IT และเจ้าหน้าที่ความปลอดภัย (security) รุ่นใหม่ที่เริ่มต้องดูแลระบบซึ่งมี AI/LLM เข้ามาเกี่ยวข้อง รวมถึงผู้จัดการที่อยากเข้าใจภาพรวมความเสี่ยง | มองภาพรวมความเสี่ยงของ AI ออก รู้จักช่องโหว่ยอดฮิต 10 ข้อ (OWASP LLM Top 10 2025) ครบทุกหมวด และชี้ได้ว่าระบบ AI ขององค์กรตรงไหนที่ต้องป้องกัน |
| Intermediate | SOC analyst, security engineer, ML/AI engineer และคนดูแลความปลอดภัยของแอป (application security) ที่ต้องลงมือติดตั้งเกราะกันภัย (guardrails), ทำ AI-SPM และเอา AI มาช่วยงานทีมป้องกัน (blue-team) | ติดตั้งและปรับแต่งเกราะกันภัย (guardrails) ของจริงได้ (เช่น NeMo Guardrails, Llama Guard, Lakera Guard), ทดสอบเจาะระบบของตัวเองเชิงป้องกัน (red-teaming) และใช้ผู้ช่วย AI ในศูนย์เฝ้าระวัง (SOC copilot) ในงานจริง |
| Advanced | Security architect, AI/ML security lead, CISO หรือผู้บริหารความเสี่ยง, DPO และหัวหน้าฝ่ายกำกับดูแล (compliance lead) ที่ต้องรับผิดชอบการวางโครงสร้างระบบป้องกัน วางกติกาการใช้งานทั้งองค์กร (governance) และดูแลให้ทำถูกกฎหมาย | ออกแบบระบบดูแลความปลอดภัย AI ทั้งองค์กรได้แบบครบวงจร วางกติกาการใช้ AI (governance) ตาม NIST AI RMF + ISO/IEC 42001 จัดการเรื่อง EU AI Act กับ PDPA และพาองค์กรผ่านการตรวจสอบ (audit) ได้ |
อธิบายช่องโหว่ยอดฮิต 10 ข้อของแอป LLM (OWASP Top 10 for LLM Applications 2025 หมวด LLM01-LLM10) ได้ และเอาไปออกแบบมาตรการป้องกันได้ครบทุกหมวด
ออกแบบระบบป้องกันแบบวางเกราะหลายชั้น (defense-in-depth) โดยใช้เกราะกันภัย (guardrails) ทั้งฝั่งสิ่งที่ผู้ใช้พิมพ์เข้ามา (input) สิ่งที่ AI ตอบออกไป (output) และกฎการใช้งาน (policy) พร้อมจำกัดสิทธิ์ให้ AI ตัวแทน (agent) ทำได้เท่าที่จำเป็นจริง ๆ (least-agency และ least-privilege)
ทำบัญชีรายการทรัพย์สิน AI ทั้งหมดที่มี (AI asset inventory), จัดทำรายการส่วนประกอบของ AI (AI-BOM) และตรวจสอบที่มาของโมเดลพร้อมสแกนหาช่องโหว่ (model provenance/scanning) เพื่อกันความเสี่ยงจากห่วงโซ่ผู้ผลิต (supply chain — หมวด LLM03/04)
เอา AI มาช่วยงานทีมป้องกัน (blue-team) ได้จริง เช่น ช่วยคัดกรองการแจ้งเตือน (alert triage), สรุปข่าวกรองภัยคุกคาม (threat-intel summarization) และเขียนกฎตรวจจับภัย (detection engineering) โดยยังยึดหลักให้คนคอยดูและตัดสินใจขั้นสุดท้ายเสมอ (human-in-the-loop)
วางกติกาการกำกับดูแลการใช้ AI ในองค์กร (governance) ด้วย NIST AI RMF 1.0 + ISO/IEC 42001 แล้วโยงเข้ากับช่องโหว่ยอดฮิต (OWASP LLM Top 10) และ MITRE ATLAS ได้
มองออกและจัดการกับความเสี่ยงจากการแอบใช้ AI นอกสายตาองค์กร (Shadow AI) ด้วยการวางกติกาว่า AI ตัวไหนใช้ได้บ้าง (AI Acceptable Use Policy), ระบบกันข้อมูลรั่วผ่าน AI (DLP for AI) และการหาเครื่องมือที่องค์กรอนุมัติแล้วมาให้ใช้แทน
ทำให้ถูกต้องตามกฎหมายคุ้มครองข้อมูลของไทย (PDPA) และตามติดร่างแนวทางเรื่อง AI ของ PDPC พร้อมทำการประเมินผลกระทบต่อข้อมูลส่วนบุคคล (DPIA) และร่างสัญญาประมวลผลข้อมูล (DPA) ที่ระบุห้ามนำข้อมูลไปฝึกโมเดล