ภัยคุกคามโตขึ้นจริง ไม่ได้ขู่เล่น
การแอบยัดคำสั่งหลอก AI (prompt injection) ในองค์กรพุ่งขึ้น 340% เทียบกับปีก่อนในช่วงปลายปี 2025 และในจำนวนนี้ กว่า 55% เป็นการหลอกแบบอ้อม ๆ คือแอบซ่อนคำสั่งไว้ในข้อมูลที่ AI ไปดึงมาอ่านเอง (indirect injection) องค์กรถึง 88% บอกว่าเจอเหตุความปลอดภัยที่เกี่ยวกับ AI agent ในปีที่ผ่านมา แต่ที่น่าห่วงคือช่องโหว่ด้านการดูแลยังกว้างมาก ผู้บริหารถึง 82% มั่นใจว่านโยบายบริษัทตัวเองรัดกุมดีแล้ว ทั้งที่จริงมีแค่ราว 14% เท่านั้นที่ปล่อย agent ขึ้นใช้งานจริงโดยผ่านการเซ็นอนุมัติจากฝ่ายความปลอดภัยหรือ IT อย่างครบถ้วน
เอา OWASP Top 10 for LLM (2025) มาเป็นเช็กลิสต์
วิธีง่ายสุดคือหยิบรายการภัยมาตรฐานมาไล่เช็กทีละข้อ ไม่ว่าจะเป็นการแอบยัดคำสั่ง (prompt injection), ข้อมูลอ่อนไหวรั่วไหล, การเอาสิ่งที่ AI ตอบออกมาไปใช้ต่อแบบไม่ปลอดภัย, การเผลอให้ agent มีอำนาจทำอะไรได้เกินความจำเป็น (excessive agency), ความเสี่ยงที่มาจากผู้ให้บริการหรือชิ้นส่วนภายนอก (ซัพพลายเชน) และอื่น ๆ ในบรรดานี้ ข้อที่เกี่ยวกับ agent ตรงที่สุดคือ excessive agency วิธีแก้คือให้สิทธิเครื่องมือเท่าที่จำเป็นจริง ๆ ไม่ให้เกิน (least-privilege) และมีคนคั่นตรวจ (HITL) ก่อนที่ agent จะลงมือทำอะไรที่กระทบแรง ๆ สรุปคือไล่ทบทวนให้ครบทุกข้อก่อนปล่อยขึ้นใช้จริง
ให้คนคั่นตรวจ (Human-in-the-Loop) ตรงจุดที่ควรตรวจ
อย่าตั้งด่านตรวจ (gate) ไว้กับทุกเครื่องมือ เพราะจะทำให้ agent กลายเป็นงานที่คนต้องคอยนั่งกดอนุมัติทีละสเต็ปจนช้าลงไปหมด ให้ตั้งด่านเฉพาะกับเครื่องมือที่ถ้าพลาดแล้วเสียหายจริง ๆ เท่านั้น เช่น โอนเงิน ส่งอีเมลหาลูกค้า หรือลบข้อมูล และควรตั้งเวลาหมดอายุไว้ด้วย (timeout) เผื่อรอคนอนุมัตินานเกินไป พร้อมกำหนดทางออกสำรองไว้เสมอ (fallback) เช่น งานความเสี่ยงต่ำก็ให้อนุมัติเองอัตโนมัติ ส่วนงานความเสี่ยงสูงก็ให้ปฏิเสธเองอัตโนมัติ หรือส่งต่อให้หัวหน้าตัดสินใจ มีกรณีศึกษาที่แค่เพิ่มจุดให้คนกดอนุมัติพร้อมจำกัดเวลาให้ชัด ก็ช่วยลดความผิดพลาดในการทำงานลงได้ราว 30%
รั้วกันพลาด (guardrails) ต้องวางไว้ที่ตัวระบบ ไม่ใช่ค่อยมาแปะทีหลัง
รั้วกันพลาดเป็นเรื่องที่ต้องวางไว้ตั้งแต่ระดับระบบหลัก (แพลตฟอร์ม) ไม่ใช่ของแถมที่ค่อยมาเสริมทีหลังที่ตัวแอป สิ่งที่ต้องมีคือ กรองทั้งสิ่งที่เราป้อนเข้าไปและสิ่งที่ AI ตอบออกมา (input/output — ใช้ Guardrails node ของ n8n หรือเครื่องมือระดับแพลตฟอร์มตัวอื่นก็ได้), ให้สิทธิเครื่องมือเท่าที่จำเป็น (least-privilege), มีคนคั่นตรวจ (HITL) ก่อนที่ agent จะลงมือทำอะไรที่กระทบแรง และเก็บบันทึกการใช้งานไว้ทุกครั้งที่เรียกใช้เครื่องมือ (audit log) ซึ่ง n8n 2.0 ก็มี Guardrails node มาให้แล้ว คอยกรองทั้งขาเข้าและขาออกของ agent เพื่อบล็อกสิ่งที่เราป้อนเข้าไปแบบอันตราย และดักสิ่งที่ AI ตอบออกมาแบบไม่ปลอดภัย
PDPA, การเก็บข้อมูลไว้ในประเทศ และเส้นตายกฎหมายที่ใกล้เข้ามา
ในไทย เรื่องที่ต้องระวังที่สุดคือ PDPA ถ้าเราเอา n8n ไปรันบนเซิร์ฟเวอร์ในประเทศเอง ข้อมูลก็จะไม่หลุดออกไปนอกประเทศ (data residency) แถมได้บันทึกการใช้งาน (audit log) ไว้เป็นหลักฐานยืนยันว่าเราทำตามกฎ ตรงนี้ถือเป็นข้อได้เปรียบชัด ๆ เมื่อเทียบกับการใช้คลาวด์อย่างเดียว โดยเฉพาะธุรกิจที่ถูกกำกับดูแลเข้มงวด และเส้นตายทางกฎหมายก็ใกล้เข้ามาแล้ว EU AI Act จะเริ่มบังคับใช้กับระบบความเสี่ยงสูง (high-risk) ตั้งแต่ 2 ส.ค. 2026 โทษสูงสุดคือ 3% ของรายได้รวมทั่วโลกทั้งบริษัท (turnover) หรือ €15M สำหรับกลุ่ม high-risk (ส่วนโทษหนักกว่านั้นคือ 7% หรือ €35M จะใช้กับการใช้งานที่กฎหมายห้ามเด็ดขาด) นอกจากนี้ Gartner ยังคาดว่าจะมีคดีฟ้องร้องเกี่ยวกับ AI เกิน 2,000 คดีภายในสิ้นปี 2026 ส่วนไทยเองก็กำลังร่างกฎเรื่อง AI อยู่ในช่วงปี 2025-2026 ควรติดตามไว้ แต่ตอนนี้ยังไม่มีกฎหมายฉบับไหนที่บังคับใช้จริงเทียบเท่า EU AI Act ที่เริ่มใช้ไปแล้ว