ต้องมีคนตรวจทานเสมอ (human oversight): AI ช่วยคิด ไม่ใช่วินิจฉัยแทนหมอ
วิธีทำงานที่ถูกต้องคือให้ AI ช่วยร่าง แล้วให้คลินิกที่มีใบอนุญาตเป็นคนตรวจ แก้ และลงนาม คนที่รับผิดชอบคือคลินิก ไม่ใช่ตัวเครื่องมือ พูดง่าย ๆ คือห้ามปล่อยให้ AI ตัดสินใจทางการแพทย์เองแบบอัตโนมัติ ทุกสิ่งที่ AI ตอบออกมา (output) ที่มีผลต่อการรักษา ต้องผ่านสายตาคลินิกก่อนเสมอ หลักข้อนี้มีหลายอย่างหนุนหลังอยู่ ทั้งความรับผิดชอบทางวิชาชีพของแพทยสภา, กฎหมายคุ้มครองข้อมูลสุขภาพของสหรัฐฯ (HIPAA), พ.ร.บ.คุ้มครองข้อมูลส่วนบุคคลของไทย (PDPA) มาตรา 34 (ซึ่งจริง ๆ แล้วเป็นเรื่องสิทธิของเจ้าของข้อมูลที่จะขอให้ระงับการใช้ข้อมูล ส่วนเรื่องห้าม AI ตัดสินคนไข้เองนั้น ยืนอยู่บนความรับผิดทางวิชาชีพเป็นหลักมากกว่า) และเกณฑ์ของ FDA เรื่องเครื่องมือช่วยตัดสินใจทางคลินิก (CDS) ที่กำหนดว่าหมอต้องตรวจสอบที่มาของคำแนะนำได้ด้วยตัวเองอย่างอิสระ นอกจากนี้ กรอบจริยธรรมของ WHO เรื่องโมเดล AI ขนาดใหญ่ (WHO LMM ออก 18 ม.ค. 2024 พร้อมข้อเสนอแนะกว่า 40 ข้อ) ยังเตือนว่าอย่าเพิ่งเอาไปใช้งานจริง (deploy) ก่อนที่จะพร้อม เพราะเสี่ยงทั้งเรื่อง AI มั่วข้อมูล (hallucination) ความลำเอียงของข้อมูล (bias) และข้อมูลที่ไม่ครบ โดยเฉพาะเครื่องมือที่ทำมาให้คนทั่วไปใช้ และในพื้นที่ที่ทรัพยากรมีจำกัด
เมื่อ AI มั่วข้อมูล (hallucination) แล้วอันตรายถึงชีวิต และกับดักการเชื่อ AI มากไป (automation bias)
มีงานวิจัยแบบลองแหย่ AI ให้พลาด (adversarial) ในปี 2025 ที่เอา AI ชั้นนำ 6 ตัวมาทดสอบด้วยเคสจำลอง (vignette) 300 ชุด โดยแอบใส่ข้อมูลปลอมไว้ชุดละหนึ่งจุด ผลคือ AI เชื่อตามและขยายความข้อผิดพลาดนั้นสูงถึง 83% ถึงจะเขียนคำสั่งดัก (mitigation prompt) ช่วยไว้ ก็ลดได้แค่ราวครึ่งเดียว ไม่หมด งานทดสอบด้วยเคสจำลองชุดอื่นก็เจอตัวเลขราว 50-82% แม้แต่โมเดลที่ปรับจูนมาเฉพาะทางการแพทย์แล้วก็ยังมั่วได้ ส่วนใหญ่มาจากการที่มันคิดเหตุผลผิดพลาด (reasoning) จุดที่อันตรายก็เช่น อ้างอิงงานวิจัยปลอม (citation ปลอม) บอกขนาดยาหรือวิธีรักษาผิด หรือสรุปเรื่องราวของคนไข้ผิดเพี้ยน อีกกับดักหนึ่งคือการเชื่อ AI มากเกินไป (automation bias) ซึ่งแม้แต่หมอที่ผ่านการอบรมเรื่อง AI มาแล้ว ก็ยังถูกโน้มน้าวด้วยเหตุผลของ AI ที่ฟังดูมั่นใจแต่ผิดได้ (ตามงานใน medRxiv 2025) รวมถึงการพึ่ง AI จนเกินไป (over-reliance) และทักษะของคนเริ่มถดถอย (deskilling) ก็เป็นความเสี่ยงที่ตามมาเรื่อย ๆ ส่วนวิธีลดความเสี่ยง (จากงานทบทวนวรรณกรรม BMC ปี 2025-2026) ก็มีทั้ง การให้ AI อ้างอิงจากแหล่งข้อมูลจริง (RAG grounding) การแสดงที่มาและลิงก์หลักฐานให้เห็น (แบบ Abridge/OpenEvidence) การให้คนคอยตรวจสอบในทุกขั้นตอน (human-in-the-loop) และการฝึกและวัดผลโมเดลด้วยข้อมูลการแพทย์อย่างระมัดระวัง แต่ต้องย้ำว่าไม่มีวิธีไหนกำจัดความเสี่ยงได้หมด ดังนั้นการให้คนตรวจสอบทุกคำตอบที่มีผลต่อการรักษา จึงยังเป็นข้อบังคับอยู่ดี
ใครรับผิดชอบ และเครื่องมือแบบไหนที่อาจนับเป็นเครื่องมือแพทย์ (SaMD) ที่ต้องขออนุญาต
ไม่ว่าจะมี AI มาช่วยหรือไม่ หมอผู้รักษาก็ยังต้องรับผิดชอบทั้งทางกฎหมายและทางวิชาชีพอยู่เสมอ (ทั้งกับแพทยสภา ใบอนุญาต และความรับผิดกรณีรักษาผิดพลาด หรือ malpractice) หมายเหตุ: เท่าที่ค้นมายังไม่เจอกฎเรื่อง AI โดยเฉพาะจากแพทยสภา ฉะนั้นให้ยึดหลักง่าย ๆ ไว้ก่อนว่า "หมอเป็นคนรับผิดชอบคนสุดท้าย" แล้วค่อยไปเช็กกับแพทยสภาโดยตรงอีกที ทีนี้ ถ้า AI ทำหน้าที่วินิจฉัยโรคหรือคัดกรองความเร่งด่วนของคนไข้ (triage) มันมีแนวโน้มจะถูกจัดเป็นเครื่องมือแพทย์ที่ต้องขออนุญาต (ทั้งในเกณฑ์ FDA SaMD ของสหรัฐฯ, อย. ของไทย และกฎหมาย AI ของยุโรป EU AI Act ที่จัดว่าเป็นความเสี่ยงสูง) ยกตัวอย่างในสหรัฐฯ ถ้าเป็นเครื่องมือช่วยตัดสินใจ (CDS) ที่คลินิกตรวจสอบที่มาของคำแนะนำเองไม่ได้ หรือใช้ในสถานการณ์ที่ต้องรีบตัดสินใจแข่งกับเวลา (time-critical) ก็มีแนวโน้มจะถูกนับเป็นเครื่องมือแพทย์ ส่วนในไทย อย. ก็ออกแนวทางเรื่อง SaMD/AI มาแล้ว (ช่วง มิ.ย.-ต.ค. 2024) มีเรื่องฉลากปี 2568 และรหัสประจำเครื่องมือ (UDI) สำหรับ SaMD ที่จะเริ่ม 20 มิ.ย. 2569 เรื่องภาษาก็มีกฎอยู่: ถ้าเป็นเครื่องมือให้คนทั่วไปหรือใช้ที่บ้านต้องเป็นภาษาไทย ส่วนที่ใช้กับบุคลากรทางการแพทย์จะเป็นไทยหรืออังกฤษก็ได้ และห้ามเอาเครื่องมือวินิจฉัยไปเปิดใช้งานเองโดยที่ยังไม่ได้รับอนุมัติเด็ดขาด
เมื่อไหร่ห้ามใช้ AI และเมื่อไหร่ต้องบอกคนไข้
ก่อนจะตัดสินใจว่าจะใช้ AI กับงานนี้ดีไหม ลองถามตัวเองตามนี้: งานนี้แค่เอา AI มาช่วยคิด (decision-support) หรือปล่อยให้มันวินิจฉัยและตัดสินใจเองอัตโนมัติกันแน่? งานนี้มีข้อมูลสุขภาพของคนไข้ (PHI) เข้ามาเกี่ยว และเครื่องมือมีสัญญาคุ้มครองข้อมูล (BAA) หรือแพ็กเกจ (SKU) ที่คุ้มครองไว้แล้วหรือยัง? คำตอบที่ AI ให้มามีผลต่อการรักษาจนคลินิกต้องตรวจสอบให้ดี (verify) ก่อนหรือเปล่า ทั้งการอ้างอิง ขนาดยา แนวทางการรักษา หรือข้อมูลเฉพาะของคนไข้คนนั้น เพราะอย่าลืมว่าอัตราการมั่วข้อมูลสูงถึง 50-83%? เครื่องมือนี้อาจเข้าข่ายเป็นเครื่องมือแพทย์ (SaMD) ที่ต้องขออนุมัติหรือไม่? และควรจะบอกคนไข้ไหมว่าเราใช้ AI ด้วย? ถ้าข้อไหนดูเสี่ยง คำตอบที่ปลอดภัยที่สุดคือไม่ใช้ หรือชะลอไว้ก่อน ส่วนกรณีที่ห้ามใช้เด็ดขาดเลยก็เช่น เอาเครื่องเช็กอาการ (symptom checker) มาเป็นด่านคัดกรองคนไข้แบบอัตโนมัติ (เพราะความแม่นในการวินิจฉัยต่ำมาก แค่ 19-37.9%), เอาข้อมูลสุขภาพคนไข้ไปป้อนลงเครื่องมือที่ไม่มีสัญญาคุ้มครองข้อมูล (BAA), ปล่อยให้ AI ตัดสินใจเรื่องการรักษาเองโดยไม่มีคนคอยกำกับ (ขัดกับ PDPA มาตรา 34) และการเอาเครื่องมือวินิจฉัยที่เข้าข่าย SaMD ไปเปิดใช้งานทั้งที่ยังไม่ได้รับอนุมัติ