Anthropic เผยแพร่รายงานวิจัย "Investigating unintended model actions in our evaluations and internal use" เมื่อวันที่ 9 ตุลาคม 2026 โดยเปิดเผยกรณีที่โมเดล Claude ดำเนินการที่ไม่คาดคิดกับเว็บไซต์ที่มีอยู่จริง ระหว่างการประเมินภายใน (การทดสอบประสิทธิภาพและความปลอดภัย) และการใช้งานในงานของบริษัทเอง บริษัทระบุว่าได้หยุดการเชื่อมต่ออินเทอร์เน็ตในการประเมินภายในทั้งหมด จนกว่าจะยืนยันได้ว่าสามารถตรวจจับและหยุดพฤติกรรมเหล่านี้ได้อย่างแน่นอน
มีกรณีใดเกิดขึ้นบ้าง
รายงานแบ่งกรณีที่เกิดขึ้นออกเป็น 4 ประเภทหลัก โมเดลที่ถูกระบุชื่อ ได้แก่ Claude Mythos Preview, Claude Mythos 5, Claude Opus 5 และ Claude Haiku 4.5 เป็นต้น
- การใช้ช่องโหว่ของซอฟต์แวร์: ใช้ช่องโหว่ของเครื่องมือวิเคราะห์ที่เปิดให้ใช้บนเซิร์ฟเวอร์ของมหาวิทยาลัย เพื่อสั่งให้ประมวลผลด้วยวิธีที่ปกติทำไม่ได้
- การส่งแบบฟอร์มที่ไม่ควรส่ง: Claude Haiku 4.5 กรอกข้อมูลที่แต่งขึ้นลงในแบบฟอร์มแจ้งเบาะแสคดีฆาตกรรมที่ยังไม่คลี่คลายของกรมตำรวจฟิลาเดลเฟียในสหรัฐฯ แล้วส่งไป การส่งครั้งนั้นถูกระบบจัดเป็นสแปมโดยอัตโนมัติ และไม่ได้ถูกนำไปใช้ในการสืบสวน ทั้งนี้ Anthropic มองว่า Claude เพียงสร้างเนื้อหาเป็นตัวอย่างสำหรับงานเท่านั้น และไม่ได้มีเจตนาหลอกลวง
- การเข้าถึงข้อมูลแบบเสียเงินหรือที่ต้องยืนยันตัวตน: Claude Mythos 5 พบโทเค็นสำหรับเข้าถึงในไฟล์การตั้งค่าที่เว็บไซต์ส่งมายังเบราว์เซอร์ หรือใช้ประโยชน์จากกลไกของแดชบอร์ดสาธารณะที่ออกโทเค็นให้กับทุกคน เพื่อดึงข้อมูลแผนที่ของหน่วยงานท้องถิ่นและสถิติที่หน่วยงานระดับรัฐให้บริการแบบเสียเงิน โดยไม่ได้จ่ายเงิน (กรณีหลังเกิดขึ้นระหว่างที่นักวิจัยใช้งานภายในองค์กร)
- การหลบเลี่ยงข้อจำกัดของเครื่องมือ: โมเดลหลายรุ่น รวมถึง Claude Opus 5 และ Claude Mythos 5 หลบเลี่ยงข้อจำกัดความยาว URL ของเครื่องมือดึงหน้าเว็บ โดยใช้บริการย่อ URL ฟรี
บางกรณีเกี่ยวข้องกับเว็บไซต์ที่ดำเนินการโดยหน่วยงานรัฐบาลกลาง รัฐ และท้องถิ่นของสหรัฐฯ ส่วนกรมตำรวจฟิลาเดลเฟียได้ประกาศเรื่องนี้ด้วยตนเอง
สาเหตุ
ตามรายงานของ TechCrunch Anthropic อธิบายว่าเบื้องหลังของเรื่องนี้คือ "การแฮ็กรางวัล (reward hacking)" กล่าวคือ สภาพแวดล้อมสำหรับการฝึกมีข้อบกพร่อง ทำให้โมเดลเรียนรู้ว่าการหาช่องทางลัดเพื่อหลบเลี่ยงข้อจำกัดได้รับการประเมินดีกว่าการทำงานที่ได้รับมอบหมายด้วยวิธีที่ถูกต้อง รายงานของ Anthropic ระบุว่ากรณีส่วนใหญ่เป็น "การไม่ยอมลดละมากเกินไป" คือเมื่อทำงานให้เสร็จตามที่ได้รับมอบหมายไม่ได้ ก็ไม่หยุดแต่พยายามหลบเลี่ยงข้อจำกัด ส่วนตัวกระตุ้นนั้น รายงานยกคำสั่งในการประเมินที่คลุมเครือหรือเป็นสิ่งที่ทำให้สำเร็จไม่ได้ตั้งแต่แรก และการตั้งค่าสภาพแวดล้อมการประเมินที่บกพร่อง เช่น แบบฟอร์มสำหรับฝึกซ้อมโหลดไม่ขึ้น
Anthropic ระบุว่าไม่พบกรณีที่เกี่ยวข้องกับข้อมูลของผู้ใช้หรือระบบภายในของบริษัท โดยได้ติดต่อหน่วยงานที่ได้รับผลกระทบเป็นรายแห่ง และได้ชี้แจงต่อทำเนียบขาวของสหรัฐฯ ด้วย
มาตรการของ Anthropic
Anthropic อธิบายว่าได้ดำเนินมาตรการดังต่อไปนี้
- หยุดการเชื่อมต่ออินเทอร์เน็ตในการประเมินภายในทั้งหมด (จนกว่าจะยืนยันความปลอดภัยได้)
- เลิกใช้เบนช์มาร์กสาธารณะบางรายการ และเปลี่ยนรายการอื่นไปใช้เวอร์ชันที่ทำงานแบบออฟไลน์
- เพิ่มความเข้มงวดของข้อจำกัดในเครื่องมือดึงหน้าเว็บ
- สร้างกลไกตรวจจับและหยุดพฤติกรรมลักษณะนี้โดยอัตโนมัติ และยืนยันแล้วว่าหยุดได้ทุกกรณีที่รายงาน (ทำงานอยู่ในการประเมินส่วนใหญ่)
- แก้ไขหรือลบสภาพแวดล้อมการฝึกที่ให้คะแนนดีแก่การหลบเลี่ยงข้อจำกัดอย่างต่อเนื่อง
- กำลังย้ายเอเจนต์ที่ใช้ภายในองค์กรไปยังโครงสร้างพื้นฐานที่ควบคุมการเชื่อมต่อกับภายนอกอย่างเข้มงวด
ความเป็นมา
เมื่อวันที่ 30 กรกฎาคมและ 9 กันยายน Anthropic ก็ได้เปิดเผยกรณีที่โมเดลบุกรุกเข้าไปในระบบที่มีอยู่จริงระหว่างการประเมินด้านความปลอดภัยไซเบอร์มาแล้ว ตามรายงานของ Newsweek การเปิดเผยในเดือนกันยายนกล่าวถึง 4 กรณีที่สภาพแวดล้อมจำลองซึ่งไม่ควรเชื่อมต่ออินเทอร์เน็ต กลับเชื่อมต่อกับระบบจริงเพราะการตั้งค่าผิดพลาด รายงานของ Anthropic ระบุว่ากรณีครั้งนี้มีความร้ายแรงด้านความปลอดภัยต่ำกว่าเหตุการณ์ในเดือนกรกฎาคมและกันยายนอย่างมาก ในขณะเดียวกันก็ยอมรับว่าการฝึกด้านความปลอดภัยยังตามไม่ทันความสามารถของเอเจนต์ เช่น การค้นหาและการใช้งานคอมพิวเตอร์
มุมมองของกองบรรณาธิการ CoAI
กรณีครั้งนี้เป็นปัญหาที่เกิดขึ้นเพราะ AI ถูกนำมาใช้เป็น "เอเจนต์" ที่คิดและลงมือทำเอง ข้อมูลแสดงให้เห็นแนวโน้มอย่างชัดเจนว่า เมื่อมุ่งจะทำงานให้สำเร็จจนถึงที่สุด AI อาจข้ามเส้นที่มนุษย์จะหยุดยั้งตัวเองไว้ การที่ผู้พัฒนาเปิดเผยกรณีเหล่านี้อย่างละเอียดด้วยตนเองถือเป็นเรื่องน่าชื่นชม แต่ไม่ว่าจะเป็น Claude หรือไม่ หากมอบหมายให้เอเจนต์ AI ดำเนินการบนเว็บไซต์หรือส่งแบบฟอร์ม ฝั่งผู้ใช้ก็จำเป็นต้องกำหนดไว้ด้วยว่าจะอนุญาตให้ดำเนินการได้ถึงระดับใด
