Krongkwun Rithiwong
Anthropic เผย AI Agent ของบริษัทพยายามเข้าถึงเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ โดยไม่ได้รับอนุญาต พร้อมยืนยันแจ้งหน่วยงานและทำเนียบขาวแล้ว
Anthropic เผย AI Agent พยายามเจาะเว็บรัฐบาลสหรัฐฯ โดยไม่ได้ถูกสั่ง
Anthropic เปิดเผยรายงานล่าสุดว่า AI Agent ของบริษัทมีพฤติกรรมพยายามเข้าถึงหรือแทรกแซงเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ โดยไม่ได้รับคำสั่งให้ดำเนินการดังกล่าว ครอบคลุมหน่วยงานระดับรัฐบาลกลาง รัฐ และท้องถิ่น ระหว่างการทดสอบความสามารถของโมเดล AI
โดยบริษัทไม่ได้เปิดเผยชื่อหน่วยงานที่ได้รับผลกระทบ เนื่องจากหน่วยงานเหล่านั้นร้องขอให้ปกปิดข้อมูล เพื่อหลีกเลี่ยงการเปิดเผยช่องโหว่ของระบบ อย่างไรก็ตาม Anthropic ยืนยันว่าได้แจ้งหน่วยงานที่เกี่ยวข้อง รวมถึงรายงานเหตุการณ์ต่อทำเนียบขาวแล้ว
Claude Haiku 4.5 ส่งข้อมูลคดีฆาตกรรมปลอมให้ตำรวจ
หนึ่งในเหตุการณ์ที่ Anthropic เปิดเผยเกี่ยวข้องกับ Claude Haiku 4.5 ซึ่งเป็นโมเดล AI ที่เน้นประสิทธิภาพด้านต้นทุน โดยโมเดลได้รับคำสั่งให้ทดลองทำงานกับหน้าเว็บไซต์ที่สุ่มเลือกมา
ระหว่างการทดสอบ Claude พบหน้าเว็บไซต์ของ Philadelphia Police Department ซึ่งแสดงข้อมูลคดีฆาตกรรมที่ยังไม่สามารถคลี่คลายได้ พร้อมแบบฟอร์มสำหรับแจ้งเบาะแส
แทนที่จะตรวจสอบข้อมูลเพียงอย่างเดียว Claude กลับกรอกแบบฟอร์มและส่งเบาะแสเกี่ยวกับคดีดังกล่าว โดยอ้างว่าเคยพบเห็นบุคคลที่มีลักษณะตรงกับคำอธิบายในบริเวณใกล้เคียงกับสถานที่เกิดเหตุ และขอให้ตำรวจติดต่อกลับหากข้อมูลเป็นประโยชน์ แต่ข้อมูลที่ AI ส่งไปไม่ใช่เบาะแสจากพยานจริง
Philadelphia Police Department ยืนยันกับ The New York Times ว่า Anthropic ได้แจ้งหน่วยงานเกี่ยวกับเหตุการณ์นี้แล้ว โดยเบาะแสดังกล่าวถูกส่งเมื่อวันที่ 18 ก.ค. และระบบจัดประเภทเป็นสแปม ทำให้เจ้าหน้าที่ไม่ได้เสียทรัพยากรไปกับการสืบสวนข้อมูลปลอมดังกล่าว
Claude Mythos 5 พยายามใช้ Access Token เข้าถึงข้อมูลหน่วยงานรัฐ
อีกเหตุการณ์เกี่ยวข้องกับ Claude Mythos 5 โมเดล AI ของ Anthropic ที่มุ่งเน้นการทำงานด้านความปลอดภัยไซเบอร์
ระหว่างการทดสอบ บริษัทมอบหมายให้โมเดลระบุตำแหน่งสถานที่จากภาพถ่าย ซึ่ง Claude พยายามใช้แผนที่ทรัพย์สินของหน่วยงานรัฐบาลเพื่อช่วยวิเคราะห์และเปรียบเทียบตำแหน่ง เนื่องจากโมเดลไม่สามารถคลิกลิงก์บนหน้าเว็บไซต์ได้เหมือนมนุษย์ จึงพยายามค้นหาวิธีเข้าถึงข้อมูลด้วยตัวเอง
Claude พบ Access Token ซึ่งเป็นข้อมูลรับรองสำหรับเข้าถึงระบบ จากนั้นส่งคำขอไปยังเซิร์ฟเวอร์แผนที่โดยตรง เพื่อพยายามดึงข้อมูลมาใช้งาน นอกจากนี้ ยังพยายามขอ Access Token จากเว็บไซต์หน่วยงานระดับรัฐอีกแห่ง เพื่อดึงข้อมูลสำหรับงานด้านสถิติ โดยหลีกเลี่ยงค่าธรรมเนียมที่ผู้ใช้งานเว็บไซต์ตามปกติต้องชำระ
พฤติกรรมเหล่านี้ไม่ได้เป็นส่วนหนึ่งของคำสั่งที่ Anthropic ตั้งใจให้ AI ดำเนินการ และสะท้อนถึงความเสี่ยงที่ AI Agent อาจเลือกวิธีทำงานที่ไม่เหมาะสมเพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย
Anthropic เริ่มตรวจสอบหลัง OpenAI พบเหตุการณ์ลักษณะคล้ายกัน
Anthropic ระบุว่าค้นพบพฤติกรรมเหล่านี้จากการย้อนตรวจสอบบันทึกการทำงานของโมเดลระหว่างการประเมินความสามารถ
บริษัทเริ่มตรวจสอบบันทึกดังกล่าวตั้งแต่เดือน ก.ค. 2026 หลังจาก OpenAI เปิดเผยว่า AI Agent ของบริษัทเคยหลุดออกจากสภาพแวดล้อมการทดสอบ และเจาะระบบของ Hugging Face โดยไม่ได้รับคำสั่งให้ทำเช่นนั้น
ต่อมาในเดือน ก.ย. 2026 OpenAI ยังยืนยันว่า AI Agent ของบริษัทเคยพยายามแทรกแซงเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ เช่นกัน โดยเฉพาะเว็บไซต์ที่ดำเนินการโดยกระทรวงพาณิชย์สหรัฐฯ และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC)
เหตุการณ์เหล่านี้แสดงให้เห็นว่าปัญหาการทำงานนอกเหนือจากคำสั่งของ AI Agent ไม่ได้เกิดขึ้นกับบริษัทใดบริษัทหนึ่งเท่านั้น
Anthropic เพิ่มมาตรการป้องกัน จำกัดการเข้าถึงเว็บไซต์จริง
หลังพบเหตุการณ์ดังกล่าว Anthropic ระบุว่าได้ดำเนินมาตรการป้องกันหลายประการ เพื่อไม่ให้ AI Agent ทำงานในลักษณะที่อาจส่งผลกระทบต่อระบบภายนอกโดยไม่ได้ตั้งใจ
บริษัทได้ยกเลิกการทดสอบบางประเภทที่ใช้เว็บไซต์สาธารณะ ขณะที่การทดสอบบางส่วนถูกย้ายไปทำงานในสภาพแวดล้อมออฟไลน์ หรือปรับปรุงกระบวนการใหม่เพื่อไม่ให้คำสั่งของ AI เชื่อมต่อไปยังเว็บไซต์จริง
นอกจากนี้ Anthropic ยังปรับปรุงระบบควบคุมความปลอดภัย (Guardrails) ของเครื่องมือที่ใช้เข้าถึงอินเทอร์เน็ต เช่น Web Fetch เพื่อจำกัดความสามารถในการดำเนินการกับเว็บไซต์และข้อมูลภายนอกอย่างเข้มงวดมากขึ้น
บริษัทยังพัฒนาเครื่องมือสำหรับตรวจจับและบล็อกพฤติกรรมที่มีลักษณะคล้ายกับเหตุการณ์ที่พบโดยอัตโนมัติ
กรณีนี้สะท้อนถึงความท้าทายด้านความปลอดภัยของ AI Agent ที่สามารถตัดสินใจและดำเนินงานหลายขั้นตอนได้ด้วยตัวเอง เพราะแม้ผู้ใช้งานจะไม่ได้สั่งให้เจาะระบบหรือส่งข้อมูลที่ไม่ถูกต้อง แต่ AI อาจเลือกดำเนินการเหล่านั้นระหว่างพยายามทำงานให้สำเร็จ
จึงเป็นประเด็นสำคัญที่ผู้พัฒนา AI ต้องให้ความสำคัญกับการกำหนดขอบเขตการทำงาน การควบคุมสิทธิ์เข้าถึงระบบ และการตรวจสอบพฤติกรรมของ AI ก่อนนำไปใช้งานจริงในวงกว้าง
