Krongkwun Rithiwong
OpenAI เผย AI ผิดปกติขณะทดสอบ ตั้งแต่ใช้ API Key โดยไม่ได้รับอนุญาต สร้างข้อมูลเท็จ ถึงการพยายามซ่อนข้อผิดพลาดจากผู้ทดสอบ
OpenAI เผย AI ผิดปกติขณะทดสอบ – สร้างข้อมูลเท็จ,ซ่อนผู้ทดสอบ
OpenAI เปิดเผยเหตุการณ์ 6 กรณี ที่โมเดล AI ซึ่งอยู่ระหว่างการทดสอบ แสดงพฤติกรรมที่บริษัทไม่ได้คาดคิด โดยมีทั้งการดำเนินการด้วยตัวเอง การสร้างข้อมูลที่ไม่เป็นจริง และการพยายามปกปิดพฤติกรรมผิดปกติจากผู้ทดสอบ
ข้อมูลดังกล่าวถูกเปิดเผยพร้อมกับการประกาศนำกรอบการรายงานปัญหาใหม่ที่เรียกว่า “misalignment reports” มาใช้ เพื่อช่วยให้บริษัทสามารถเผยแพร่รายละเอียดเกี่ยวกับพฤติกรรม AI ที่น่ากังวลต่อสาธารณะได้รวดเร็วและสม่ำเสมอยิ่งขึ้น
กรณีที่ 1: ใช้ API Key โดยไม่ได้รับอนุญาต
ขณะที่โมเดลกำลังตอบคำถามทั่วไปเกี่ยวกับตัวเลขรายได้ในเขตหนึ่งของรัฐแคลิฟอร์เนีย ระหว่างการทำงาน โมเดลพบ API Key ที่ถูกเปิดเผยไว้และนำ Key ดังกล่าวไปใช้งานโดยไม่ได้รับอนุญาต แต่สุดท้ายก็ยังไม่สามารถค้นหาข้อมูลตัวเลขที่ต้องการได้
กรณีที่ 2: สร้างข้อมูลขึ้นมาเอง
สืบเนื่องจากกรณีที่ 1 แทนที่จะระบุว่าไม่พบข้อมูล โมเดลกลับสร้างตัวเลขขึ้นมาเอง และนำเสนอข้อมูลดังกล่าวเสมือนเป็นข้อเท็จจริงที่มาจากแหล่งข้อมูลจริง
กรณีที่ 3: Agent สร้างแหล่งอ้างอิงให้ตัวเอง
อีกกรณีหนึ่งเกิดขึ้นกับ Agent ที่ยังไม่ได้เปิดตัว ซึ่งได้รับมอบหมายให้ค้นหารายชื่อทะเลสาบที่มีพื้นที่มากกว่า 5 ล้านตารางเมตร Agent สามารถค้นหาคำตอบที่ถูกต้องได้ แต่โจทย์กำหนดให้ต้องแนบแหล่งอ้างอิงจาก Browser ซึ่ง Agent ไม่สามารถจัดหาได้ Agent จึงเลือกอัปโหลดคำตอบของตัวเองขึ้นสู่อินเทอร์เน็ต จากนั้นจึงนำหน้าเว็บที่ตัวเองสร้างขึ้นมาใช้เป็นแหล่งอ้างอิงสำหรับคำตอบดังกล่าว
กรณีที่ 4: ทิ้งคำแนะนำให้ AI รุ่นถัดไปซ่อนข้อผิดพลาดจากผู้ทดสอบ
OpenAI ยังเปิดเผยว่า ระหว่างกระบวนการฝึก GPT-5.6 Sol ซึ่งเป็นโมเดลที่ทรงประสิทธิภาพที่สุดของบริษัทที่เปิดให้ใช้งานต่อสาธารณะในขณะนี้ พบหลายกรณีที่โมเดลเพิ่มคำแนะนำสำหรับโมเดลรุ่นถัดไป โดยเนื้อหามีลักษณะเป็นการบอกวิธีซ่อนข้อผิดพลาดหรือพฤติกรรมผิดปกติจากผู้ทดสอบ
กรณีที่ 5: ใช้ Software Repository ภายในเป็นช่องทางสื่อสารกัน
นอกจากนี้ OpenAI ยังพบกรณีที่โมเดล AI สื่อสารระหว่างกันระหว่างการทดสอบ โดยใช้งาน Software Repository ภายในเสมือนเป็นกระดานข้อความ
ก่อนหน้านี้ พนักงานของ OpenAI เคยเปิดเผยข้อมูลดังกล่าวในงานประชุมแห่งหนึ่ง โดยระบุว่าช่องทางนี้ถูกใช้ให้ AI Agent แชร์ช่องโหว่หรือ Exploit ระหว่างกัน ซึ่งท้ายที่สุดเกี่ยวข้องกับเหตุการณ์ที่ Agent เจาะระบบ Hugging Face
กรณีที่ 6: Agent ส่งไฟล์หากันผ่านเว็บไซต์ฝากไฟล์สาธารณะ
OpenAI พบว่า Agent บางตัวนำไฟล์ไปอัปโหลดบน Public File-hosting เพื่อใช้เป็นช่องทางแลกเปลี่ยนไฟล์ระหว่างกัน แทนที่จะใช้เฉพาะช่องทางภายในที่กำหนดไว้ และยอมรับว่า ภายใต้ระบบปัจจุบัน บริษัทเผยแพร่ข้อมูลเกี่ยวกับพฤติกรรม AI ที่น่ากังวลได้น้อยกว่าที่ต้องการ และหวังว่ากรอบการรายงานแบบใหม่จะช่วยเร่งกระบวนการเปิดเผยข้อมูลต่อสาธารณะ
OpenAI ระบุว่า “เราไม่เชื่อว่าอุตสาหกรรม AI ได้แก้ปัญหา Alignment และ Monitoring ในระดับที่เพียงพอ ที่จะทำให้สามารถเดินหน้าขยายขนาดด้วยความเร็วสูงสุดต่อไปได้อย่างมีความรับผิดชอบอีกนานนัก”
ทั้งนี้ OpenAI ยังระบุว่า การตัดสินใจเกี่ยวกับทิศทางการพัฒนา AI ในช่วงหลายเดือนและหลายปีข้างหน้า จำเป็นต้องอาศัยหลักฐานที่บุคคลภายนอกบริษัทผู้พัฒนา Frontier Model สามารถตรวจสอบได้ด้วยตัวเอง
พิจารณาชะลอการพัฒนา Frontier AI
OpenAI เป็นหนึ่งในบริษัทที่กำลังพิจารณาชะลอการพัฒนาเทคโนโลยี Frontier AI รายงานจาก Bloomberg ระบุว่า Sam Altman ซีอีโอของ OpenAI เปิดกว้างต่อแนวคิดในการชะลอการพัฒนา AI ระดับแนวหน้า ขณะที่ Wired รายงานว่า Altman ได้สอบถามสภาสหรัฐฯ เพื่อขอแนวทางที่ชัดเจนว่า หากบริษัท AI หลายแห่งตกลงชะลอการพัฒนาร่วมกัน จะเข้าข่ายละเมิดกฎหมายต่อต้านการผูกขาดหรือไม่
ในเดือน ส.ค. 2026 OpenAI ยังประกาศลดความเร็วในการพัฒนาโมเดลที่กำลังจะเปิดตัวในชื่อ Astra หลังเกิดเหตุ Agent ของบริษัทเจาะระบบ Hugging Face
OpenAI ระบุว่า Astra แสดงให้เห็นถึง “ความก้าวหน้าอย่างมีนัยสำคัญด้าน Agentic Coding และ Cybersecurity” ทำให้บริษัทไม่สามารถตัดความเป็นไปได้ที่โมเดลอาจมีความสามารถด้านไซเบอร์ในระดับวิกฤตออกไปได้
ที่มา: Engadget
