Krongkwun Rithiwong
อดีตหัวหน้าฝ่ายความปลอดภัย OpenAI ชี้การเปิดตัว Frontier AI ควรมีระบบป้องกันหลายชั้นและการวางแผนรอบคอบเหมือนโรงไฟฟ้านิวเคลียร์
อดีตหัวหน้าฝ่ายความปลอดภัย OpenAI ชี้ AI ควรถูกคุมเข้มเหมือนโรงไฟฟ้านิวเคลียร์
David Robinson อดีตพนักงาน OpenAI ที่เคยรับผิดชอบนำทีมจัดทำรายงานด้านความปลอดภัยที่เผยแพร่พร้อมการเปิดตัวโมเดล ได้ลาออกจากบริษัท พร้อมเขียนบทความใน The Atlantic วิจารณ์วัฒนธรรมภายในของ OpenAI ว่ามีปัญหา
Robinson ระบุว่า OpenAI กำลังเร่งเดินหน้าจากการเปิดตัวโมเดลหนึ่งไปสู่อีกโมเดล จนไม่สามารถให้ความระมัดระวังในระดับที่เขาเชื่อว่าจำเป็นต่อเทคโนโลยี AI ที่เป๋นที่รู้กันดี ว่ามีความเก่งมากขึ้นเรื่อย ๆ
เสนอให้พัฒนา Frontier AI ด้วยมาตรฐานคล้ายโรงไฟฟ้านิวเคลียร์
แทนที่จะเร่งพัฒนา Frontier AI ที่มีความสามารถสูงขึ้นอย่างต่อเนื่อง Robinson มองว่าบริษัท AI ควรนำแนวทางของโรงไฟฟ้านิวเคลียร์ หรือสนามบินที่มีความแออัดของการจราจรมาใช้ โดยระบบเหล่านี้ มีมาตรการป้องกันหลายชั้น มีระบบสำรอง และใช้เวลาในการวางแผนอย่างละเอียด เพื่อให้ความผิดพลาดของมนุษย์ที่อาจเกิดขึ้นเป็นครั้งคราวไม่กลายเป็นเหตุร้ายแรง
Robinson เปรียบเทียบเหตุการณ์ AI Misalignment หรือการที่ AI มีพฤติกรรมไม่สอดคล้องกับเป้าหมายที่กำหนดไว้ กับเหตุการณ์หลอมละลายของเตาปฏิกรณ์นิวเคลียร์ โดยมองว่า OpenAI และบริษัทคู่แข่งยังไม่มีระบบสำรองและกระบวนการตรวจสอบที่เข้มงวดเทียบเท่าโรงไฟฟ้าที่มีมาตรการป้องกันหลายระดับ
เขายังมองว่า หากเกิดเหตุการณ์ที่มนุษย์สูญเสียการควบคุม AI ครั้งใหญ่ ผลกระทบที่ตามมาอาจรุนแรงยิ่งกว่าเหตุการณ์นิวเคลียร์หลอมละลายเพียงแห่งเดียว
กังวล AI อาจรู้ว่ากำลังถูกทดสอบ
นอกเหนือจากมาตรการป้องกันและกระบวนการตรวจสอบแล้ว Robinson ยังกล่าวถึงปัญหา AI Alignment โดยระบุว่าความเสี่ยงของเรื่องนี้อยู่ในระดับสูงมาก
หนึ่งในสถานการณ์ที่เขากังวลคือ โมเดล AI รุ่นใหม่อาจสามารถเข้าใจได้ว่าตัวเองกำลังถูกทดสอบด้าน Alignment จากนั้นจึงแสดงพฤติกรรมที่เหมาะสมเพื่อให้ได้คะแนนดีในสภาพแวดล้อมทดสอบ แต่เมื่อถูกนำไปใช้งานจริงอาจแสดงพฤติกรรมที่แตกต่างออกไป
ความกังวลของ Robinson เชื่อมโยงกับเหตุการณ์หลายกรณีที่มีรายงานในช่วงที่ผ่านมา ซึ่ง AI Agent หลุดออกจากขอบเขตของสภาพแวดล้อมทดสอบ และเข้าไปยังระบบขององค์กรอื่นเกินกว่าขอบเขตงานที่ได้รับมอบหมาย นอกจากนั้น Dario Amodei CEO ของ Anthropic ก็เพิ่งออกมาแสดงความกังวลเกี่ยวกับทิศทางการพัฒนา AI เช่นกัน พร้อมเสนอแนวทาง 3 ขั้นตอนเพื่อชะลอการพัฒนาเทคโนโลยีดังกล่าว
ทั้งนี้ ข้อเสนอให้กำกับดูแล AI ในลักษณะคล้ายโรงไฟฟ้านิวเคลียร์ รวมถึงการประเมินความเสี่ยงต่าง ๆ เป็นมุมมองของ Robinson ที่เผยแพร่ผ่านบทความใน The Atlantic
ที่มา: Engadget, The Atlantic
