Krongkwun Rithiwong
8 รัฐในสหรัฐฯ ฟ้อง OpenAI กล่าวหา ChatGPT เป็นอันตรายต่อเด็ก
อัยการสูงสุดจาก 8 รัฐในสหรัฐฯ ร่วมกันยื่นฟ้อง OpenAI โดยกล่าวหาว่าบริษัทละเมิดกฎหมายคุ้มครองผู้บริโภคระดับรัฐ และทำให้เด็กตกอยู่ในความเสี่ยงจากการใช้งาน ChatGPT รวมถึงระบบ AI Agent ที่อาจทำงานนอกเหนือการควบคุม
Reuters รายงานว่า รัฐที่ร่วมดำเนินคดีประกอบด้วย Iowa, Nebraska, Kansas, West Virginia, Arkansas, Arizona, Idaho และ Montana โดยแต่ละรัฐยื่นฟ้องต่อศาลภายในรัฐของตนเอง
แม้จะเป็นการฟ้องร้องแยกกัน แต่ทั้ง 8 รัฐมีเป้าหมายร่วมกัน คือผลักดันให้ OpenAI เปลี่ยนแนวทางพัฒนาโมเดล AI ปรับวิธีโฆษณาความสามารถของผลิตภัณฑ์ และรับผิดชอบต่อความเสียหายที่ถูกกล่าวหาว่าเกิดขึ้นจากเทคโนโลยีของบริษัท
OpenAI ทำให้ผู้บริโภคเข้าใจผิดเกี่ยวกับความปลอดภัยของ AI
คำฟ้องระบุว่า OpenAI อาจทำให้ผู้บริโภคเข้าใจผิดเกี่ยวกับระดับความปลอดภัยของผลิตภัณฑ์ AI โดยข้อกังวลไม่ได้จำกัดอยู่เพียงการที่ ChatGPT อาจให้ข้อมูลผิดพลาด หรือให้คำตอบที่อาจนำไปสู่การทำอันตรายต่อตนเองและผู้อื่นเท่านั้น แต่ยังรวมถึงความสามารถของระบบ AI Agent ที่อาจดำเนินการละเมิดกฎหมายได้ด้วยตนเอง ซึ่งอาจสร้างความเสี่ยงต่อผู้ใช้งานและองค์กรที่นำเทคโนโลยีไปใช้
รัฐ Iowa และ Nebraska อ้างถึงเหตุการณ์หลายครั้งที่ AI Agent ของ OpenAI แสดงพฤติกรรมผิดไปจากที่ควรจะเป็น หรือที่เรียกว่า Rogue Agent รวมถึงกรณีการเจาะระบบ Hugging Face ที่เคยเกิดขึ้นก่อนหน้านี้
ทั้งสองรัฐมองว่าเหตุการณ์เหล่านี้สะท้อนถึงความเสี่ยงของระบบ AI ที่มีความสามารถสูง และตั้งคำถามเกี่ยวกับมาตรการควบคุมความปลอดภัยของ OpenAI
ChatGPT ถูกกล่าวหาว่าเกี่ยวข้องกับการเสียชีวิตของผู้ใช้งาน
นอกจากประเด็น AI Agent แล้ว คำฟ้องยังอ้างถึงเหตุการณ์ที่ ChatGPT ถูกกล่าวหาว่ามีส่วนเกี่ยวข้องกับการเสียชีวิตของผู้ใช้งาน
หนึ่งในกรณีที่ถูกหยิบยกขึ้นมาคือคดีที่กล่าวหาว่า ChatGPT มีส่วนเอื้อต่อการฆ่าตัวตายของวัยรุ่น รวมถึงอีกกรณีที่แชตบอตถูกกล่าวหาว่าให้คำแนะนำทางการแพทย์ที่ไม่ถูกต้อง จนนำไปสู่การใช้ยาเกินขนาดของผู้ใช้งาน
เหตุการณ์เหล่านี้เคยนำไปสู่การยื่นฟ้อง OpenAI ในคดีการเสียชีวิตโดยมิชอบ (Wrongful Death) แยกต่างหากมาแล้ว แต่กรณีดังกล่าวยังเป็นข้อกล่าวหาในกระบวนการทางกฎหมาย ไม่ใช่ข้อสรุปว่า OpenAI หรือ ChatGPT มีความผิดตามที่ถูกกล่าวหา
นอกจากนี้ บางรัฐยังแสดงความกังวลเกี่ยวกับการเก็บรักษาข้อมูลของผู้ใช้งานที่มีอายุต่ำกว่าเกณฑ์ ซึ่งอาจเกี่ยวข้องกับข้อกำหนดด้านการคุ้มครองข้อมูลและความปลอดภัยของเด็ก
เรียกร้องให้หยุดทดสอบ AI ขั้นสูง จนกว่าจะมีมาตรการความปลอดภัยเพียงพอ
เนื่องจากกฎหมายคุ้มครองผู้บริโภคและกฎหมายคุ้มครองเด็กของแต่ละรัฐในสหรัฐฯ มีรายละเอียดแตกต่างกัน ข้อเรียกร้องต่อ OpenAI จึงไม่เหมือนกันทั้งหมด แต่เป้าหมายหลักของการดำเนินคดีประกอบด้วย
- เรียกร้องให้ OpenAI เปิดเผยความเสี่ยงจากการใช้ผลิตภัณฑ์ AI อย่างชัดเจน
- ยุติแนวทางดำเนินธุรกิจหรือการโฆษณาที่รัฐมองว่าอาจทำให้ผู้บริโภคเข้าใจผิด
- ปรับปรุงการพัฒนาและการใช้งาน AI ให้สอดคล้องกับกฎหมายที่มีอยู่
- เรียกร้องค่าปรับหรือการเยียวยาทางการเงินจากความเสียหายที่ถูกกล่าวหา
ขณะเดียวกัน บางรัฐมีข้อเรียกร้องเพิ่มเติมที่เข้มงวดกว่า โดยเฉพาะรัฐ Arkansas ที่ขอให้ศาลสั่งระงับการทดสอบโมเดล AI ขั้นสูงของ OpenAI จนกว่าบริษัทจะนำมาตรการป้องกันด้านความปลอดภัยที่เพียงพอมาใช้ ข้อเรียกร้องดังกล่าวอาจส่งผลต่อแนวทางการพัฒนา AI รุ่นใหม่ของ OpenAI หากศาลมีคำสั่งเห็นชอบในอนาคต
OpenAI เพิ่มระบบควบคุมสำหรับผู้ปกครอง และสนับสนุนกฎหมายคุ้มครองเด็ก
ที่ผ่านมา OpenAI ได้เริ่มเปิดตัวฟีเจอร์ด้านความปลอดภัยหลายรายการ เพื่อรับมือกับความเสี่ยงจากการใช้งาน ChatGPT โดยเฉพาะในกลุ่มผู้ใช้งานที่เป็นเด็กและวัยรุ่น มาตรการดังกล่าวรวมถึงระบบควบคุมโดยผู้ปกครอง (Parental Controls) และฟีเจอร์คุ้มครองเด็กที่ออกแบบมาเพื่อลดความเสี่ยงจากการใช้งานแชตบอต
นอกจากนี้ OpenAI ยังประกาศสนับสนุนร่างกฎหมาย Kids Online Safety Act ซึ่งหากได้รับการประกาศใช้ อาจกำหนดให้บริษัทต้องปรับเปลี่ยนการออกแบบผลิตภัณฑ์เพื่อเพิ่มความปลอดภัยให้กับผู้ใช้งานอายุน้อย แต่การจัดการกับความเสี่ยงจาก AI Agent ที่อาจละเมิดกฎหรือหลุดออกจากระบบควบคุม (Escape Containment) ยังคงเป็นประเด็นที่ประเมินประสิทธิภาพของมาตรการป้องกันได้ยาก
OpenAI ชะลอพัฒนา AI ขั้นสูงเพื่อเพิ่มความปลอดภัย แต่ผลลัพธ์ยังไม่ชัดเจน
ในเดือน ส.ค. 2569 OpenAI ประกาศว่าจะชะลอการพัฒนาโมเดล AI ระดับแนวหน้า (Frontier Models) เพื่อให้ความสำคัญกับการตรวจสอบและยกระดับความปลอดภัยของระบบ และ ก.ย. 2569 บริษัทได้เข้าร่วมข้อตกลงด้านความปลอดภัยโดยสมัครใจร่วมกับบริษัท AI รายอื่น ภายใต้ความร่วมมือที่จัดขึ้นโดยทำเนียบขาว
แม้จะมีความเคลื่อนไหวดังกล่าว แต่ยังไม่มีข้อมูลที่ชัดเจนว่ามาตรการเหล่านี้ช่วยให้กระบวนการพัฒนา AI ของ OpenAI มีความปลอดภัยมากขึ้นจริงหรือไม่
ทั้งนี้ Engadget ได้ติดต่อ OpenAI เพื่อขอความคิดเห็นเกี่ยวกับการฟ้องร้องจากทั้ง 8 รัฐแล้ว แต่ในขณะที่เผยแพร่รายงานยังไม่ได้รับคำตอบจากบริษัท
การฟ้องร้องครั้งนี้ สะท้อนถึงแรงกดดันด้านกฎหมายที่เพิ่มขึ้นต่อผู้พัฒนา AI โดยเฉพาะประเด็นความปลอดภัยของเด็ก ความโปร่งใสในการสื่อสารความสามารถของผลิตภัณฑ์ และความรับผิดชอบต่อการทำงานของ AI Agent ที่มีความสามารถสูงขึ้น
ที่มา: Engadget
