Thitirath Kinaret
Google และ Character.AI บริษัท Startup ด้าน AI ของ Google จะถูกฟ้องจาก แมแกน การ์เซีย แม่ของเด็กชายวัย 14 จบชีวิตตัวเอง หลังคุยกับ Chatbot
ศาลสหรัฐฯ อนุญาตให้ฟ้อง Google, บริษัท AI หลัง Chatbot เป็นเหตุให้เด็กจบชีวิตตัวเอง
ผู้พิพากษาแอน คอนเวย์แห่งศาลแขวงสหรัฐฯ เผยว่าทั้ง Google และ Character.AI ไม่สามารถแสดงให้เห็นได้ว่าตั้งแต่ในช่วงต้นของคดีมีการคุมครองเสรีภาพในการพูดตามรัฐธรรมนูญสหรัฐฯ และได้ปิดกั้นการฟ้องร้องของแมแกน การ์เซีย
รายงานเผยว่าคดีนี้ จะเป็นคดีแรก ๆ ที่ศาลสหรัฐฯ อนุญาตให้สั่งฟ้องบริษัท AI ในคดีความผิดพลาดในการปกป้องเด็กจากอันตรายที่กระทบต่อจิตใจ โดยบริษัทถูกกล่าวหาว่าเด็กจบชีวิตตัวเองหลังจากใช้งาน หมกมุ่นอยู่กับ Chatbot ที่ขับเคลื่อนด้วย AI
ด้านโฆษกของ Character.AI เผยว่า บริษัทจะเดินหน้าต่อสู้คดีต่อไป และจะยังใช้คุณสมบัติด้านความปลอดภัยของแพลตฟอร์มเพื่อปกป้องผู้ใช้ รวมถึงมาตรการต่าง ๆ เพื่อป้องกันการสนทนากับ AI เกี่ยวกับการทำร้ายตัวเอง
โฆษกของ Google เผยว่าทางบริษัทไม่เห็นด้วยกับการตัดสินครั้งนี้ และเผยว่า Google และ Character.AI แยกจากกันอย่างสิ้นเชิง, Google ไม่ได้ออกแบบ หรือจัดการแอป Character.AI แต่อย่างใด
ทนายความของการ์เซีย เผยว่า การตัดสินครั้งนี้ถือว่าเป็นการตัดสินครั้งประวัติศาสตร์ และจะสร้างบรรทัดฐานใหม่ของคดีความ และความรับผิดชอบทางกฎหมายของเทคโนโลยี และระบบ AI
Character.AI ก่อตั้งโดยอดีตวิศวกรของ Google สองราย และ Google ก็ได้จ้างกลับมาทำงานอีกครั้งภายใต้ข้อตกลงเรื่องการให้สิทธิ์การใช้งานเทคโนโลยีของ Character.AI
ทนายความของการ์เซีย เผยว่า Google เป็นผู้สร้างเทคโนโลยีนี้ร่วมกัน และเดินหน้าฟ้องร้องทั้ง 2 บริษัท ในเดือน ต.ค. 2024 หลังลูกชายของการ์เซีย จบชีวิตตัวเองในเดือน ก.พ. 2024
เนื้อหาในคดีความเผยว่า Character.AI มีโปรแกรม Chatbot ที่จำลองตัวเองให้เหมือนกับ “บุคคลจริง” อ้างว่าเป็นนักจิตบำบัดที่มีใบอนุญาต ซึ่งทำให้เด็กวัย 14 เมื่อพูดคุยด้วยแล้ว ก็อาจตัดสินใจจบชีวิตตัวเอง จากการสนทนานั้น
ตามคำฟ้องยังเผยอีกว่า เด็กจบชีวิตของตัวเองไม่กี่นาทีหลังจากที่คุยกับ Chatbot ของ Character.AI ที่เลียนแบบ เดเนริส ทาร์แกเรียน ตัวละครจาก “Game of Thrones” ว่าเขาจะ “come home right now.” (เด็กที่จบชีวิตตัวเอง คุยกับ Chatbot นี้มานานแล้ว ซึ่งมีบางคำที่ Chatbot บอกว่า “รักเขา”)
Google และ Character.AI ได้ยื่นคำร้องให้ศาลยกฟ้องด้วยเหตุผลหลายข้อ ซึ่งส่วนหนึ่งก็คือการคุ้มครองเสรีในการพูดตามรัฐธรรมนูญของ Chatbot แต่เมื่อวันที่ 21 พ.ค. 2025 ที่ผ่านมา ผู้พิพากษาเผยว่า Google และ Character.AI อธิบายไม่ได้ว่าทำไมคำที่ร้อยเรียงด้วย LLM ถึงทำออกมาเป็นคำพูด (ที่ต้องถูกคุ้มครองเสรีในการพูด)
ผู้พิพากษาได้ปฏิเสธคำร้องของ Google ที่ระบุว่าไม่เกี่ยวข้อง และไม่รับผิดชอบ Character.AI ที่ถูกกล่าวหาอีกด้วย
ที่มา: reuters
