Thitirath Kinaret
แอป AI อย่าง Grok ถูกกดดันด้านความปลอดภัย หลังพบปัญหาภาพ Deepfake เชิงเพศจากผู้ใช้ ประเด็นนี้ทำให้ Apple ขู่ถอด Grok ออกจาก App Store
Apple ขู่ถอด Grok ออกจาก App Store
Apple ได้ส่งคำเตือนไปยัง xAI ของ Elon Musk แบบไม่เปิดเผยต่อสาธารณะในช่วงเดือน ม.ค. ว่าอาจ ถอด Grok ออกจาก App Store หากไม่จัดการปัญหาการสร้างภาพโป๊ และ Deepfake เชิงเพศจากระบบแชตบอต (โดยข้อมูลดังกล่าวมาจากจดหมายที่ส่งถึงวุฒิสมาชิกสหรัฐฯ และถูกเปิดเผยโดย NBC News)
ก่อนหน้านี้ Grok ถูกวิจารณ์อย่างหนัก หลังผู้ใช้บนแพลตฟอร์ม X แชร์ภาพเชิงเพศที่สร้างโดย AI ซึ่งหลายภาพเป็นการดัดแปลงจากบุคคลจริงโดยไม่ได้รับความยินยอม รวมถึงผู้หญิง และเด็ก ทำให้เกิดข้อกังวลด้านความปลอดภัย และจริยธรรมอย่างมาก
รายงานระบุว่า Apple ไม่ได้แสดงจุดยืนต่อสาธารณะในช่วงแรก แต่ภายในบริษัทได้ตรวจพบว่าทั้ง X และ Grok ละเมิดแนวทางของ App Store และได้เรียกร้องให้มีแผนควบคุมเนื้อหา (content moderation) อย่างชัดเจน
Apple ปฏิเสธแนวทางแก้ไขเบื้องต้นของ xAI โดยระบุว่า “ยังไม่เพียงพอ” และย้ำว่า จำเป็นต้องมีการปรับปรุงเพิ่มเติม มิฉะนั้นจะถูกลบออกจาก App Store อย่างไรก็ตาม หลังจากมีการแก้ไขหลายรอบ แอปจึงได้รับการอนุมัติให้ใช้งานต่อ
ประเด็นนี้ถูกหยิบยกขึ้นหลังวุฒิสมาชิก Ron Wyden, Ben Ray Luján และ Edward Markey ส่งจดหมายถึง Apple และ Google เรียกร้องให้ถอดแอปที่เกี่ยวข้อง โดยชี้ว่าภาพดังกล่าว เข้าข่ายเนื้อหาที่ผิดกฎด้านความไม่เหมาะสม และการแสวงหาประโยชน์
วุฒิสมาชิกยังตั้งข้อสังเกตว่า การตอบสนองของ Apple จะเป็นบททดสอบสำคัญ เนื่องจากบริษัทมักย้ำว่า App Store ที่มีการคัดกรองอย่างเข้มงวดช่วยเพิ่มความปลอดภัยให้ผู้ใช้ หากยังปล่อยให้เกิดเนื้อหาลักษณะนี้ อาจกระทบต่อความน่าเชื่อถือทั้งในสายตาสาธารณะ และในเชิงกฎหมาย
หลังข่าวถูกเผยแพร่, X ได้ออกแถลงการณ์ยืนยันว่า ห้ามการสร้าง Deepfake เชิงเพศโดยไม่ได้รับความยินยอม และมีระบบป้องกันหลายชั้น เช่น การตรวจสอบการใช้งาน การวิเคราะห์การหลบเลี่ยงแบบเรียลไทม์ การอัปเดตโมเดล และการกรองคำสั่ง (prompt filters)
แม้ว่าปริมาณภาพ Deepfake เชิงเพศจาก Grok จะลดลงอย่างเห็นได้ชัด แต่รายงานพบว่ายังสามารถสร้างเนื้อหาลักษณะนี้ได้อยู่ โดยผู้ใช้บางรายปรับวิธีการพิมพ์คำสั่งเพื่อหลีกเลี่ยงระบบป้องกัน
ที่มา: MacRumors
