Thitirath Kinaret
WIRED รายงานว่า Meta รันโฆษณาให้แอปบน App Store ที่สร้างภาพโป๊ปลอมด้วย AI ของบุคคลจริง โดยมีภาพคล้ายนักการเมืองสหรัฐฯ จน Apple ลบแอป AI สร้างภาพโป๊ ดังกล่าวทันที
Apple ลบแอป AI สร้างภาพโป๊ ที่โปรโมตผ่านโฆษณาของ Meta ออกจาก App Store
WIRED รายงานว่า Meta ได้รันโฆษณาให้กับแอปบน App Store ที่อนุญาตให้ผู้ใช้สร้างภาพโป๊ปลอมด้วย AI (Nudify) ของบุคคลที่มีตัวตนจริง โดยหนึ่งในโฆษณาดังกล่าวแสดงภาพผู้หญิงที่มีลักษณะคล้ายกับนักการเมืองหญิงชื่อดังของสหรัฐฯ
ตามรายงานของ WIRED แอปดังกล่าวมีชื่อว่า Kromix ซึ่งนำเสนอตัวเองเป็น “เครื่องมือปรับสไตล์ภาพด้วย AI” และมีการใช้เสียงบรรยายในวิดีโอโฆษณาว่าเครื่องมือนี้ “ไม่มีข้อจำกัด” โดยระบุว่า “ตัวละครทั้งหมดคือคนจริง” และบรรยายว่าเป็น “AI ที่ผู้ชายใช้งานจริง”
ในโฆษณาชิ้นหนึ่ง พบภาพผู้หญิงที่คล้ายกับนักการเมืองหญิงชื่อดังของสหรัฐฯ ยืนอยู่หน้าธงชาติสหรัฐฯ พร้อมคำบรรยายว่า “จะเป็นอย่างไรถ้าเธอเปลี่ยนไป?” จากนั้นผู้หญิงในภาพจะขยิบตา ก่อนที่โฆษณาจะตัดไปยังฉากที่ผู้หญิงที่มีใบหน้าเดียวกันกำลังแสดงในวิดีโอโป๊
รายงานระบุว่าทั้งสองบริษัทได้ดำเนินการทันทีหลังจาก WIRED ติดต่อเพื่อขอความคิดเห็น โดย Apple ได้ลบแอปดังกล่าวออกจาก App Store ขณะที่ Meta ได้นำแคมเปญโฆษณานี้ออก ซึ่งมีการรันโฆษณาถึง 32 ชิ้น โดยกำหนดกลุ่มเป้าหมายเป็นผู้ใช้เพศชายเท่านั้น
ในการตอบกลับ WIRED ทาง Apple ย้ำว่า Kromix ดูเหมือนจะเพิ่มเนื้อหา และฟีเจอร์ที่ต้องห้ามหลังจากผ่านการตรวจสอบเบื้องต้นของ App Store แล้ว พร้อมระบุว่า “เราสั่งห้ามแอปที่ออกแบบมาเพื่อสร้าง เผยแพร่ หรือบริโภคสื่อลามกอย่างเคร่งครัดเสมอมา แอปประเภท Nudification ขัดต่อแนวทางการตรวจสอบแอปของเรา และเราทำงานอย่างจริงจังเพื่อระบุและลบแอป รวมถึงบัญชีผู้พัฒนาที่พยายามหลีกเลี่ยงกระบวนการแ ละนโยบายของเรา”
คำชี้แจงของ Apple สอดคล้องกับกรณีเมื่อเดือนที่แล้ว เมื่อ David Chiu อัยการเมืองซานฟรานซิสโก เรียกร้องให้บริษัทลบแอป Nudify ราว 8 แอปออกจาก App Store
นอกจากนี้ WIRED ยังพบว่ามีโฆษณาที่มีปัญหาอีกหลายชิ้นบน Meta ที่เชื่อมโยงไปยัง MaskAI ซึ่งเป็นแอปบน App Store ที่อนุญาตให้ผู้ใช้อัปโหลดรูปภาพและสลับใบหน้าคนเข้าไปในสถานการณ์ทางเพศในลักษณะเดียวกัน ซึ่ง Apple ได้ลบแอปดังกล่าวออกเช่นกันหลังจาก WIRED ติดต่อสอบถาม
ที่มา: 9to5Mac
