Krongkwun Rithiwong
พบแอป AI กว่า 400 แอป ซ่อนฟังก์ชัน Deepfake ภาพอนาจารและความรุนแรง หลุดผ่านการตรวจสอบขึ้น App Store และ Google Play Store
พบแอป AI ซ่อนฟังก์ชัน Deepfake ภาพอนาจารและความรุนแรงหลุดขึ้น App Store
แอปพลิเคชัน AI หลายร้อยแอปที่มีฟังก์ชันสร้างภาพ Deepfake เชิงลามกอนาจารและรุนแรงหลุดรอดการตรวจสอบเข้าไปอยู่บน App Store ของ Apple รวมถึง Google Play Store
การสืบสวนพบแอปมากกว่า 400 แอป ซึ่งดูเหมือนสร้างขึ้นโดยองค์กรเดี่ยวในจีน แอปเหล่านี้เปิดให้ผู้ใช้อัปโหลดรูปภาพเพื่อสร้าง Deepfake แนวอนาจารและความรุนแรงที่อาจถูกนำไปใช้คุกคามหรือข่มขู่เหยื่อได้
เครือข่ายแอปปลอมแปลงหน้าตาเป็นบริการทั่วไป
การสืบสวนจาก Wired ตรวจพบเครือข่ายโดเมนและแอปที่เชื่อมโยงกันมากกว่า 400 รายการซึ่งซ่อนฟังก์ชันที่ไม่เหมาะสมไว้ แอปเหล่านี้ เช่น Viefur ที่อ้างว่าใช้สำหรับแต่งตัวให้รูปถ่ายสัตว์เลี้ยง มักแอบอ้างว่าเป็นบริการที่ใช้งานในชีวิตประจำวัน เช่น แอปสอนภาษา หรือโค้ชออกกำลังกาย AI แต่เมื่อเข้าใช้งานภายใต้เงื่อนไขบางอย่าง ตัวแอปในเครือข่ายจะแอบโหลดหน้าเว็บอินเทอร์เฟซที่เปิดให้สร้างรูปภาพและวิดีโอลามกอนาจารแบบโจ่งแจ้งจากรูปถ่ายที่ผู้อัปโหลดส่งเข้าไป โดยมีฉาก AI ให้เลือก เช่น การล่วงละเมิดทางเพศในห้องนอน หรือฉากมีดข่มขู่ที่มีผู้ชายถือมีดจ่อคอผู้หญิง
โฆษณาบนโซเชียลมีเดียและกลโกงหลบเลี่ยงการตรวจสอบ
Wired ระบุว่าเครือข่ายนี้ซ่อนตัวอยู่อย่างเปิดเผยผ่านวิดีโอโฆษณาหลายพันชิ้นบน Facebook และ Instagram บางแอปเปิดให้ใช้งานมานานกว่า 1 ปี และผ่านการตรวจสอบจาก Apple, Google และ Meta มาได้ แม้แต่ละบริษัทจะมีนโยบายชัดเจนที่สั่งห้ามเนื้อหา Deepfake ที่เป็นอันตราย
ผู้สร้างใช้เทคนิคสับขาหลอกเพื่อผ่านขั้นตอนตรวจแอป โดยทั่วไปแอปจะแสดงเนื้อหาที่ไม่มีพิษภัย แต่การตรวจสอบผ่านเซิร์ฟเวอร์สามารถสั่งเปิดการทำงานของฟังก์ชันที่ซ่อนอยู่ได้ ซึ่งการดาวน์โหลดแอปหลังจากแตะโฆษณาฟังก์ชัน Deepfake บนแพลตฟอร์มของ Meta ดูเหมือนจะเป็นหนึ่งในเงื่อนไขเปิดใช้งาน หลังจากนั้นจะมีเทมเพลตรูปภาพและวิดีโอลามกหลายสิบแบบให้ดาวน์โหลด พร้อมระบบซื้อเครดิตเพื่อสร้างภาพ Deepfake จากรูปที่ผู้ใช้อัปโหลด
Apple และ Meta เริ่มดำเนินการจัดการเครือข่ายดังกล่าว
Apple ได้ลบแอปออกไปจำนวน 19 แอปหลังจากทาง Wired ส่งข้อมูลรายละเอียดให้ โดย Apple ชี้แจงว่ามีการตรวจสอบทุกแอปก่อนเผยแพร่ ซึ่งแอปเหล่านี้ปฏิบัติตามกฎในระหว่างขั้นตอนตรวจสอบ แต่หลังจากได้รับอนุมัติ ผู้พัฒนาได้แก้ไขเว็บไซต์ที่แอปดึงข้อมูลมาแสดง โดยเปลี่ยนเนื้อหาที่ได้รับอนุมัติไปเป็นเนื้อหาลามกอนาจาร และโปรโมตผ่านโฆษณาลามกบนแพลตฟอร์มภายนอก
Apple ได้เพิ่มมาตรการความปลอดภัยให้เข้มงวดขึ้นเพื่อป้องกันเทคนิคนี้แล้ว ขณะที่ทาง Meta ระบุว่าได้ดำเนินการจัดการบัญชีโฆษณาไปมากกว่า 10,000 บัญชีที่มีความเชื่อมโยงกับโดเมนที่เกี่ยวข้องกับแอปเหล่านี้
ที่มา: 9to5Mac
