ใน ,

Pangram เปิดตัวเครื่องมือตรวจจับรูปภาพและวิดีโอที่สร้างด้วย AI

Pangram เปิดตัวเครื่องมือตรวจจับรูปภาพและวิดีโอที่สร้างด้วย AI พร้อมฟีเจอร์ Heatmap ชี้จุดต้องสงสัย และส่วนขยายบน Chrome

Pangram เปิดตัวเครื่องมือตรวจจับรูปภาพและวิดีโอที่สร้างด้วย AI

Pangram ผู้พัฒนาเครื่องมือตรวจจับข้อความที่สร้างด้วย AI ซึ่งมีผู้ใช้งานอย่างแพร่หลาย ได้เปิดตัวเครื่องมือใหม่สำหรับตรวจจับและแจ้งเตือนเนื้อหารูปภาพรวมถึงวิดีโอขยะที่สร้างขึ้นจาก AI (AI slop)

ระบบตรวจจับวิดีโอแยกแยะชิ้นงาน AI บางส่วนและทั้งคลิปได้

การอัปเดตครั้งนี้ทำให้ผู้สมัครสมาชิก Pangram สามารถอัปโหลดวิดีโอเพื่อรับการประเมินว่ามีการใช้ AI สร้างหรือแก้ไขคลิปดังกล่าวหรือไม่ ทางบริษัทระบุว่าตัวเครื่องมือสามารถแยกแยะความแตกต่างระหว่างคลิปที่มี AI ปะปนอยู่เพียงบางส่วน (partially AI) กับคลิปที่ถูกสร้างขึ้นโดย AI ทั้งหมด นอกจากนี้ยังมาพร้อมกับฟังก์ชัน Heatmap ที่ช่วยระบุว่าองค์ประกอบส่วนใดของวิดีโอที่มีแนวโน้มว่าจะเป็น AI

Pangram ระบุว่าโมเดลพื้นฐานเบื้องหลังความสามารถในการตรวจจับวิดีโอนั้น มีความโดดเด่นเป็นพิเศษในการตรวจจับวิดีโอจาก AI ระดับแนวหน้า (frontier AI) และจากการทดสอบพบว่าสามารถคัดแยกวิดีโอ AI ได้มีประสิทธิภาพเหนือกว่าเครื่องมือตรวจจับรายอื่นอย่างชัดเจน โดยผลการทดสอบภายในที่เปิดเผยระบุว่า โมเดลตรวจจับวิดีโอดังกล่าวสามารถตรวจจับเนื้อหา AI ได้แม่นยำมากกว่า 98%

สแกนภาพผ่านส่วนขยายบน Chrome และข้อจำกัดด้านความละเอียด

Pangram ยังได้อัปเกรดความสามารถในการตรวจจับภาพ AI เช่นกัน โดยก่อนหน้านี้ได้ปล่อยโมเดลรูปภาพเวอร์ชันพรีวิวสำหรับงานวิจัยในชื่อ Pangram Image 1.0 ซึ่งปัจจุบันเปิดให้ใช้งานผ่านส่วนขยายบน Chrome ของบริษัทแล้ว โดยระบบจะสแกนรูปภาพอัตโนมัติขณะท่องเว็บ และแจ้งเตือนภาพที่มีแนวโน้มจะสร้างด้วย AI

จากการทดสอบระบุว่า โมเดลรูปภาพสามารถตรวจจับภาพ AI ได้มากกว่า 99% โดยมีอัตราการแจ้งเตือนผิดพลาด (false positive) อยู่ที่ 0.27% อย่างไรก็ตาม เช่นเดียวกับเครื่องมือตรวจจับภาพ AI อื่น ๆ ที่ยังมีข้อจำกัดบางประการ โดยภาพที่มีความละเอียดต่ำกว่า 512 x 512 พิกเซล ผลลัพธ์จะแสดงข้อความแจ้งเตือนว่าความน่าเชื่อถือลดลง ซึ่งอาจอธิบายได้ว่าเหตุใดภาพตัวอย่างที่ Max Spero ซึ่งเป็นซีอีโอของ Pangram โพสต์แสดงการทำงานของส่วนขยาย Chrome บนเว็บไซต์ Pinterest จึงแสดงผลว่าไม่แน่ใจ (unsure) บนภาพ 2 ภาพที่เห็นได้ชัดว่าไม่ใช่ภาพถ่ายจริง

เบื้องหลังการพัฒนาเพื่อแยกแยะระบบประมวลผลกล้องสมาร์ตโฟน

Spero ชี้ให้เห็นถึงความท้าทายอื่นในการพัฒนาโมเดลตรวจจับภาพ โดยระบุผ่านโพสต์บน X ว่า กล้องสมาร์ตโฟนส่วนใหญ่รวมถึง iPhone มีการใช้ AI ปรับแต่งภาพถ่ายจริงหลังการถ่ายเพื่อเพิ่มรายละเอียด ทำให้ทีมงานต้องสร้างโมเดลที่รองรับการแต่งภาพลักษณะนี้ได้ดี พร้อมกับเข้าใจความต่างระหว่างการแต่งภาพด้วย AI และภาพที่ถูกสร้างขึ้นด้วย AI ทั้งหมด นอกจากนี้เขายังระบุกับ Pirate Wires ว่า ทางบริษัทจำเป็นต้องเลื่อนการเปิดตัวโมเดลตรวจจับภาพออกไปก่อน เพื่อนำมาทดสอบกับ iPhone 18 Pro หลายเครื่อง เนื่องจากในช่วงแรกโมเดลตรวจจับเข้าใจผิดว่ารูปภาพที่ถ่ายจากกล้องของสมาร์ตโฟนดังกล่าวเป็น AI

ฟีเจอร์ตรวจจับภาพและวิดีโอ AI ของ Pangram เปิดให้ใช้งานแล้วสำหรับผู้สมัครสมาชิก Pangram โดยผู้ใช้งานบัญชีฟรีสามารถนำรูปภาพมาตรวจสอบได้จำนวนหนึ่งโดยไม่ต้องสมัครแพ็กเกจแบบชำระเงิน

ที่มา: Engadget

ความคิดเห็น - Like เพจ iPhoneMod.net

เขียนโดย Krongkwun Rithiwong

Love exploring new technology. Decoding the future, one gadget at a time.