Nattida Suriyodara
OpenAI เตรียมใส่ลายน้ำที่มองไม่เห็นในข้อความจาก ChatGPT และ Codex สำหรับผู้ใช้ใน EU เพื่อให้สอดคล้องกับกฎความโปร่งใสของ EU AI Act
OpenAI เตรียมใส่ “ลายน้ำที่มองไม่เห็น” ในข้อความจาก ChatGPT และ Codex สำหรับผู้ใช้ EU
OpenAI ประกาศว่าจะเริ่มเพิ่มลายน้ำที่มองไม่เห็น หรือ Invisible Watermark ลงในข้อความที่สร้างโดย ChatGPT และ Codex สำหรับผู้ใช้ในสหภาพยุโรป เพื่อให้สอดคล้องกับข้อกำหนดด้านความโปร่งใสของ EU AI Act
กฎดังกล่าวมีผลบังคับใช้ตั้งแต่วันที่ 2 ส.ค. และกำหนดให้บริษัท AI ทำเครื่องหมายเนื้อหาที่สร้างโดย AI ในลักษณะที่ระบบอื่นสามารถตรวจจับได้
OpenAI ระบุว่า ระบบลายน้ำจะทยอยเปิดใช้งานในช่วงไม่กี่สัปดาห์ข้างหน้า สำหรับผู้ใช้ ChatGPT และ Codex ที่เข้าเกณฑ์ในทุกแพ็กเกจ แต่จะจำกัดเฉพาะผู้ใช้ใน EU เท่านั้น
ด้านนักพัฒนาที่ใช้งาน OpenAI API ทั่วโลก สามารถเปิดใช้ลายน้ำกับโมเดลบางรุ่นได้ตั้งแต่วันนี้ แต่ฟีเจอร์จะถูกปิดไว้เป็นค่าเริ่มต้น และ OpenAI ยังไม่มีแผนเปิดระบบ Text Watermarking เป็นค่าเริ่มต้นทั่วโลกในช่วงเปิดตัว
ลายน้ำไม่ได้เป็นสัญลักษณ์ แต่ซ่อนอยู่ในรูปแบบการเลือกคำ
ลายน้ำของ OpenAI ไม่ได้เป็นสัญลักษณ์หรือข้อความที่ผู้ใช้อ่านเห็น แต่ทำงานโดยปรับรูปแบบการเลือกคำของโมเดลอย่างละเอียด เพื่อทิ้งรูปแบบบางอย่างไว้ภายในข้อความ
ผู้อ่านทั่วไปจะไม่สามารถมองเห็นรูปแบบดังกล่าวได้ แต่ระบบตรวจจับสามารถตรวจพบได้ และเพราะลายน้ำฝังอยู่ในตัวคำ จึงยังคงติดไปกับข้อความแม้จะถูกคัดลอกและวางไปยังที่อื่น
OpenAI ระบุว่า ลายน้ำดังกล่าวไม่ได้ใช้ระบุตัวตนของผู้ใช้ และจากการทดสอบ บริษัทไม่พบการเปลี่ยนแปลงด้านประสิทธิภาพของโมเดลอย่างมีนัยสำคัญเมื่อเปิดใช้งานระบบ
เปิดเผยเทคนิค textGrain ร่วมกับนักวิจัยจาก UPenn และ Yale
OpenAI ยังเผยแพร่รายงานทางเทคนิคของวิธีการที่เรียกว่า “textGrain” พร้อมกับประกาศครั้งนี้ โดยรายงานดังกล่าวจัดทำร่วมกับนักวิจัยจาก University of Pennsylvania และ Yale
หลักการทำงานคือใช้ Secret Key เพื่อจัดกลุ่มตัวเลือกคำถัดไปที่โมเดลอาจสร้าง และค่อย ๆ ปรับการเลือกคำในแต่ละตำแหน่งของข้อความ
เมื่อการปรับเล็ก ๆ เหล่านี้สะสมกันเป็นจำนวนหลายร้อยครั้ง ระบบตรวจจับจะสามารถระบุรูปแบบที่บ่งชี้ว่าข้อความดังกล่าวถูกสร้างโดย AI ได้ โดยใช้เพียงตัวข้อความ และ Secret Key
แก้ข้อความเพียง 10% ก็ลดความแม่นยำในการตรวจจับได้มาก
OpenAI ยอมรับว่าลายน้ำสามารถถูกลดประสิทธิภาพหรือถอดออกได้ผ่านการแก้ไขข้อความ
ในการทดสอบหนึ่ง เมื่อแทนที่คำในข้อความประมาณ 10% ด้วยคำพ้องความหมาย อัตราการตรวจจับลดลงจากประมาณ 92% เหลือ 66%
OpenAI ยังระบุว่า ข้อความสั้น คำตอบทางคณิตศาสตร์ และข้อความที่ผ่านการแปลภาษา เป็นประเภทที่ตรวจจับได้ยากกว่า
ด้วยข้อจำกัดดังกล่าว บริษัทจึงตัดสินใจเปิดสิทธิ์เข้าถึง Detector ในช่วงแรกเฉพาะนักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับอนุมัติ เพื่อช่วยประเมินความน่าเชื่อถือและแนวทางการใช้งานอย่างรับผิดชอบ
ไม่มีลายน้ำ ไม่ได้แปลว่าเขียนโดยมนุษย์
OpenAI เตือนว่า การตรวจไม่พบลายน้ำไม่ได้หมายความว่าข้อความนั้นถูกเขียนโดยมนุษย์เสมอไป
ข้อความอาจสั้นเกินไป ถูกแก้ไขมากเกินไป หรืออาจถูกสร้างจากระบบ AI ของบริษัทอื่นที่ไม่ได้ใช้ลายน้ำแบบเดียวกัน
OpenAI ระบุเพิ่มเติมว่า ลายน้ำสามารถบอกได้เพียงว่าระบบของ OpenAI เคยสร้างหรือประมวลผลบางส่วนของข้อความนั้น แต่ไม่สามารถบอกได้ว่ามนุษย์มีส่วนในการตัดสินใจ แก้ไข หรือสร้างสรรค์เนื้อหามากน้อยเพียงใด
Anthropic ใช้ลายน้ำกับ Claude ทั่วโลกแล้ว
การประกาศของ OpenAI เกิดขึ้นราว 2 เดือนหลัง Anthropic เปิดเผยว่าจะเพิ่มลายน้ำให้กับข้อความที่สร้างโดย Claude และใช้แนวทางดังกล่าวทั่วโลก
การตัดสินใจของ Anthropic ได้รับเสียงวิจารณ์จากผู้ใช้ Claude บางส่วนที่มองว่า พวกเขาเป็นผู้ให้คำสั่ง บริบท และตัดสินใจด้านเนื้อหา ขณะที่ Claude เป็นเพียงเครื่องมือที่ใช้ช่วยสร้างข้อความ
OpenAI เองเคยพัฒนาระบบลายน้ำสำหรับข้อความมาก่อน แต่ยังไม่ได้เปิดใช้งาน โดยรายงานจาก The Wall Street Journal ในปี 2024 ระบุว่า หนึ่งในเหตุผลคือความกังวลว่าผู้ใช้อาจย้ายไปใช้บริการคู่แข่งที่ไม่ใส่ลายน้ำ
Anthropic, Google, Meta, Microsoft และ OpenAI เป็นส่วนหนึ่งของบริษัทที่ให้คำมั่นว่าจะปฏิบัติตาม Code of Practice ของ EU เกี่ยวกับเนื้อหาที่สร้างโดย AI
ที่มา: TechCrunch
