Krongkwun Rithiwong
Anthropic พบผู้ใช้ Claude ช่วยงานวิจัย ที่อาจเกี่ยวข้องกับอาวุธชีวภาพ พร้อมระงับบัญชีและเพิ่มมาตรการป้องกันการใช้งาน AI ในทางที่ผิด
Anthropic พบผู้ใช้ Claude ช่วยงานวิจัย ที่อาจเกี่ยวข้องกับอาวุธชีวภาพ
Anthropic เปิดเผยรายงานฉบับใหม่ว่า บริษัทตรวจพบและระงับการใช้งานของนักวิทยาศาสตร์หลายราย ที่ใช้โมเดล AI ของบริษัทเพื่อช่วยพัฒนางานวิจัยที่อาจเกี่ยวข้องกับอาวุธชีวภาพ รายงานดังกล่าวรวบรวมกรณีศึกษาหลายรูปแบบเกี่ยวกับการนำโมเดล AI ของ Anthropic ไปใช้งานในทางที่ผิด โดยหนึ่งในประเด็นที่บริษัทให้ความสำคัญมากขึ้นคือ การใช้งาน AI ในทางชีวภาพที่ไม่เหมาะสม (Biological Misuse)
Anthropic ระบุว่า ประเด็นนี้มีความสำคัญมากขึ้น เนื่องจากโมเดล AI รุ่นใหม่ เช่น Fable 5 มีความสามารถในการช่วยงานวิจัยทางวิทยาศาสตร์ได้ดีขึ้น
เผย 5 กรณีศึกษาเกี่ยวกับการใช้งาน Claude ที่มีความเสี่ยง
รายงานของ Anthropic ประกอบด้วยกรณีศึกษาจำนวน 5 กรณี ซึ่งเกี่ยวข้องกับการใช้โมเดล AI ของบริษัทเพื่อพัฒนาอาวุธชีวภาพ รวมถึงอธิบายมาตรการความปลอดภัยที่ ช่วยตรวจจับการใช้งานที่น่าสงสัย และแนวทางที่บริษัทดำเนินการหลังพบความเสี่ยง
Anthropic ระบุว่าการตรวจจับการใช้งานที่อาจเป็นอันตรายเป็นเรื่องซับซ้อน เพราะงานวิจัยที่เกี่ยวข้องกับการสร้างวัคซีนใหม่ ก็อาจจะมีลักษณะคล้ายกับการวิจัยเพื่อพัฒนาอาวุธชีวภาพได้เหมือนกัน
บริษัทระบุว่า ในทุกกรณี Anthropic เลือกใช้แนวทางที่ระมัดระวังมากกว่า เนื่องจากผลกระทบที่อาจเกิดขึ้นมีความร้ายแรง Jacob Klein หัวหน้าฝ่าย Threat Intelligence ของ Anthropic กล่าวกับ The New York Times ว่า กรณีเหล่านี้ไม่ได้เป็นลักษณะที่มีใครพูดตรง ๆ ว่าต้องการสร้างอาวุธชีวภาพเพื่อทำร้ายผู้คน แต่เป็นสถานการณ์ที่มีความซับซ้อนอย่างมาก
หนึ่งในกรณีศึกษาที่เกิดขึ้นในเดือน พ.ค. Anthropic ระบุว่า ระบบ biological safety classifier ตรวจพบคำขอให้ Claude ช่วยเขียนข้อเสนอโครงการวิจัย (grant) สำหรับงานวิจัยแบบ Gain-of-Function กับไวรัสชิคุนกุนยา (Chikungunya) ไวรัสชนิดนี้ยังไม่มีวิธีรักษาที่ได้รับการอนุมัติ และสามารถทำให้เกิดอาการเจ็บป่วยรุนแรงเป็นเวลาหลายสัปดาห์หรือหลายเดือน
งานวิจัยแบบ Gain-of-Function เป็นการศึกษาวิธีปรับเปลี่ยนสิ่งมีชีวิตทางพันธุกรรม โดยในกรณีดังกล่าว ข้อเสนองานวิจัยมีเป้าหมายเพิ่มความสามารถในการแพร่กระจายของไวรัส และเพิ่มความสามารถในการหลบเลี่ยงการตอบสนองของระบบภูมิคุ้มกัน
Anthropic ระบุว่า ลักษณะของงานวิจัยดังกล่าวมีความเสี่ยง และยิ่งน่ากังวลมากขึ้น เนื่องจากโครงการนี้มีความเกี่ยวข้องกับสถาบันวิจัยทางทหาร บริษัทพบข้อกังวลในลักษณะเดียวกันกับงานวิจัย Gain-of-Function ที่เกี่ยวข้องกับไข้หวัดนก รวมถึงกรณีนักวิจัยใช้ Claude เพื่อสร้างฐานข้อมูลเปปไทด์สารพิษจากพิษสัตว์ และสร้างกระบวนการ Generative AI เพื่อปรับปรุงคุณสมบัติของสารพิษ
Anthropic ตัดสินใจระงับบัญชีและเพิ่มมาตรการป้องกัน
รายงานฉบับเต็มของ Anthropic ยังระบุกรณีอื่น ๆ ที่มีการใช้โมเดล AI เป็นเครื่องมือด้านการเฝ้าระวัง การสร้างช่องโหว่ซอฟต์แวร์ การผลิตโฆษณาชวนเชื่อ และการพัฒนาระบบอาวุธ
Anthropic ระบุว่า บัญชีของผู้ที่นำ Claude หรือโมเดลของบริษัทไปใช้งานในทางที่ผิดถูกระงับทั้งหมด และข้อมูลจากการตรวจสอบจะถูกนำไปใช้เพื่อปรับปรุงระบบป้องกันความปลอดภัยของโมเดล AI ในอนาคต อย่างไรก็ตาม Anthropic ไม่เปิดเผยชื่อบุคคลหรือสถาบันที่เกี่ยวข้องกับการตรวจสอบ เนื่องจากประเด็นการใช้งานด้านชีวภาพมีความละเอียดอ่อน
บริษัทระบุว่า บุคคลที่ปรากฏในกรณีศึกษาเหล่านี้เป็นนักวิทยาศาสตร์ที่ทำงานจริง และ Anthropic ไม่ได้กล่าวหาว่าพวกเขามีเจตนาสร้างอันตราย และการเปิดเผยตัวตนหรือห้องปฏิบัติการอาจทำให้บุคคลเหล่านั้นได้รับผลกระทบ
ที่มา: Engadget
