Krongkwun Rithiwong
Anthropic เผยในเอกสาร S-1 ว่าบริษัทอาจใกล้เข้าสู่ภาวะ Recursive Self-Improvement หรือการที่ AI สามารถพัฒนาตนเองได้อย่างก้าวกระโดดในเร็ว ๆ นี้
Anthropic เผยในเอกสาร S-1 ใกล้เข้าสู่จุดที่ AI สามารถพัฒนาตนเองแบบ anthropic-s1-filing-warns-rsi-capability-near
แม้ว่าความสนใจส่วนใหญ่จะพุ่งเป้าไปที่ข้อมูลทางการเงินล่าสุดของ Anthropic ในเอกสาร S-1/A ฉบับแก้ไขเมื่อวันจันทร์ ซึ่งระบุว่ารายได้เติบโตอย่างรวดเร็วแต่ค่าใช้จ่ายก็สูงขึ้นตามไปด้วย แต่ห้องปฏิบัติการวิจัย AI แห่งนี้ยังได้เปิดเผยข้อมูลสำคัญอีกเรื่องหนึ่งในรายละเอียดส่วนย่อยของเอกสาร
ข้อมูลในเอกสารดังกล่าวระบุว่า บริษัทกำลังใกล้จะสร้างโมเดลที่มีความสามารถในการพัฒนาตนเองแบบวนซ้ำ หรือ Recursive Self-Improvement (RSI)
ความหมายของ RSI กับมุมมองสองขั้วต่ออนาคต AI
RSI คือจุดที่ระบบ AI พัฒนาจนสามารถฝึกฝนตนเองได้ดีมากพอ จนส่งผลให้ความสามารถของ AI พัฒนาอย่างก้าวกระโดดอย่างยิ่ง สำหรับกลุ่มที่กังวลเกี่ยวกับอันตรายของ AI (AI doomers) มองว่า RSI คือหายนะที่ไม่สามารถย้อนกลับได้ ซึ่ง AI จะพัฒนาตัวเองจนมีความสามารถเหนือการควบคุมของมนุษย์ และอาจไม่สนใจความเสียหายที่เกิดขึ้นเพื่อให้บรรลุเป้าหมายของระบบ
ขณะที่กลุ่มผู้สนับสนุน AI มองว่า RSI หรือการที่ AI สามารถนำตนเองมาใช้ปรับปรุงระบบได้อย่างมีเสถียรภาพ ถือเป็นความหวังของเทคโนโลยีที่จะกลายเป็นเครื่องมือเพิ่มประสิทธิภาพการทำงาน การค้นพบทางวิทยาศาสตร์ และประโยชน์อื่น ๆ อีกมากมายในระดับที่ไม่อาจจินตนาการได้
Anthropic เผยมาตรการรับมือความเสี่ยงด้านความปลอดภัย
Anthropic มองว่า RSI มีทั้งโอกาสและอันตรายในเวลาเดียวกัน โดยบริษัทระบุในเอกสาร S-1 ว่าได้นำ AI มาใช้ในงานวิจัยและพัฒนา (R&D) แต่ก็ระบุข้อควรระวังไว้ว่า การใช้ AI เพื่อช่วยสร้าง AI ที่มีความสามารถสูงขึ้นอาจนำมาซึ่งความเสี่ยงด้านความปลอดภัยอย่างมาก โดยเฉพาะอย่างยิ่งหากกระบวนการดังกล่าวเร่งอัตราความก้าวหน้าอย่างรวดเร็ว ซึ่งประเด็นนี้เป็นหนึ่งในขอบเขตที่ครอบคลุมอยู่ใน Responsible Scaling Policy ของบริษัท ที่กำหนดแผนงานในการติดตามและลดความเสี่ยงเมื่อเข้าใกล้สิ่งที่เรียกว่า recursive self-improvement
เมื่อคำว่า RSI เริ่มเป็นที่พูดถึงอย่างแพร่หลายเมื่อช่วงต้นปี หลายฝ่ายมองว่าเป็นเพียงคำศัพท์ทางการตลาด หรือเป็นเป้าหมายที่ยากเกินกว่าจะบรรลุ กำหนดนิยาม หรือพิสูจน์ได้
การระบุความเสี่ยงในเอกสาร Filing
แต่เมื่อวันจันทร์ที่ผ่านมา Anthropic ได้เพิ่มข้อความใหม่ในส่วนของปัจจัยเสี่ยง (Risk Factors) โดยระบุว่า บริษัทเคยใช้ AI ในการพัฒนาโมเดลใหม่ ๆ ซึ่งมีการก้าวกระโดดของขีดความสามารถที่บริษัทไม่ได้สังเกตเห็นในขณะนั้น และบริษัทอาจเข้าเกณฑ์นิยามของ RSI ตามที่กำหนดไว้เองในเร็ว ๆ นี้
ในเอกสารระบุว่า การเพิ่มการใช้งานระบบ AI เพื่อเร่งกระบวนการวิจัยและพัฒนาของบริษัท อาจทำให้ขีดความสามารถของโมเดลพัฒนาล้ำหน้าไปเร็วกว่าความสามารถในการพัฒนา ตรวจสอบ และบังคับใช้มาตรการด้านความปลอดภัย การปรับพฤติกรรม (alignment) และการรักษาความปลอดภัย ส่งผลให้ที่ผ่านมาบริษัทไม่สามารถระบุได้ และในอนาคตก็อาจไม่สามารถระบุการเร่งตัวอย่างมีนัยสำคัญของอัตราการพัฒนาได้ จนกระทั่งการพัฒนานั้นเกิดขึ้นไปแล้ว
ตัวอย่างเช่น การประเมินภายในและความคาดหวังเกี่ยวกับโมเดลในอนาคต ไม่ใช่โมเดลปัจจุบัน ชี้ให้เห็นว่าบริษัทอาจเข้าเกณฑ์คำนิยามของ Responsible Scaling Policy ที่ว่าด้วย “ความก้าวหน้าที่เร่งตัวขึ้นอย่างมากอันเนื่องมาจาก AI” ในเร็ว ๆ นี้ ทั้งนี้บริษัทยังไม่ได้ระบุว่ามีโมเดลปัจจุบันใดที่เกินเกณฑ์ดังกล่าว และยังคงประเมินข้อมูลพื้นฐานอย่างต่อเนื่อง
ยืนยันการมีมนุษย์ควบคุมกระบวนการพัฒนา
อย่างไรก็ตาม Anthropic กล่าวเพิ่มเติมในเอกสารว่า ปัจจุบันยังไม่มีโมเดลใดที่ก้าวข้ามเกณฑ์ RSI ดังกล่าว และยืนยันว่าจะยังคงให้มนุษย์มีส่วนร่วมในกระบวนการ R&D ต่อไปในอนาคตอันใกล้ โดยระบุว่า บริษัทไม่ได้คาดหมายว่าจะสามารถใช้ Claude ในการออกแบบและสร้างโมเดลแถวหน้ารุ่นต่อ ๆ ไปได้อย่างอิสระโดยสมบูรณ์ โดยปราศจากการกำกับดูแลหรือความเข้าใจที่มีความหมายของมนุษย์ได้อย่างปลอดภัย หากและเมื่อสิ่งนั้นกลายเป็นไปได้ในทางเทคนิค ด้วยเหตุนี้ บริษัทจึงกำลังพิจารณาปรับปรุง Responsible Scaling Policy เพื่อให้มนุษย์ยังคงมีอำนาจควบคุมการพัฒนาโมเดลระดับแนวหน้าของ Anthropic
บางฝ่ายอาจมองว่าเอกสาร S-1 ทำหน้าที่ทั้งการเปิดเผยข้อมูลและการทำการตลาดไปในตัว ซึ่งการกล่าวอ้างว่าบริษัทเข้าใกล้โมเดลที่ทรงพลังจนสามารถสร้างตัวเองได้ อาจเข้าข่ายการตลาดเช่นกัน
อย่างไรก็ดี ขีดความสามารถของ Claude โดยเฉพาะในด้านการเขียนโค้ด คณิตศาสตร์ และความปลอดภัยทางไซเบอร์ ได้พัฒนาขึ้นอย่างก้าวกระโดดในปีนี้ ดังนั้นหาก Anthropic เชื่อว่าความเป็นไปได้ของ RSI กำลังใกล้เข้ามา จึงอาจเป็นสัญญาณเตือนที่ควรตระหนักและร่วมกันกำหนดแนวทางการกำกับดูแลอย่างเหมาะสมต่อไป
ที่มา: TechCrunch
