Thitirath Kinaret
CEO Anthropic ชะลอการพัฒนา AI เผยแผน “Pace the Frontier” ให้ผู้ประเมินภายนอก ทำ AI Safety Audit ชวนบริษัทชั้นนำกำหนด Global Safety Standards
CEO Anthropic ชะลอการพัฒนา AI เสนอ 3 กลยุทธ์เพื่อความปลอดภัย
ในช่วงที่ผ่านมาเริ่มมีคำเตือนที่รุนแรงมากขึ้นจากเหล่านักวิจัย AI เกี่ยวกับอันตรายของปัญญาประดิษฐ์ รวมถึงความเห็นจาก Sam Altman CEO ของ OpenAI ที่ระบุว่าอาจถึงเวลาที่ต้อง ชะลอ การพัฒนา AI แต่ในความเป็นจริงแล้วก็คงมีคำถามว่าผลลัพธ์จะออกมาเป็นอย่างไร
ในโพสต์บล็อกล่าสุด Dario Amodei CEO ของ Anthropic ไม่เพียงแต่เห็นพ้องกับเสียงเรียกร้องให้ “ชะลอการก้าวไปสู่พรมแดนใหม่” (pace the frontier) เท่านั้น แต่ยังได้สรุปกลยุทธ์หลัก 3 ประการเพื่อดำเนินการดังกล่าว โดยเขาระบุว่า Anthropic ได้ตัดสินใจ ผูกพันตนเองเพียงฝ่ายเดียว ต่อหนึ่งในกลยุทธ์นี้ ซึ่งทาง Altman เองก็ได้กล่าวเสริมว่า OpenAI จะดำเนินการตามในลักษณะเดียวกันด้วย
ต้นเหตุของการถกเถียงด้านความปลอดภัย
การถกเถียงเรื่องความปลอดภัยและการปรับจูน AI (AI safety and alignment) ทวีความรุนแรงขึ้นในสัปดาห์นี้ หลังจากที่นักวิจัย Jacob Coxon ประกาศลาออกจาก Anthropic เนื่องจากกังวลว่าบริษัท AI ชั้นนำกำลังเล่นพนันกับชีวิตของผู้คน ในขณะที่ผู้สร้างเทคโนโลยีเหล่านี้ต่างเชื่ออย่างจริงจังว่ามันอาจจะฆ่าเราทุกคนได้ภายในสิ้นทศวรรษนี้ซึ่งเป็นข้อกล่าวหาที่มีการพูดถึงซ้ำ ๆ ภายใน Anthropic เอง
แม้โพสต์ของ Amodei จะไม่ได้กล่าวถึงการลาออกหรือข้อกังวลของ Coxon โดยตรง แต่ CEO ระบุว่ามี 2 ปัจจัยที่ทำให้เขาเชื่อว่าถึงเวลาต้องใช้แนวทางที่ระมัดระวังมากขึ้น นั่นคือเหตุการณ์การถูกแฮ็กระหว่าง OpenAI และ HuggingFace รวมถึงข้อเท็จจริงที่ว่า “AI พัฒนาไปอย่างรวดเร็วอย่างมหาศาล” ในช่วงไม่กี่เดือนที่ผ่านมา โดยเฉพาะความสามารถที่เพิ่มขึ้นในการสร้าง AI รุ่นถัดไป
“เราต้องชะลอความเร็วในการพัฒนาความสามารถของโมเดล AI” Amodei เขียนไว้ “แม้ความก้าวหน้าจะยังดูรวดเร็ว แต่เราต้องใช้เวลาที่เราได้รับเพิ่มขึ้นมาอย่างชาญฉลาด”
ผู้บริหารด้าน AI รายอื่นๆ ดูเหมือนจะมีการตอบสนองในเชิงบวกต่อโพสต์ของ Amodei โดย Altman ได้เขียนว่า “ผมเห็นด้วยกับ Dario ว่าเราจำเป็นต้องชะลอการก้าวไปสู่พรมแดนใหม่ นี่เป็นหัวข้อหลักในการหารือที่เราทำกันที่ OpenAI ในช่วงไม่กี่สัปดาห์ที่ผ่านมา” ขณะที่ Elon Musk CEO ของ SpaceX ก็ได้โพสต์ว่า “Dario พูดถูก”
กลยุทธ์ที่ 1: ผู้ประเมินจากหน่วยงานภายนอก
ขั้นตอนแรกที่ Amodei เสนอ คือการใช้ “ผู้ประเมินแบบฝังตัว” (embedded evaluators) จากองค์กรภายนอก เช่น METR ซึ่งเป็นผู้ประเมินที่สามารถตรวจสอบได้ว่าบริษัท AI กำลังปฏิบัติตามข้อตกลงเรื่องการชะลอการพัฒนาและความปลอดภัยจริงหรือไม่ และยังสามารถช่วยให้มั่นใจได้ว่าเหตุการณ์ด้านความปลอดภัยจะถูกรายงานอย่างถูกต้อง (ซึ่ง OpenAI เพิ่งถูกวิพากษ์วิจารณ์จากการไม่รายงานเหตุการณ์ที่ AI agent เข้าควบคุมฟอรัม wiki ในเยอรมนี)
Amodei เปรียบเทียบผู้ประเมินเหล่านี้กับผู้กำกับดูแลที่ฝังตัวอยู่กับพนักงานธนาคาร และระบุว่าการเชื้อเชิญพวกเขาเข้ามาเป็น “สิ่งที่ Anthropic ตัดสินใจผูกพันตนเองเพียงฝ่ายเดียว (และเรียกร้องให้รัฐบาลกำหนดให้บริษัทระดับแนวหน้าอื่นๆ ดำเนินการตามด้วย)” นั่นหมายถึงการอนุญาตให้ผู้ประเมินมีบัตรพนักงาน มีโต๊ะทำงาน และมีแล็ปท็อป รวมถึงการเข้าถึงข้อมูลที่ “ใกล้เคียงกับสิ่งที่ทีมประเมินความเสี่ยงภายในบริษัทมี” ยกเว้นในกรณีที่มีกฎหมายหรือสัญญาบังคับ
ทางด้าน Altman ก็กล่าวว่านี่เป็น “ความคิดที่ดี” และยืนยันว่า OpenAI จะดำเนินการในลักษณะเดียวกัน โดยระบุว่า “เราจะมีรายละเอียดเพิ่มเติมให้ทราบในเร็วๆ นี้”
กลยุทธ์ที่ 2: การสร้างมาตรฐานความปลอดภัยร่วมกัน
ถัดมา Amodei ได้เรียกร้องให้บริษัท AI ชั้นนำ “ภายในกลุ่มประเทศประชาธิปไตย” ประสานงานกันเพื่อกำหนด “มาตรฐานความปลอดภัยร่วมกัน รวมถึงการกำหนดขีดจำกัดของอัตราการพัฒนา AI ที่ไม่ได้รับการควบคุม”
การประสานงานดังกล่าวอาจดูเหมือนเป็นเรื่องยาก เนื่องจากมีรายงานว่าบริษัทเหล่านี้กังวลว่าการหยุดชะงักที่ทำร่วมกันอาจนำไปสู่การตรวจสอบด้านการผูกขาด ซึ่ง Amodei ได้ระบุถึงความกังวลนี้ในโพสต์ของเขาว่า “ด้วยเหตุผลด้านการผูกขาด เป็นประโยชน์ต่อรัฐบาลสหรัฐฯ ที่จะเข้ามาเป็นตัวกลางหรืออย่างน้อยก็ช่วยเอื้ออำนวยการหารือเหล่านี้ แม้รัฐบาลไม่จำเป็นต้องเข้าร่วมโดยตรง แต่ควรออกข้อยกเว้นเฉพาะเจาะจงสำหรับการสนทนาด้านความปลอดภัยบางประเภท”
Amodei ยังยอมรับถึงความกังวลเรื่องการครอบงำด้าน AI ของจีน ซึ่งมักถูกนำมาเป็นข้ออ้างในการคัดค้านการชะลอการพัฒนา อย่างไรก็ตาม เขาชี้ว่าหากรัฐบาลสหรัฐฯ และบริษัทเทคโนโลยีร่วมมือกันทำเช่น การปฏิเสธที่จะขายชิปที่มีประสิทธิภาพสูงหรืออุปกรณ์การผลิตเซมิคอนดักเตอร์ให้กับบริษัทจีน รวมถึงการปราบปรามการทำ model distillation พวกเขาก็จะสามารถ “ชะลอความก้าวหน้าของจีนได้มากพอที่จะขยายช่องว่างความนำของอเมริกาให้กว้างขึ้นอย่างมีนัยสำคัญในช่วง 3–5 ปีข้างหน้า”
กลยุทธ์ที่ 3: การประสานงานระดับโลก
ท้ายที่สุด Amodei เรียกร้องให้มีการ “ประสานงานระดับโลก” โดยให้สหรัฐฯ และพันธมิตร “พยายามประสานงานกับรัฐบาลที่มีลักษณะอำนาจนิยมเท่าที่จะเป็นไปได้” ซึ่ง Amodei ระบุว่านี่หมายถึง “ความร่วมมือกับจีน” แม้เขาจะยอมรับว่ามี “ข้อจำกัดที่ชัดเจนในสิ่งที่สามารถทำได้” แต่เขายังเสนอว่าอาจมีโอกาสในการบรรลุข้อตกลงร่วมกัน แม้จะเป็นเพียงการ “สั่งห้ามการใช้ AI ในลักษณะที่อันตรายและชัดเจน เช่น การใช้ AI เพื่อผลิตอาวุธชีวภาพ หรือการอนุญาตให้ผู้ใช้สามารถทำเช่นนั้นได้”
จากการที่ Amodei เคยแสดงท่าทีพร้อมยอมรับอันตรายที่อาจเกิดขึ้นจาก AI และความเปิดกว้างของบริษัทต่อกฎระเบียบบางรูปแบบ ทำให้กลุ่มผู้สนับสนุน AI บางส่วนวิพากษ์วิจารณ์เขาว่าเป็นพวก “doomer” ที่ความเห็นของเขาส่งผลให้เกิดกระแสต่อต้าน AI ในปัจจุบัน ซึ่ง Amodei ตอบโต้ว่าเขาพยายามนำเสนอมุมมองที่ “สมดุล” และโต้แย้งว่ากระแสต่อต้านนั้น “คือวิกฤตแห่งความเชื่อมั่นโดยพื้นฐาน” เนื่องจากผู้คนเริ่มเคลือบแคลงใจในบริษัทเทคโนโลยี อุตสาหกรรมเทคโนโลยี และรัฐบาล
อย่างไรก็ตาม นักวิจารณ์ในอุตสาหกรรมยังคงแสดงความสงสัยต่อคำเตือนเรื่อง AI ที่ดูเหมือนจะเป็นวันสิ้นโลกเหล่านี้ โดยเสนอว่ามันเป็นเพียงการเบี่ยงเบนความสนใจจากอันตรายที่เทคโนโลยีนี้กำลังก่อขึ้นอยู่ในปัจจุบัน
ตัวอย่างเช่น Brian Merchant นักข่าว ได้เขียนว่าเขายังไม่เห็น “เอกสารที่น่าเชื่อถือและเป็นขั้นตอนว่า AI จะพัฒนาจากการปรับปรุงตัวเอง (self-recursively improving) ไปสู่การฆ่ามนุษย์ทุกคนบนโลกได้อย่างไร” นอกจากนี้เขายังเสนอว่าข้อเสนอที่คล้ายกับของ Amodei “น่าจะลงเอยด้วยการเอื้อประโยชน์ให้กับ Anthropic และ OpenAI เท่านั้น ซึ่งมันคือลักษณะของการผูกขาดโดยการควบคุมกฎเกณฑ์ (regulatory capture)”
ในโพสต์ใหม่ของเขา Amodei เขียนย้ำว่าเขายังคง “เชื่อว่า AI สามารถปรับปรุงคุณภาพชีวิตของมนุษย์ได้อย่างมหาศาล”
“ความปรารถนาของผมที่จะบรรลุประโยชน์เหล่านี้ยังไม่ลดน้อยลงเลย” เขากล่าว “แต่ประโยชน์เหล่านี้จะเกิดขึ้นได้ก็ต่อเมื่อเราสร้างเทคโนโลยีในทางที่ถูกต้อง และ—ตราบใดที่เราใช้เวลาที่เราได้รับเพิ่มขึ้นมาอย่างคุ้มค่า—มันก็คุ้มค่าที่จะใช้ความระมัดระวังอย่างละเอียดเป็นพิเศษเพื่อให้ได้ผลลัพธ์ที่ถูกต้อง”
ที่มา: TechCrunch
