Nattida Suriyodara
Comet เว็บเบราว์เซอร์ AI ของ Perplexity พบช่องโหว่ด้านความปลอดภัยร้ายแรง เนื่องจากผู้ไม่หวังดีมักมองหาวิธีใหม่ ๆ ในการเจาะทะลุการป้องกันเสมอ สะท้อนให้เห็นถึงความท้าทายของการนำ AI มาใช้กับเว็บเบราว์เซอร์ในปัจจุบัน
เว็บเบราว์เซอร์ Comet AI ของ Perplexity มีช่องโหว่ด้านความปลอดภัย
Comet ซึ่งเป็นเว็บเบราว์เซอร์ที่ขับเคลื่อนด้วย AI ใหม่ของ Perplexity เพิ่งประสบปัญหาช่องโหว่ด้านความปลอดภัย ตามบล็อกโพสต์เมื่อสัปดาห์ที่แล้วจาก Brave ซึ่งเป็นบริษัทเว็บเบราว์เซอร์คู่แข่ง ช่องโหว่นี้ได้รับการแก้ไขแล้ว แต่ชี้ให้เห็นถึงความท้าทายของการรวมโมเดลภาษาขนาดใหญ่ (LLMs) เข้ากับเว็บเบราว์เซอร์
Comet มีผู้ช่วย AI ในตัว ผู้ช่วยนี้สามารถสแกนหน้าเว็บที่คุณกำลังดู สรุปเนื้อหา หรือทำงานบางอย่างให้คุณได้ ปัญหาคือผู้ช่วย AI ของ Comet สร้างขึ้นจากเทคโนโลยีเดียวกับแชทบอท AI อื่น ๆ เช่น ChatGPT
แชทบอท AI ไม่สามารถคิดและให้เหตุผลได้เหมือนมนุษย์ และหากพวกมันอ่านเนื้อหาที่ตั้งใจจะบิดเบือนผลลัพธ์ อาจลงเอยด้วยการทำตามที่ถูกสั่ง นี่เรียกว่า Prompt Engineering
(การเปิดเผย: Ziff Davis ซึ่งเป็นบริษัทแม่ของ CNET ได้ยื่นฟ้อง OpenAI เมื่อเดือนเมษายน โดยอ้างว่า OpenAI ละเมิดลิขสิทธิ์ของ Ziff Davis ในการฝึกอบรมและดำเนินงานระบบ AI ของตน)
บริษัท AI พยายามลดการบิดเบือนของแชทบอท AI แต่ก็เป็นเรื่องที่ซับซ้อน เนื่องจากผู้ไม่หวังดีมักมองหาวิธีใหม่ ๆ ในการเจาะทะลุการป้องกันเสมอ
“ช่องโหว่นี้ได้รับการแก้ไขแล้ว” Jesse Dwyer หัวหน้าฝ่ายสื่อสารของ Perplexity กล่าวในแถลงการณ์ “เรามีโปรแกรมเงินรางวัลที่ค่อนข้างแข็งแกร่ง และเราได้ทำงานร่วมกับ Brave โดยตรงเพื่อระบุ และแก้ไขปัญหาดังกล่าว”
การทดสอบโดย Brave ใช้ข้อความที่ซ่อนอยู่ใน Reddit
ในการทดสอบ Brave ได้ตั้งค่าหน้า Reddit ที่มีข้อความที่มองไม่เห็นบนหน้าจอ และขอให้ Comet สรุปเนื้อหาบนหน้าจอ เมื่อ AI ประมวลผลเนื้อหาของหน้าเว็บ ก็ไม่สามารถแยกแยะระหว่าง prompt ที่เป็นอันตราย และเริ่มป้อนข้อมูลที่ละเอียดอ่อนให้กับผู้ทดสอบของ Brave
ในกรณีนี้ข้อความที่ถูกซ่อนอยู่ช่วยให้ผู้ช่วย AI ของ Comet สามารถนำไปยังบัญชี Perplexity ของผู้ใช้ ดึงที่อยู่อีเมลที่เชื่อมโยง และเข้าถึงบัญชี Gmail ได้สำเร็จ โดยตัว AI agent ทำหน้าที่เสมือนเป็นผู้ใช้งานจริง ซึ่งทำให้วิธีการรักษาความปลอดภัยแบบดั้งเดิมไม่สามารถป้องกันได้
Brave เตือนว่าการโจมตีแบบ “Prompt Injection” ลักษณะนี้สามารถรุนแรงขึ้นได้ เช่น เข้าถึงบัญชีธนาคาร ระบบองค์กร อีเมลส่วนตัว และบริการอื่น ๆ
วิศวกรอาวุโสด้านความปลอดภัยบนมือถือของ Brave นั่นคือ Artem Chaikin และรองประธานฝ่ายความเป็นส่วนตัวและความปลอดภัย Shivan Kaul Sahib ได้เสนอแนวทางแก้ไขไว้หลายข้อ ได้แก่:
- เบราว์เซอร์ AI ควรถือว่าข้อมูลในหน้าเว็บเป็นข้อมูลที่ไม่น่าเชื่อถือเสมอ
- โมเดล AI ควรตรวจสอบให้แน่ใจว่ากำลังทำตามความตั้งใจของผู้ใช้
- ควรมีการยืนยันกับผู้ใช้ก่อนดำเนินการ
- โหมด “agentic browsing” ควรเปิดใช้งานเมื่อผู้ใช้ร้องขอเท่านั้น
บล็อกโพสต์ของ Brave นี้เป็นตอนแรกในซีรีส์เกี่ยวกับความท้าทายที่เว็บเบราว์เซอร์ AI ต้องเผชิญ โดย Brave เองก็มีผู้ช่วย AI ชื่อว่า Leo ที่ฝังอยู่ในเบราว์เซอร์ของตน
ปัจจุบัน AI กำลังถูกรวมเข้าไปในเทคโนโลยีแทบทุกด้าน ตั้งแต่การค้นหาบน Google ไปจนถึงแปรงสีฟัน แม้การมีผู้ช่วย AI จะสะดวก แต่เทคโนโลยีเหล่านี้ก็มีช่องโหว่ด้านความปลอดภัยที่ต่างออกไป
ในอดีต แฮ็กเกอร์จำเป็นต้องเป็นผู้เชี่ยวชาญด้านการเขียนโค้ดเพื่อเจาะระบบ แต่เมื่อเกี่ยวข้องกับ AI พวกเขาสามารถใช้ “ภาษาธรรมชาติที่บิดเบือน” เพื่อหลุดรอดระบบป้องกันที่ตั้งไว้
นอกจากนี้ เนื่องจากหลายบริษัทพึ่งพาโมเดล AI จากบริษัทใหญ่ เช่น OpenAI, Google และ Meta หากระบบเหล่านี้มีช่องโหว่ ก็อาจส่งผลกระทบต่อบริษัทอื่นที่ใช้โมเดลเดียวกันด้วย ทั้งนี้ บริษัท AI ส่วนใหญ่ยังไม่เปิดเผยข้อมูลเกี่ยวกับช่องโหว่ด้านความปลอดภัยลักษณะนี้ เพราะเกรงว่าจะเป็นการ “บอกทางให้แฮ็กเกอร์” ทำให้พวกเขามีช่องทางที่จะใช้ประโยชน์จากสิ่งเหล่านี้
ที่มา: cnet
