Sasithakan Sritonthip
Google เปิดเผยรายละเอียดเกี่ยวกับวิธีที่ Chrome และ Gemini จะปกป้องผู้ใช้จากภัยคุกคามใหม่ ๆ ที่เกิดขึ้นจากความสามารถแบบเอเจนต์ในเบราว์เซอร์ โดยเน้นการออกแบบระบบความปลอดภัยหลายชั้นเพื่อลดความเสี่ยง
Google อธิบายวิธีป้องกันความปลอดภัยของ Gemini Agent สำหรับ Chrome Browser
ภัยคุกคามหลัก: Indirect Prompt Injection
Google ระบุว่า “ภัยคุกคามใหม่หลักที่เบราว์เซอร์แบบเอเจนต์ทุกตัวจะต้องเผชิญคือการโจมตีแบบ indirect prompt injection” ซึ่งมีเป้าหมายเพื่อ “ทำให้เอเจนต์ดำเนินการที่ผู้ใช้ไม่ได้ต้องการ เช่น การทำธุรกรรมทางการเงินโดยไม่ได้รับอนุญาต หรือขโมยข้อมูลสำคัญ” การโจมตีประเภทนี้สามารถเกิดขึ้นได้จากเว็บไซต์ที่เป็นอันตราย, เนื้อหาของบุคคลที่สามใน iframe หรือเนื้อหาที่ผู้ใช้สร้างขึ้นเอง อย่างเช่น รีวิวจากผู้ใช้
ระบบป้องกันแบบหลายชั้น
Google จึงลงทุนพัฒนาระบบความปลอดภัยแบบหลายชั้น โดยใช้ทั้งกลไกแน่นอน (deterministic) และความน่าจะเป็น (probabilistic) เพื่อให้การโจมตีทำได้ยากและมีต้นทุนสูงสำหรับผู้ไม่หวังดี
User Alignment Critic
ชั้นแรกคือโมเดลแยกต่างหากที่เรียกว่า “User Alignment Critic” ซึ่งสร้างขึ้นโดยใช้ Gemini โมเดลนี้จะทำงาน “หลังจากการวางแผนเสร็จสิ้นเพื่อทำการตรวจสอบสองชั้นในแต่ละการกระทำที่กำลังจะเกิดขึ้น” และจะอนุมัติหรือปฏิเสธ หากถูกปฏิเสธโมเดลจะทำการวางแผนใหม่ และหากล้มเหลวซ้ำหลายครั้ง การควบคุมจะถูกส่งกลับไปยังผู้ใช้
เป้าหมายหลักคือการจัดแนวกับภารกิจของผู้ใช้ ตรวจสอบว่าแผนดังกล่าวตรงกับเป้าหมายของผู้ใช้หรือไม่ ถ้าไม่ตรง Alignment Critic จะยับยั้งการกระทำนั้น เนื่องจากโมเดลนี้มองเห็นเฉพาะ metadata ของแผนการกระทำและไม่เข้าถึงเนื้อหาจากเว็บโดยตรง จึงลดความเสี่ยงจากการถูกปนเปื้อนข้อมูลที่ไม่น่าเชื่อถือ
Agent Origin Sets
Google กำลังขยายความสามารถ origin-isolation ของ Chrome โดยออกแบบระบบใหม่เรียกว่า Agent Origin Sets ซึ่งจำกัดไม่ให้เอเจนต์เข้าถึงข้อมูลจาก origin ที่ไม่เกี่ยวข้องกับภารกิจนั้น ๆ หรือไม่ได้รับความยินยอมจากผู้ใช้ วิธีนี้ป้องกันไม่ให้เอเจนต์ที่ถูกเจาะระบบสามารถดำเนินการกับเว็บไซต์อื่นนอกเหนือจากที่จำเป็น
โปร่งใสและการควบคุมโดยผู้ใช้
Gemini ใน Chrome จะบันทึกทุกขั้นตอนใน log ของการทำงาน พร้อมเปิดโอกาสให้ผู้ใช้สามารถหยุดหรือเข้าควบคุมการทำงานได้ตลอดเวลา
ความโปร่งใสนี้ทำงานร่วมกับการตรวจสอบแบบเด็ดขาด (deterministic) และการตรวจโดยโมเดล เพื่อให้เกิดการขออนุมัติจากผู้ใช้ก่อนที่เอเจนต์จะดำเนินการที่มีผลกระทบสูง
ตรวจสอบก่อนดำเนินการสำคัญ
ตัวอย่าง Chromium Agent จะต้องได้รับการยืนยันจากผู้ใช้ เช่น กรณีต่อไปนี้:
- ก่อนนำทางไปยังเว็บไซต์ที่ละเอียดอ่อน เช่น เว็บไซต์ธุรกรรมทางการเงินหรือข้อมูลทางการแพทย์ โดยอ้างอิงจากรายการเว็บไซต์ต้องห้าม
- ก่อนให้ Chrome ลงชื่อเข้าใช้เว็บไซต์ผ่าน Google Password Manager โดยโมเดลจะไม่เข้าถึงรหัสผ่านที่จัดเก็บไว้โดยตรง
- ก่อนดำเนินการที่สำคัญบนเว็บ เช่น การชำระเงิน ส่งข้อความ หรือการกระทำที่มีผลกระทบอื่น ๆ เอเจนต์จะพยายามหยุดเพื่อขออนุญาตก่อน หรือให้ผู้ใช้ดำเนินการขั้นตอนถัดไปเอง
ที่มา: 9to5google
