Nattida Suriyodara
Meta AI เพิ่มฟีเจอร์แจ้งเตือนผู้ปกครองเมื่อตรวจพบว่าวัยรุ่นอาจพูดคุยเกี่ยวกับการทำร้ายตนเอง หรือ การฆ่าตัวตาย ผ่าน Meta AI บน Instagram, Facebook และ Meta Horizons
Meta AI เพิ่มระบบแจ้งเตือนผู้ปกครองเมื่อวัยรุ่นพูดคุยเรื่องการทำร้ายตนเอง
Meta ประกาศฟีเจอร์ใหม่ที่ช่วยให้ผู้ปกครองได้รับการแจ้งเตือน หาก Meta AI ตรวจพบว่าวัยรุ่นอาจกำลังพูดคุยเกี่ยวกับการทำร้ายตนเองผ่าน Meta AI บน Instagram, Facebook หรือ Meta Horizons
ผู้ใช้จำเป็นต้องเปิดใช้งานเครื่องมือ Family Supervision ของ Meta สำหรับผู้ปกครอง และผู้ดูแลก่อน จึงจะสามารถเลือกบัญชีของบุตรหลานที่ต้องการดูแลได้
ฟีเจอร์ใหม่ทำงานร่วมกับระบบความปลอดภัยเดิม
Meta ระบุว่าฟีเจอร์นี้เป็นการเสริมมาตรการด้านความปลอดภัยที่มีอยู่แล้ว
“ก่อนหน้านี้ หากวัยรุ่นพูดคุยกับ Meta AI ในลักษณะที่อาจบ่งชี้ว่ากำลังคิดฆ่าตัวตายหรือทำร้ายตนเอง ระบบจะให้ข้อมูลติดต่อสายด่วนช่วยเหลือผู้ประสบภาวะวิกฤต พร้อมแนะนำให้พูดคุยกับผู้ปกครองหรือผู้ใหญ่ที่ไว้วางใจ เช่น ครู หรือ ที่ปรึกษา
หลังจากการอัปเดตครั้งนี้ หากการสนทนากับ Meta AI มีสัญญาณว่าผู้ใช้วัยรุ่นอาจมีความเสี่ยง ระบบจะส่งการแจ้งเตือนไปยังผู้ปกครองที่ตั้งค่าเป็นผู้ดูแล พร้อมทั้งส่งแหล่งข้อมูลจากผู้เชี่ยวชาญเพื่อช่วยแนะนำวิธีพูดคุยกับบุตรหลาน”
ใช้ AI ตรวจจับ แต่มีการตรวจสอบโดยมนุษย์ก่อนส่งแจ้งเตือน
ะบบได้รับการออกแบบให้สามารถตรวจจับข้อความที่สื่อถึงความเสี่ยงได้ แม้จะเป็นการกล่าวถึงในลักษณะที่ไม่ชัดเจนนัก อย่างไรก็ตาม ทุกบทสนทนาที่ AI ระบุว่าเข้าข่ายความเสี่ยงจะได้รับการตรวจสอบโดยเจ้าหน้าที่ก่อนส่งการแจ้งเตือนไปยังผู้ปกครอง
บริษัทระบุว่าเข้าใจดีว่าการได้รับการแจ้งเตือนลักษณะนี้อาจสร้างความกังวลให้กับผู้ปกครอง จึงเลือกใช้การตรวจสอบโดยมนุษย์เพื่อช่วยลดความผิดพลาด
ในกรณีที่ไม่สามารถระบุเจตนาได้อย่างชัดเจน Meta ระบุว่าจะเลือกแจ้งเตือนผู้ปกครองไว้ก่อน แม้อาจมีบางกรณีที่ภายหลังพบว่าไม่ได้มีเหตุให้ต้องกังวลก็ตาม โดยบริษัทมองว่านี่เป็นแนวทางที่เหมาะสมในช่วงเริ่มต้น และจะติดตามผลเพื่อปรับปรุงระบบต่อไป
ต้องเปิดใช้งาน Family Supervision ก่อน
ผู้ปกครองที่ต้องการใช้งานฟีเจอร์ดังกล่าว จำเป็นต้องตั้งค่า Family Supervision สำหรับบัญชีของบุตรหลานก่อน
ในช่วงแรกฟีเจอร์นี้เปิดให้ใช้งานเฉพาะในบางประเทศ ได้แก่ สหรัฐอเมริกา, แคนาดา, สหราชอาณาจักร, ออสเตรเลีย
Meta เตรียมขยายการแจ้งเหตุฉุกเฉินมายัง Meta AI
ปัจจุบัน Meta มีระบบแจ้งหน่วยงานฉุกเฉินเมื่อพบโพสต์บน Facebook หรือ Instagram ที่บ่งชี้ถึงความเสี่ยงในการฆ่าตัวตายอย่างน่าเชื่อถือ
บริษัทระบุว่ากำลังพัฒนาความสามารถเดียวกันสำหรับ Meta AI หากการสนทนาระหว่างผู้ใช้กับ Meta AI ไม่ว่าจะเป็นผู้ใหญ่หรือวัยรุ่น บ่งชี้ว่าบุคคลดังกล่าวอาจมีความเสี่ยงอย่างใกล้ชิดต่อการทำร้ายตนเอง
ในปีที่ผ่านมา บริษัทได้แจ้งข้อมูลลักษณะดังกล่าวให้หน่วยงานฉุกเฉินมากกว่า 19,000 ครั้งทั่วโลก เพื่อช่วยให้เจ้าหน้าที่สามารถเข้าตรวจสอบ และให้ความช่วยเหลือแก่ผู้ที่อาจมีความเสี่ยงได้
ที่มา: 9to5Mac
