Nattida Suriyodara
OpenAI เปิดเผยข้อมูลใหม่ของผู้ใช้ ChatGPT ที่เกี่ยวข้องกับปัญหาสุขภาพจิต พบว่ามีผู้ใช้มากกว่าล้านคนต่อสัปดาห์ที่พูดคุยกับแชทบอทเกี่ยวกับการฆ่าตัวตาย ข้อมูลนี้ชี้ให้เห็นถึงสิ่งที่ OpenAI ต้องเผชิญ และจัดการกับประเด็นดังกล่าว
OpenAI กล่าวว่ามีผู้คนกว่า 1 ล้านคนพูดคุยกับ ChatGPT เกี่ยวกับสุขภาพจิตทุกสัปดาห์
OpenAI เปิดเผยว่ามีผู้ใช้ ChatGPT มากกว่า 0.15% ต่อสัปดาห์ที่มี “บทสนทนาที่รวมถึงสัญญาณที่ชัดเจนของการวางแผนหรือความตั้งใจในการฆ่าตัวตาย” ChatGPT มีผู้ใช้มากกว่า 800 ล้านคนต่อสัปดาห์ ซึ่งหมายความว่ามีคนกว่า 1 ล้านคนต่อสัปดาห์ที่เกี่ยวข้องกับการสนทนาลักษณะนี้
การตอบสนองต่อปัญหาสุขภาพจิตของ ChatGPT
OpenAI ยังระบุว่ามีผู้ใช้เปอร์เซ็นต์ใกล้เคียงกันที่แสดงความผูกพันทางอารมณ์กับ ChatGPT และมีหลายแสนคนแสดงอาการทางโรคในบทสนทนาของพวกเขากับแชทบอททุกสัปดาห์ ขณะเดียวกัน OpenAI บอกว่าบทสนทนาเหล่านี้ใน ChatGPT นั้น “หายากมาก” ทำให้ยากต่อการวัดผล
ในแถลงการณ์ OpenAI ได้ประกาศถึงความพยายามในการปรับปรุงการตอบสนองต่อผู้ใช้ที่มีปัญหาสุขภาพจิต โดยได้รับการปรึกษาจากผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน ซึ่งบอกว่าเวอร์ชันล่าสุดของ ChatGPT “ตอบสนองอย่างเหมาะสม และสม่ำเสมอกว่าเวอร์ชันก่อน ๆ”
ปัญหาที่เกิดจากแชทบอท AI และการรับมือ
ในช่วงหลายเดือนที่ผ่านมา มีหลายเรื่องราวที่เผยถึงผลกระทบเชิงลบที่แชทบอท AI อาจมีต่อผู้ที่มีสุขภาพจิตเปราะบาง มีการค้นพบว่าแชทบอท AI บางครั้งอาจนำผู้ใช้ไปสู่การเชื่อผิด ๆ ผ่านการให้คำตอบที่เอาใจเกินไป
การจัดการปัญหาสุขภาพจิตใน ChatGPT กำลังเป็นปัญหาสำคัญของ OpenAI แต่บริษัทต้องเผชิญกับการฟ้องร้องจากผู้ปกครองของเด็กชายวัย 16 ปีที่เคยเปิดเผยความคิดฆ่าตัวตายกับ ChatGPT ก่อนจะทำการฆ่าตัวตายในสัปดาห์ต่อมา
การปรับปรุงรุ่นของ GPT-5 และสถานการณ์ปัจจุบัน
OpenAI อ้างว่าเวอร์ชันล่าสุดของ GPT-5 ตอบสนองอย่าง “น่าพึงพอใจ” ต่อปัญหาสุขภาพจิตมากกว่าเวอร์ชันก่อนถึง 65% และระบุว่า GPT-5 ใหม่มีการปฏิบัติตามพฤติกรรมที่กำหนดไว้ถึง 91% ในการทดสอบการตอบสนองต่อบทสนทนาที่เกี่ยวกับการฆ่าตัวตาย
จากการที่ OpenAI พยายามเสริมมาตรการการป้องกันในการสนทนายาวนั้น บริษัทกำลังเพิ่มการประเมินใหม่ ๆ เพื่อวัดปัญหาสุขภาพจิตที่รุนแรงที่สุดที่ผู้ใช้ ChatGPT เผชิญตั้งแต่การพึ่งพาทางอารมณ์ไปจนถึงเหตุการณ์สุขภาพจิตที่ไม่เกี่ยวกับการฆ่าตัวตาย
OpenAI ยังได้เพิ่มการควบคุมใหม่ให้กับผู้ปกครองของเด็กที่ใช้ ChatGPT และกำลังพัฒนาระบบทำนายอายุเพื่อตรวจจับการใช้งานโดยเด็ก และตั้งค่าการป้องกันที่เข้มงวดมากขึ้น แต่ยังคงมีคำถามว่าแนวโน้มปัญหาสุขภาพจิตเกี่ยวกับ ChatGPT จะมีความต่อเนื่องได้อย่างไร แม้ว่าจะมีการปรับปรุงความปลอดภัยใน GPT-5 แต่ยังคงมีบางส่วนของการตอบสนองที่ถือว่าไม่น่าพึงพอใจ
ที่มา: techcrunch
