Ringkasan Berita:

• OpenAI memperkenalkan fitur Trusted Contact yang memungkinkan ChatGPT memberi notifikasi kepada kontak tepercaya saat pengguna terdeteksi mengalami krisis kesehatan mental. 
• Sistem ini memantau percakapan untuk mendeteksi risiko seperti psikosis, mania, atau menyakiti diri sendiri.
• Fitur tersebut dirancang untuk membantu pengguna lebih cepat terhubung dengan dukungan nyata di dunia nyata.

TRIBUNNEWS.COM - OpenAI telah meluncurkan fitur keamanan baru yang akan mengirim peringatan kepada teman atau anggota keluarga ketika pengguna ChatGPT mengalami kondisi darurat kesehatan mental.

Mengutip Independent, fitur opsional bernama Trusted Contact ini memungkinkan pengguna menunjuk seseorang untuk diberi notifikasi apabila mereka mulai membahas tindakan menyakiti diri sendiri atau bunuh diri dengan chatbot AI.

Pembaruan ini hadir di tengah meningkatnya kekhawatiran mengenai alat kecerdasan buatan seperti ChatGPT yang dituding dapat mendorong sebagian orang menuju mania, psikosis, hingga kematian.

OpenAI mengungkap tahun lalu bahwa 0,07 persen pengguna rutin ChatGPT menunjukkan tanda-tanda “darurat kesehatan mental terkait psikosis atau mania.”

Dengan sekitar 900 juta pengguna aktif mingguan, angka itu setara dengan lebih dari setengah juta orang.

Sementara itu, 0,15 persen pengguna lainnya—atau sekitar 1,3 juta orang—dilaporkan menunjukkan risiko menyakiti diri sendiri atau bunuh diri.

Fitur terbaru ini menggunakan sistem pemantauan otomatis ChatGPT untuk mendeteksi kekhawatiran keselamatan serius terkait perilaku pengguna.

Baca juga: Eks Pengacara Trump Blak-blakan soal Kesehatan Mental Sang Presiden AS

Riwayat percakapan kemudian akan ditinjau oleh tim khusus terlatih yang dapat menentukan apakah kontak tepercaya perlu melakukan pengecekan terhadap pengguna.

“Ilmu psikologi secara konsisten menunjukkan bahwa koneksi sosial merupakan faktor perlindungan yang sangat kuat, terutama selama periode tekanan emosional,” kata Dr. Arthur Evans, CEO American Psychological Association.

“Membantu orang mengidentifikasi sosok tepercaya lebih awal, sambil tetap menjaga pilihan dan otonomi mereka, dapat mempermudah mereka menjangkau dukungan nyata di dunia saat paling dibutuhkan.”

Fitur Trusted Contact ini melengkapi sistem keamanan yang sudah ada, termasuk pemberian informasi mengenai hotline bantuan lokal ketika pengguna ChatGPT diyakini sedang mengalami krisis.

“Salah satu janji terbesar AI adalah bagaimana teknologi ini dapat mendorong koneksi manusia yang autentik dan rasa aman secara psikologis,” kata Dr. Munmun De Choudhury, profesor Interactive Computing di Georgia Tech sekaligus anggota Expert Council on Well-Being and AI.

“Saya terdorong oleh fitur Trusted Contacts ChatGPT, yang menjadi langkah maju dalam memberdayakan manusia, khususnya pada saat-saat rentan.”

(*)