OpenAI Luncurkan ChatGPT Health, Chatbot Khusus untuk Konten Medis

Saat ini, akses ke ChatGPT Health mulai diberikan secara bertahap kepada pengguna dengan paket Free, Go, Plus, dan Pro di luar wilayah Area Ekonomi Eropa, Swiss, dan Inggris.

Untuk integrasi catatan medis tertentu, saat ini baru tersedia untuk pengguna di Amerika Serikat dengan dukungan dari jaringan data kesehatan b.well.

OpenAI berencana untuk memperluas akses ini ke seluruh pengguna web dan iOS dalam beberapa minggu mendatang.

Bagi mereka yang berminat, OpenAI telah membuka daftar tunggu (waitlist) resmi untuk mendapatkan akses lebih awal.

Risiko "Halusinasi" Medis

Meski menawarkan kemudahan, langkah OpenAI menghadirkan fitur kesehatan khusus ini tidak lepas dari sorotan tajam para pakar medis dan privasi.

Kontroversi utama berpusat pada akurasi informasi dan risiko keamanan pasien.

Para kritikus memperingatkan fenomena "halusinasi AI", di mana model bahasa besar terkadang memberikan jawaban yang terdengar meyakinkan namun secara faktual salah atau berbahaya secara medis.

Pada tahun 2024, sebuah studi yang diterbitkan di JAMA Pediatrics menemukan bahwa ChatGPT membuat diagnosis yang salah dalam lebih dari 80 persen kasus pediatrik dari skenario dunia nyata.

Hal ini menunjukkan betapa berbahayanya ketergantungan pada AI untuk diagnosis anak-anak. 

Kontroversi serupa juga bisa dilihat pada kasus yang dialami oleh chatbot yang dikembangkan oleh National Eating Disorders Association (NEDA) di Amerika Serikat.

NEDA diketahui sempat mengganti saluran bantuan komnikasi mereka dengan fitur chatbot AI bernama "Tessa". 

Baca juga: Lagu AI Membanjiri YouTube Music, Pengguna Ramai-ramai Mengeluh

Tak lama kemudian, layanan ini viral setelah pengguna melaporkan bahwa Tessa memberikan saran untuk membatasi asupan kalori dan mengukur lemak tubuh.

Saran ini dinilai fatal mengingat anjuran tersebut sangat berbahaya untuk diberikan bagi para pengidap gangguan makan (eating disorders).

Hal ini menunjukkan bahwa AI bisa kehilangan sensitivitas empati dan konteks psikologis yang krusial dalam medis.

(Tribunnews.com/Bobby)