Adapun keduanya menyeret OpenAI ke jalur hukum dengan tudingan keterlibatan ChatGPT atas kematian yang tidak wajar.

Dalam tindakan hukum atau gugatan serius pertama pada OpenAI tersebut, pasangan asal California ini mengkritik kontrol orang tua yang diterapkan oleh perusahaan yang dipimpin Sam Altman ini.

Adapun kritik tersebut ditujukan kepada klaim OpenAI yang menyebut ChatGPT dirancang untuk mendorong penggunaan chatbot yang lebih sehat

Matt dan Maria Raine menyatakan bahwa klaim tersebut tak terbukti dan OpenAI dituntut karena tidak mengambil langkah cukup memadai untuk menghindari insiden bunuh diri tersebut.

Keluarga Raine juga menyertakan log obrolan antara Adam, yang meninggal pada bulan April, dengan ChatGPT.

Melalui rekaman perbincangan dengan ChatGPT tersebut, terlihat adanya beberapa pesan yang menunjukkan pikiran untuk bunuh diri dari korban.

Namun demikian, respons AI yang diberikan oleh ChatGPT dinilai tak memadai untuk "meladeni" percakapan yang ada dengan pola pikir "dewasa".

Altman kembali menegaskan bahwa keputusan untuk membatasi ChatGPT sebelumnya didasarkan pada perlindungan kesehatan mental.

"Kami sadar hal ini membuatnya kurang berguna/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental, tetapi mengingat seriusnya isu ini, kami ingin memastikan tindakan kami tepat," ujar Altman.

Ia menambahkan bahwa kini perusahaan telah berhasil mengurangi risiko serius terhadap kesehatan mental dan memiliki alat-alat baru yang memungkinkan pelonggaran pembatasan secara aman dalam kebanyakan kasus.

"Pada bulan Desember, saat kami menerapkan pembatasan usia secara lebih menyeluruh dan sebagai bagian dari prinsip 'perlakukan pengguna dewasa seperti orang dewasa', kami akan mengizinkan lebih banyak konten, termasuk erotika bagi pengguna dewasa yang telah diverifikasi," katanya.

Para kritikus mengatakan keputusan OpenAI mengizinkan konten erotika di platform menunjukkan perlunya regulasi yang lebih ketat di tingkat federal maupun negara bagian.

"Lantas bagaimana mereka memastikan anak-anak tidak bisa mengakses bagian ChatGPT yang hanya boleh diakses oleh orang dewasa dan menyediakan konten erotika?" tanya Jenny Kim, mitra di firma hukum Boies Schiller Flexner.

"OpenAI, seperti kebanyakan perusahaan teknologi besar di bidang ini, hanya menjadikan masyarakat sebagai kelinci percobaan." sambung Jenny

Jenny sebelumnya juga terlibat dalam sebuah gugatan terhadap Meta yang menyatakan algoritma Instagram membahayakan kesehatan mental pengguna remaja.