Dia memperingatkan bahwa alat seperti ChatGPT dan chatbot serupa menimbulkan risiko bagi pembuat konten, bisnis, dan layanan internet yang awalnya menghasilkan data yang digunakan dalam pelatihan bot AI.

Peringatan yang disampaikan Suchir Balaji mencerminkan semakin banyaknya orang yang menggugat berbagai perusahaan AI, termasuk OpenAI, dengan alasan bahwa mereka secara ilegal menggunakan materi berhak cipta untuk melatih teknologi mereka. 

Ini termasuk pemrogram komputer, artis, label rekaman, penulis buku, dan organisasi berita.

Suchir Balaji juga menunjukkan masalah yang lebih besar: ia mengatakan seiring dengan semakin banyaknya teknologi AI yang menggantikan layanan internet yang ada.

Teknologi tersebut sering kali menghasilkan informasi yang salah atau bahkan dibuat-buat – sebuah fenomena yang oleh para peneliti disebut sebagai “halusinasi.” Internet, katanya, berubah menjadi lebih buruk.

Namun klaimnya dibantah oleh OpenAI.

“Kami membangun model AI kami menggunakan data yang tersedia untuk umum, dengan cara yang dilindungi oleh penggunaan wajar dan prinsip-prinsip terkait, serta didukung oleh preseden hukum yang sudah lama dan diterima secara luas." 

"Kami memandang prinsip ini adil bagi para pencipta, penting bagi para inovator, dan penting bagi daya saing AS,” kata perusahaan itu dalam sebuah pernyataan.

Suchir Balaji Dorong Terbitnya Regulasi

Dalam postingan X bulan Oktober, Balaji menyampaikan keprihatinannya tentang penggunaan materi berhak cipta oleh perusahaan AI generatif.

“Awalnya saya tidak tahu banyak tentang hak cipta, penggunaan wajar, dan sebagainya, namun menjadi penasaran setelah melihat semua tuntutan hukum yang diajukan terhadap perusahaan GenAI,” tulisnya.

Saat dia menyelidiki masalah ini lebih dalam, Balaji mencapai kesimpulan yang meresahkan.

“Penggunaan wajar sepertinya merupakan pembelaan yang tidak masuk akal bagi banyak produk AI generatif, karena alasan dasar bahwa mereka dapat menciptakan pengganti yang bersaing dengan data yang mereka latih,” tambahnya.

Meskipun banyak mantan karyawan OpenAI yang menyuarakan keprihatinan tentang budaya keselamatan startup, Balaji menonjol sebagai salah satu dari sedikit orang yang secara langsung menantang data yang digunakan untuk melatih modelnya.

Tweet terakhirnya dan postingan blog yang menyertainya mendapat perhatian baru setelah kematiannya, sehingga memicu seruan untuk regulasi yang lebih kuat dan transparansi yang lebih besar dalam industri AI yang berkembang pesat.

Sumber: First Post dan berbagai sumber