“Seiring dengan semakin luasnya adopsi AI, yang terkadang disalahgunakan, penting untuk mempertimbangkan di mana titik-titik kontrol sebaiknya ditetapkan guna memungkinkan pengawasan oleh manusia,” ujarnya.

Menurut Catherine, pada dasarnya pemanfaatan AI bertujuan membantu manusia dalam proses kerja yang lebih efisien.

Dalam pemanfaatannya, generative AI pun umumnya dilengkapi dengan mekanisme pengaman bawaan untuk mencegah penyalahgunaan data yang dihasilkan, melindungi dari penipuan, serta menghindari kebocoran informasi pribadi maupun konten yang dilindungi hak cipta.

Namun, ia menilai bahwa risiko tetap dapat muncul apabila  pengguna tidak memahami batasan dan tanggung jawab etis dalam memanfaatkan teknologi tersebut.

Catherine juga menekankan perbedaan antara halusinasi AI (keluaran AI yang tidak akurat atau tidak berbasis data pelatihan) dan disinformasi, yaitu konten palsu yang sengaja dibuat untuk menyesatkan. Keduanya dapat berdampak serius jika tidak disikapi dengan kewaspadaan dan sistem pendeteksian yang memadai. 

Etika AI Perlu Jadi Fondasi Pendidikan dan Industri

Membangun kesadaran akan penggunaan AI yang etis, memungkinkan individu memaksimalkan potensi teknologi sekaligus meminimalkan risiko penyalahgunaannya.

Literasi AI menjadi keterampilan penting, baik bagi pekerja lintas industri maupun generasi muda, khususnya mahasiswa yang akan memanfaatkan teknologi ini secara bertanggung jawab di masa depan.

Kesadaran tersebut semakin relevan di era digital, ketika pembuatan konten berbasis generative AI berlangsung cepat dan masif. 

“Dengan literasi yang tepat, pengguna tidak lagi menjadi konsumen pasif, melainkan individu yang bertanggung jawab dan mampu meminimalkan risiko penyalahgunaan teknologi AI,” ujar Catherine.

IBM mengedepankan lima prinsip utama dalam penerapan AI yang etis, yakni keterjelasan (explainability), keadilan, ketangguhan sistem, transparansi, dan perlindungan privasi.

Prinsip-prinsip ini menjadi landasan dalam membangun kepercayaan terhadap teknologi dan memastikan AI digunakan untuk menciptakan manfaat bersama.

Edukasi etika AI juga menjadi prioritas pemimpin industri teknologi, seperti IBM melalui IBM SkillsBuild, program pendidikan gratis yang menyediakan lebih dari 1.000 kursus di bidang AI, keamanan siber, dan teknologi lainnya. Di Indonesia, program ini telah dijalankan melalui kerja sama dengan Markoding, Universitas Ciputra, Hacktiv8, dan Dicoding.

Peran Teknologi dan Inisiatif Perusahaan Terkait

Selain edukasi, pengembangan teknologi pendukung menjadi kunci dalam menghadapi ancaman deepfake.