Ringkasan Berita:

• Praktik penipuan deepfake untuk memangsa korbannya dengan memanfaatkan kecanggihan AI belakangan marak dikeluhkan.
• Risiko tetap dapat muncul apabila  pengguna AI tidak memahami batasan dan tanggung jawab etis dalam memanfaatkan teknologi tersebut.
• Kolaborasi antara pemerintah dan swasta menjadi kunci dalam membangun ekosistem AI yang aman dan tepercaya. 

TRIBUNNEWS.COM, JAKARTA - Praktik penipuan digital di Indonesia semakin canggih seiring makin dalamnya pemanfaatan teknologi kecerdasan buatan (AI). 

Belakangan, contoh praktik penipuan yang marak dikeluhkan adalah deepfake untuk memangsa korbannya.

Penipuan deepfake didefinisikan sebagai modus kejahatan yang menggunakan teknologi kecerdasan buatan (AI) untuk memanipulasi atau menciptakan konten audio, video, dan gambar palsu yang sangat mirip dengan aslinya.

Baca juga: Deepfake Asusila dan Krisis Kepercayaan Digital

Sindikat pelaku penipuan ini bekerja dengan metode deep learning untuk meniru wajah, suara, hingga gerakan seseorang agar terlihat meyakinkan. 

Berdasar data Kementerian Kominfo, Indonesia mencatat peningkatan peredaran konten deepfake hingga 550 persen berdasarkan data Sensity AI dalam lima tahun terakhir.

Kondisi ini sudah menjadi perhatian pemerintah, khususnya Komdigi, yang terus mendorong kesinambungan antara inovasi dan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai sarana penyebaran konten hoaks. 

Wakil Menteri Komunikasi dan Digital Nezar Patria pada 2025 lalu sudah meminta platform digital global untuk dapat memberikan dukungan kepada Indonesia dengan menghadirkan fitur pengecekan konten yang dibuat dengan memanfaatkan kecanggihan AI.

Kemudahan akses terhadap teknologi generative AI yang mampu menciptakan gambar, video, dan audio secara instan, turut meningkatkan  potensi penyalahgunaan.

Tanpa dibarengi kesadaran etika dan regulasi yang memadai dan adaptif, teknologi ini berpotensi menyebarkan misinformasi, merusak reputasi individu, serta menimbulkan kerugian bagi berbagai sektor industri.

 Inovasi AI Menuntut anggung Jawab Pegguna

Konten manipulatif seperti deepfake yang kian meyakinkan semakin marak beredar di media sosial dan platform digital. Fenomena ini menyulitkan publik membedakan informasi yang autentik dan hasil rekayasa. 

Di tengah laju pesat kemajuan teknologi AI, peningkatan literasi dan tanggung jawab digital menjadi kunci agar masyarakat dapat memanfaatkan inovasi ini secara aman dan bertanggung jawab.

Sejumlah pemimpin industri menilai bahwa kesadaran manusia sebagai pengguna menjadi faktor krusial dalam pengelolaan risiko AI.

Catherine Lian, General Manager & Technology Leader IBM ASEAN, menekankan pentingnya peran manusia dalam mengawasi sistem AI, terutama seiring dengan semakin luasnya adopsi teknologi ini di berbagai sektor. 

“Seiring dengan semakin luasnya adopsi AI, yang terkadang disalahgunakan, penting untuk mempertimbangkan di mana titik-titik kontrol sebaiknya ditetapkan guna memungkinkan pengawasan oleh manusia,” ujarnya.

Menurut Catherine, pada dasarnya pemanfaatan AI bertujuan membantu manusia dalam proses kerja yang lebih efisien.

Dalam pemanfaatannya, generative AI pun umumnya dilengkapi dengan mekanisme pengaman bawaan untuk mencegah penyalahgunaan data yang dihasilkan, melindungi dari penipuan, serta menghindari kebocoran informasi pribadi maupun konten yang dilindungi hak cipta.

Namun, ia menilai bahwa risiko tetap dapat muncul apabila  pengguna tidak memahami batasan dan tanggung jawab etis dalam memanfaatkan teknologi tersebut.

Catherine juga menekankan perbedaan antara halusinasi AI (keluaran AI yang tidak akurat atau tidak berbasis data pelatihan) dan disinformasi, yaitu konten palsu yang sengaja dibuat untuk menyesatkan. Keduanya dapat berdampak serius jika tidak disikapi dengan kewaspadaan dan sistem pendeteksian yang memadai. 

Etika AI Perlu Jadi Fondasi Pendidikan dan Industri

Membangun kesadaran akan penggunaan AI yang etis, memungkinkan individu memaksimalkan potensi teknologi sekaligus meminimalkan risiko penyalahgunaannya.

Literasi AI menjadi keterampilan penting, baik bagi pekerja lintas industri maupun generasi muda, khususnya mahasiswa yang akan memanfaatkan teknologi ini secara bertanggung jawab di masa depan.

Kesadaran tersebut semakin relevan di era digital, ketika pembuatan konten berbasis generative AI berlangsung cepat dan masif. 

“Dengan literasi yang tepat, pengguna tidak lagi menjadi konsumen pasif, melainkan individu yang bertanggung jawab dan mampu meminimalkan risiko penyalahgunaan teknologi AI,” ujar Catherine.

IBM mengedepankan lima prinsip utama dalam penerapan AI yang etis, yakni keterjelasan (explainability), keadilan, ketangguhan sistem, transparansi, dan perlindungan privasi.

Prinsip-prinsip ini menjadi landasan dalam membangun kepercayaan terhadap teknologi dan memastikan AI digunakan untuk menciptakan manfaat bersama.

Edukasi etika AI juga menjadi prioritas pemimpin industri teknologi, seperti IBM melalui IBM SkillsBuild, program pendidikan gratis yang menyediakan lebih dari 1.000 kursus di bidang AI, keamanan siber, dan teknologi lainnya. Di Indonesia, program ini telah dijalankan melalui kerja sama dengan Markoding, Universitas Ciputra, Hacktiv8, dan Dicoding.

Peran Teknologi dan Inisiatif Perusahaan Terkait

Selain edukasi, pengembangan teknologi pendukung menjadi kunci dalam menghadapi ancaman deepfake.

Berbagai metode tengah dikembangkan, seperti penandaan digital (digital watermarking), penyisipan pola tersembunyi pada gambar, serta teknik deteksi berbasis pembelajaran mesin untuk mengidentifikasi konten yang dihasilkan atau dimanipulasi oleh AI.

Sejumlah solusi inovatif pun terus dikembangkan para pemimpin teknologi untuk membantu mendeteksi dan memitigasi risiko konten palsu berbasis AI. IBM, misalnya telah berkontribusi melalui kemitraan global dengan Reality Defender untuk mendeteksi konten suara, video, dan gambar yang dimanipulasi dalam skala besar.

Catherine bilang, IBM juga mengembangkan Granite Guardian, model yang dirancang untuk memitigasi risiko generative AI di lingkungan perusahaan, termasuk prompt berbahaya dan respons yang berpotensi merugikan.

Selain itu, kolaborasi antara pemerintah dan swasta menjadi kunci dalam membangun ekosistem AI yang aman dan tepercaya. 

Di tengah meningkatnya ancaman deepfake di Indonesia, pemanfaatan AI secara bijak menjadi tanggung jawab bersama yang didukung oleh literasi, arah regulasi, dan teknologi yang tepat. (fin)

caption: