Ringkasan Berita:

• Praktik penipuan deepfake untuk memangsa korbannya dengan memanfaatkan kecanggihan AI belakangan marak dikeluhkan.
• Risiko tetap dapat muncul apabila  pengguna AI tidak memahami batasan dan tanggung jawab etis dalam memanfaatkan teknologi tersebut.
• Kolaborasi antara pemerintah dan swasta menjadi kunci dalam membangun ekosistem AI yang aman dan tepercaya. 

TRIBUNNEWS.COM, JAKARTA - Praktik penipuan digital di Indonesia semakin canggih seiring makin dalamnya pemanfaatan teknologi kecerdasan buatan (AI). 

Belakangan, contoh praktik penipuan yang marak dikeluhkan adalah deepfake untuk memangsa korbannya.

Penipuan deepfake didefinisikan sebagai modus kejahatan yang menggunakan teknologi kecerdasan buatan (AI) untuk memanipulasi atau menciptakan konten audio, video, dan gambar palsu yang sangat mirip dengan aslinya.

Baca juga: Deepfake Asusila dan Krisis Kepercayaan Digital

Sindikat pelaku penipuan ini bekerja dengan metode deep learning untuk meniru wajah, suara, hingga gerakan seseorang agar terlihat meyakinkan. 

Berdasar data Kementerian Kominfo, Indonesia mencatat peningkatan peredaran konten deepfake hingga 550 persen berdasarkan data Sensity AI dalam lima tahun terakhir.

Kondisi ini sudah menjadi perhatian pemerintah, khususnya Komdigi, yang terus mendorong kesinambungan antara inovasi dan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai sarana penyebaran konten hoaks. 

Wakil Menteri Komunikasi dan Digital Nezar Patria pada 2025 lalu sudah meminta platform digital global untuk dapat memberikan dukungan kepada Indonesia dengan menghadirkan fitur pengecekan konten yang dibuat dengan memanfaatkan kecanggihan AI.

Kemudahan akses terhadap teknologi generative AI yang mampu menciptakan gambar, video, dan audio secara instan, turut meningkatkan  potensi penyalahgunaan.

Tanpa dibarengi kesadaran etika dan regulasi yang memadai dan adaptif, teknologi ini berpotensi menyebarkan misinformasi, merusak reputasi individu, serta menimbulkan kerugian bagi berbagai sektor industri.

 Inovasi AI Menuntut anggung Jawab Pegguna

Konten manipulatif seperti deepfake yang kian meyakinkan semakin marak beredar di media sosial dan platform digital. Fenomena ini menyulitkan publik membedakan informasi yang autentik dan hasil rekayasa. 

Di tengah laju pesat kemajuan teknologi AI, peningkatan literasi dan tanggung jawab digital menjadi kunci agar masyarakat dapat memanfaatkan inovasi ini secara aman dan bertanggung jawab.

Sejumlah pemimpin industri menilai bahwa kesadaran manusia sebagai pengguna menjadi faktor krusial dalam pengelolaan risiko AI.

Catherine Lian, General Manager & Technology Leader IBM ASEAN, menekankan pentingnya peran manusia dalam mengawasi sistem AI, terutama seiring dengan semakin luasnya adopsi teknologi ini di berbagai sektor.