Unggahan tersebut dibuat oleh akun Twitter ini, Jumat (28/7/2023). Pengunggah menceritakan, dirinya tak sengaja mengangkat telepon yang menawarkan kredit tanpa agunan (KTA). Pengunggah pun menolaknya secara singkat dengan mengatakan "tidak berminat".

Namun, anehnya, penelepon langsung memutuskan panggilan.

Baca juga: Waspada Pencurian Foto di Akun Medsos untuk Penipuan Modus Wanita Open BO! Si Kembar Ini jadi Korban

"Gue lalu baru sadar: bisa aja dia pakai rekaman suara gue buat diedit atau di-clone pakai AI voice. Pas gue cek, modus itu emang ada," tulis pengunggah. Menurut pengunggah, AI dapat menirukan hanya dengan mendengarkan suara seseorang selama tiga detik..

Chairman Lembaga Riset Keamanan Siber CISSReC, Pratama Persadha menjelaskan, pembuatan suara AI dengan modal sampel suara korban dari sambungan telepon secara teknis dapat dilakukan.

"Secara teknis hal tersebut mungkin saja dilakukan, di mana pelaku menelpon korban cukup lama, sehingga cukup banyak mendapatkan sampel suara," ujarnya saat dihubungi Kompas.com, Senin (31/7/2023). Selanjutnya sampel suara akan diproses menggunakan AI dan dimanfaatkan untuk menipu.

Tindakan penipuan yang dapat dilakukan pun beragam, seperti menelepon keluarga korban dan mengaku membutuhkan uang karena kecelakaan, menelepon rekan kerja untuk meminjam uang, membuat iklan palsu dengan suara kita, dan sebagainya.

Kendati demikian, Pratama melanjutkan, jika hanya mengangkat telepon selama sesaat, seharusnya sampel data masih belum cukup untuk membuat narasi menggunakan AI.

"Meskipun Microsoft melalui program AI bernama VALL-E mengklaim mampu membuat sebuah narasi suara hanya menggunakan sampel suara selama tiga detik, tim peneliti dari Microsoft juga mengatakan bahwa sistem tersebut masih jauh dari kata sempurna," terangnya.