Bot-bot ini beroperasi seperti manusia dan tidak dapat dibedakan. Jadi, mereka menyukai, mengomentari, membagikan, mendukung pandangan ekstrem, dan secara keliru menunjukkan dukungan akar rumput yang luas terhadap suatu tujuan atau kandidat tertentu.

Bot, yang disangka manusia, juga dapat menyerang lawan dan memengaruhi opini publik. Kemampuan untuk membuat deepfake yang benar-benar bagus juga memungkinkan organisasi dan individu untuk menyebarkan disinformasi dengan cepat dan mudah. ​​Dengan membuat deepfake yang provokatif, mereka dapat menjadi viral dan memengaruhi opini publik.

Pada tahun 2024, diperkirakan akan ada lebih banyak deepfake, tetapi saya pikir kita akan melihat lebih banyak lagi di masa mendatang. Data pribadi individu telah ditambang dan digunakan untuk penargetan mikro, membantu menciptakan ruang gema yang pada gilirannya memengaruhi keyakinan dan tindakan pemilih, yang menyebabkan lebih banyak kemarahan dan polarisasi.

Saya ragu sebagian besar pemilih tahu bahwa mereka benar-benar telah dimanipulasi oleh AI. Saya mendengar, tetapi belum memverifikasi, bahwa setelah pemilihan, khususnya pada X, ada pembersihan akun, yang saya kira dapat berarti banyak hal, tetapi dapat mengarah pada AI yang membuat akun palsu.

Susan Ohmer, Ph.D., Film, Televisi, Media dan Pemilihan Presiden

Penerapan AI dalam pemilihan umum terkini di seluruh dunia telah memunculkan kekhawatiran mengenai potensi video buatan AI dan panggilan otomatis yang dapat memutarbalikkan fakta mengenai kandidat dan pandangan mereka.

Banyak analis menyerukan regulasi yang lebih ketat, tetapi perusahaan media sosial tidak secara konsisten menegakkan standar mereka sendiri.

Tantangan sebenarnya adalah mendidik masyarakat tentang cara mengidentifikasi dan menilai deepfake ini. 

Ada peluang, tidak hanya bagi para pendidik, tetapi juga bagi siapa pun yang paham tentang media kontemporer, untuk mencari tahu cara membantu kita semua mengenali dan menganalisis pemain politik baru ini.

Sumber: Newsweek