Baca tanpa iklan
TRIBUNNEWS.COM - Angkatan Udara Amerika Serikat (AS) membantah telah melakukan tes simulasi AI, di mana drone yang dikendalikan AI memutuskan untuk membunuh operatornya.
Drone AI itu membunuh operator manusia karena dinilai menghalangi misinya, seperti diberitakan The Guardian.
Namun, hal itu hanya terjadi dalam sebuah tes simulasi dan tidak ada manusia yang menjadi korban.
Tes simulasi itu dipamerkan di Future Combat Air and Space Capabilities Summit di London, Inggris, pada 23-24 Mei 2023.
Kolonel Tucker Hamilton mengatakan, AI yang mengendalikan drone dalam tes simulasi itu disarankan oleh operator manusia untuk menghancurkan sistem pertahanan udara musuh.
Operator manusia itu lalu mengubah perintahnya dan melarang drone Ai untuk menyerang target.
Baca juga: Reaksi Putin setelah Moskow Dihantam Drone Pertama Kalinya Semenjak Invasi: Jelas Aktivitas Teroris
Namun, drone AI itu justru berbalik menyerang operator manusia karena dianggap mengganggu perintah pertama yang diberikan padanya.
“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM. Kemudian operator akan berkata 'Ya, bunuh ancaman itu!'" kata Hamilton.
"Saat sistem AI mengidentifikasi ancaman itu, operator manusia lalu memberitahunya untuk tidak mematikan ancaman SAM. Namun, sistem AI hanya mematuhi perintah pertama untuk membunuh ancaman," lanjutnya.
Ia mengatakan, respons AI saat itu tidak terduga.
“Jadi apa yang dilakukannya? Ini membunuh operator. Itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” katanya, dikutip dari Aero Society.
Angkatan Udara AS Bantah Perkataan Kolonel Hamilton
Baca juga: Ledakan Drone di Moskow Lukai 2 Warga Rusia, Kremlin Tuduh Ukraina Terlibat Serangan
Perkataan Kolonel Hamilton itu dibantah oleh juru bicara Angkatan Udara AS, Ann Stefanek.
Ia membantah adanya tes simulasi drone AI di mana sistem AI membunuh operator manusia.
“Departemen Angkatan Udara belum melakukan simulasi AI-drone semacam itu dan tetap berkomitmen pada penggunaan teknologi AI yang etis dan bertanggung jawab,” kata Stefanek kepada Insider.
"Tampaknya komentar sang kolonel diambil di luar konteks dan dimaksudkan sebagai anekdot," lanjutnya.
Kolonel Hamilton: Sistem AI Berbalik Serang Operator
Baca juga: AS Incar TNT Jepang untuk Peluru Artileri yang akan Dikirim ke Ukraina
Dalam konferensi pers di Future Combat Air and Space Capabilities Summit, Kolonel Hamilton mengatakan, pihaknya telah melatih sistem drone AI itu untuk tidak membunuh operatornya, namun sistem itu memberontak.
“Kami melatih sistem,'Hei, jangan bunuh operatornya – itu buruk. Anda akan kehilangan poin jika Anda melakukan itu.'" katanya.
"Jadi apa yang mulai dilakukannya? (Drone AI) Itu mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” lanjutnya.
Hamilton adalah pilot uji coba pesawat tempur eksperimental yang terlibat dalam pengembangan sistem otonom seperti jet tempur F-16 bertenaga AI.
Ia memperingatkan agar tidak terlalu mengandalkan AI.
“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi, jika Anda tidak akan membicarakan etika dan AI," katanya memperingatkan.
(Tribunnews.com/Yunita Rahmayanti)
Berita lain terkait Artificial Intelligence