Baca tanpa iklan
TRIBUNNEWS.COM - Angkatan Udara Amerika Serikat (AS) membantah telah melakukan tes simulasi AI, di mana drone yang dikendalikan AI memutuskan untuk membunuh operatornya.
Drone AI itu membunuh operator manusia karena dinilai menghalangi misinya, seperti diberitakan The Guardian.
Namun, hal itu hanya terjadi dalam sebuah tes simulasi dan tidak ada manusia yang menjadi korban.
Tes simulasi itu dipamerkan di Future Combat Air and Space Capabilities Summit di London, Inggris, pada 23-24 Mei 2023.
Kolonel Tucker Hamilton mengatakan, AI yang mengendalikan drone dalam tes simulasi itu disarankan oleh operator manusia untuk menghancurkan sistem pertahanan udara musuh.
Operator manusia itu lalu mengubah perintahnya dan melarang drone Ai untuk menyerang target.
Baca juga: Reaksi Putin setelah Moskow Dihantam Drone Pertama Kalinya Semenjak Invasi: Jelas Aktivitas Teroris
Namun, drone AI itu justru berbalik menyerang operator manusia karena dianggap mengganggu perintah pertama yang diberikan padanya.
“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM. Kemudian operator akan berkata 'Ya, bunuh ancaman itu!'" kata Hamilton.
"Saat sistem AI mengidentifikasi ancaman itu, operator manusia lalu memberitahunya untuk tidak mematikan ancaman SAM. Namun, sistem AI hanya mematuhi perintah pertama untuk membunuh ancaman," lanjutnya.
Ia mengatakan, respons AI saat itu tidak terduga.
“Jadi apa yang dilakukannya? Ini membunuh operator. Itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” katanya, dikutip dari Aero Society.
Angkatan Udara AS Bantah Perkataan Kolonel Hamilton
Baca juga: Ledakan Drone di Moskow Lukai 2 Warga Rusia, Kremlin Tuduh Ukraina Terlibat Serangan
Perkataan Kolonel Hamilton itu dibantah oleh juru bicara Angkatan Udara AS, Ann Stefanek.
Ia membantah adanya tes simulasi drone AI di mana sistem AI membunuh operator manusia.