Risiko ini menjadi serius ketika AI digunakan dalam rekrutmen, evaluasi kinerja, layanan pelanggan, atau pengambilan keputusan yang berdampak langsung pada individu. 

Tantangan lain adalah model drift, yaitu penurunan akurasi model ketika kondisi bisnis berubah. Model yang sebelumnya relevan bisa menjadi tidak akurat bila tidak dipantau dan diperbarui.

Di sisi lain, rendahnya explainability membuat organisasi sulit menjelaskan alasan di balik rekomendasi AI. Padahal, keputusan yang tidak dapat dijelaskan dengan baik akan menimbulkan risiko kepatuhan, audit, dan reputasi.

Dampak pada SDM, Kepatuhan dan Reputasi

Penggunaan AI tidak hanya berdampak pada teknologi, tetapi juga pada manusia dan budaya kerja. Perubahan peran akibat otomatisasi dapat menimbulkan kekhawatiran, resistensi, dan penurunan moral karyawan apabila tidak disertai strategi reskilling yang jelas.

Karena itu, transformasi AI perlu dikelola sebagai perubahan organisasi, bukan sekadar proyek teknologi. 

Baca juga: AI Mulai Belajar Menerbangkan Pesawat, Apakah Pilot Manusia Akan Tergantikan?

Dari sisi kepatuhan, penggunaan data pribadi, hak cipta, dan keputusan otomatis harus diatur dengan hati-hati. Tanpa kebijakan yang jelas, organisasi berisiko menghadapi pelanggaran hukum maupun sanksi regulator. 

Selain itu, kesalahan AI yang merugikan pelanggan atau menghasilkan keputusan bias dapat merusak reputasi perusahaan. Dalam banyak kasus, kerugian reputasi dapat lebih besar daripada manfaat efisiensi yang diperoleh.

Mengapa ERM Harus Naik Kelas

ERM perlu berkembang agar mampu menghadapi karakter risiko AI yang kompleks, cepat berubah, dan lintas fungsi. Risiko AI tidak hanya berada di divisi teknologi informasi, tetapi juga menyentuh SDM, legal, kepatuhan, keamanan informasi, operasional, dan unit bisnis.

Karena itu, AI harus masuk ke dalam risk register organisasi dan menjadi bagian dari agenda manajemen puncak. ERM juga perlu menghubungkan penggunaan AI dengan risk appetite. 

Tidak semua penggunaan AI memiliki tingkat risiko yang sama. AI untuk membantu penyusunan draft dokumen tentu berbeda risikonya dengan AI yang digunakan untuk rekrutmen, penilaian kredit, atau keputusan pelanggan. Dengan klasifikasi risiko yang tepat, organisasi dapat menentukan kontrol yang proporsional.

Peran ERM: dari Identifikasi ke Respons

Peran ERM dimulai dari pemetaan seluruh penggunaan AI di organisasi. Setiap use case perlu diidentifikasi, dinilai tingkat risikonya, lalu dipantau secara berkala.

Penggunaan AI yang menyentuh data sensitif atau keputusan penting harus memiliki kontrol lebih kuat, seperti validasi model, pengujian bias, audit trail, klasifikasi data, serta mekanisme human-in-the-loop.