ERM juga perlu menyiapkan indikator risiko utama atau Key Risk Indicators.

Contohnya adalah jumlah penggunaan AI yang belum disetujui, insiden data terkait AI, tingkat akurasi model, temuan bias, dan jumlah keputusan AI yang dikoreksi manusia. 

Dengan indikator tersebut, organisasi dapat bergerak dari pendekatan reaktif menuju pengelolaan risiko yang lebih proaktif.

Arah Tata Kelola: Inovasi yang Tetap Aman

Agar penggunaan AI berkelanjutan, organisasi perlu memiliki tata kelola yang jelas. Kebijakan internal harus menjelaskan alat AI apa yang boleh digunakan, data apa yang tidak boleh diunggah, siapa yang bertanggung jawab atas output AI, dan kapan hasil AI wajib diverifikasi manusia. 

Tanpa aturan yang tegas, penggunaan AI akan berkembang secara tidak terkendali. Komite risiko, komite audit, fungsi kepatuhan, keamanan informasi, dan unit bisnis perlu bekerja bersama untuk memastikan inovasi tidak melampaui batas kontrol. 

Prinsip trustworthy AI perlu menjadi dasar, yaitu AI yang adil, transparan, aman, akuntabel, dan dapat diawasi. Dengan begitu, organisasi tetap dapat berinovasi tanpa mengorbankan kepercayaan, keamanan, dan integritas keputusan bisnis.

Penutup

AI di lingkungan kerja menawarkan peluang besar, tetapi juga menyimpan risiko tersembunyi yang tidak boleh diremehkan. Tanpa pengelolaan yang matang, efisiensi dapat berubah menjadi sumber kerentanan operasional, hukum, dan reputasi.

Di sinilah ERM memainkan peran strategis: menjembatani inovasi dengan disiplin tata kelola. Melalui ERM, organisasi dapat memetakan penggunaan AI, menilai tingkat risikonya, menetapkan kontrol yang sesuai, serta memastikan setiap manfaat teknologi diimbangi dengan pengawasan yang memadai.

Organisasi yang mampu mengelola risiko AI secara menyeluruh akan lebih siap membangun keunggulan yang berkelanjutan, adaptif, dan bertanggung jawab.

*) Artikel ini ditulis kolaboratif oleh Gifari Ahmad Fadhila. S.Ak, mahasiswa Magister Manajemen Universitas Indonesia bersama Dr. Dewi Hanggraeni, MBA, CA, CACP, GRCE, CRM., dosen Fakultas Ekonomi (FEB) UI dan Dekan FEB FKD Universitas Pertamina Jakarta.