PROFIL PENULIS

Gifari Ahmad Fadhila. S.Ak,

Penulis adalah Mahasiswa Magister Manajemen Universitas Indonesia.

PENGGUNAAN artificial intelligence (AI) di lingkungan kerja berkembang pesat karena menjanjikan efisiensi, kecepatan analisis, dan otomatisasi proses bisnis.

Namun, di balik manfaat tersebut, terdapat risiko tersembunyi yang kerap luput dari perhatian manajemen: bias algoritma, kebocoran data, keputusan yang tidak dapat dijelaskan, hingga ketergantungan operasional pada sistem yang belum sepenuhnya matang. 

Dalam konteks ini, Enterprise Risk Management (ERM) menjadi kerangka penting untuk mengidentifikasi, mengukur, memantau, dan merespons risiko AI secara menyeluruh agar inovasi tetap sejalan dengan tata kelola, kepatuhan, dan keberlanjutan organisasi.

AI Mendorong Efisiensi, tetapi Membuka Blind Spot

AI membantu organisasi menyelesaikan pekerjaan administratif, analisis data, layanan pelanggan, hingga penyusunan dokumen secara lebih cepat.

Proses yang sebelumnya memerlukan waktu panjang kini dapat dilakukan dalam hitungan menit. Bagi perusahaan, hal ini berarti efisiensi biaya, percepatan layanan, dan peningkatan produktivitas.

Namun, percepatan adopsi AI sering kali tidak diikuti dengan kesiapan tata kelola. Banyak organisasi menggunakan AI sebelum memiliki kebijakan, kontrol, dan pembagian tanggung jawab yang jelas.

Akibatnya, manfaat jangka pendek terlihat nyata, tetapi risiko jangka panjang belum dipetakan secara memadai. Inilah blind spot utama dalam penggunaan AI di lingkungan kerja.

Risiko Tersembunyi dalam Operasional Harian

Risiko AI sering muncul dari aktivitas kerja sehari-hari. Karyawan dapat menggunakan platform AI generatif untuk merangkum dokumen, membuat laporan, atau menyusun komunikasi bisnis tanpa menyadari bahwa data sensitif mungkin ikut diunggah ke sistem eksternal.

Hal ini membuka risiko kebocoran informasi, pelanggaran kerahasiaan, dan persoalan kepatuhan. Selain itu, AI dapat menghasilkan jawaban yang tampak meyakinkan tetapi tidak selalu benar. 

Baca juga: Dorong Inklusi Digital, Penyandang Disabilitas Ikuti Pelatihan AI

Jika output tersebut langsung digunakan tanpa verifikasi manusia, keputusan operasional dapat menjadi keliru.

Fenomena shadow AI, yaitu penggunaan alat AI tanpa persetujuan resmi organisasi, juga memperbesar risiko karena manajemen kehilangan visibilitas terhadap data, proses, dan alat yang digunakan karyawan.

Risiko Model, Data, dan Keputusan yang Bias

AI sangat bergantung pada kualitas data dan model yang digunakan. Jika data historis mengandung bias, maka model AI dapat memperkuat bias tersebut dalam bentuk keputusan yang tampak objektif. 

Risiko ini menjadi serius ketika AI digunakan dalam rekrutmen, evaluasi kinerja, layanan pelanggan, atau pengambilan keputusan yang berdampak langsung pada individu. 

Tantangan lain adalah model drift, yaitu penurunan akurasi model ketika kondisi bisnis berubah. Model yang sebelumnya relevan bisa menjadi tidak akurat bila tidak dipantau dan diperbarui.

Di sisi lain, rendahnya explainability membuat organisasi sulit menjelaskan alasan di balik rekomendasi AI. Padahal, keputusan yang tidak dapat dijelaskan dengan baik akan menimbulkan risiko kepatuhan, audit, dan reputasi.

Dampak pada SDM, Kepatuhan dan Reputasi

Penggunaan AI tidak hanya berdampak pada teknologi, tetapi juga pada manusia dan budaya kerja. Perubahan peran akibat otomatisasi dapat menimbulkan kekhawatiran, resistensi, dan penurunan moral karyawan apabila tidak disertai strategi reskilling yang jelas.

Karena itu, transformasi AI perlu dikelola sebagai perubahan organisasi, bukan sekadar proyek teknologi. 

Baca juga: AI Mulai Belajar Menerbangkan Pesawat, Apakah Pilot Manusia Akan Tergantikan?

Dari sisi kepatuhan, penggunaan data pribadi, hak cipta, dan keputusan otomatis harus diatur dengan hati-hati. Tanpa kebijakan yang jelas, organisasi berisiko menghadapi pelanggaran hukum maupun sanksi regulator. 

Selain itu, kesalahan AI yang merugikan pelanggan atau menghasilkan keputusan bias dapat merusak reputasi perusahaan. Dalam banyak kasus, kerugian reputasi dapat lebih besar daripada manfaat efisiensi yang diperoleh.

Mengapa ERM Harus Naik Kelas

ERM perlu berkembang agar mampu menghadapi karakter risiko AI yang kompleks, cepat berubah, dan lintas fungsi. Risiko AI tidak hanya berada di divisi teknologi informasi, tetapi juga menyentuh SDM, legal, kepatuhan, keamanan informasi, operasional, dan unit bisnis.

Karena itu, AI harus masuk ke dalam risk register organisasi dan menjadi bagian dari agenda manajemen puncak. ERM juga perlu menghubungkan penggunaan AI dengan risk appetite. 

Tidak semua penggunaan AI memiliki tingkat risiko yang sama. AI untuk membantu penyusunan draft dokumen tentu berbeda risikonya dengan AI yang digunakan untuk rekrutmen, penilaian kredit, atau keputusan pelanggan. Dengan klasifikasi risiko yang tepat, organisasi dapat menentukan kontrol yang proporsional.

Peran ERM: dari Identifikasi ke Respons

Peran ERM dimulai dari pemetaan seluruh penggunaan AI di organisasi. Setiap use case perlu diidentifikasi, dinilai tingkat risikonya, lalu dipantau secara berkala.

Penggunaan AI yang menyentuh data sensitif atau keputusan penting harus memiliki kontrol lebih kuat, seperti validasi model, pengujian bias, audit trail, klasifikasi data, serta mekanisme human-in-the-loop. 

ERM juga perlu menyiapkan indikator risiko utama atau Key Risk Indicators.

Contohnya adalah jumlah penggunaan AI yang belum disetujui, insiden data terkait AI, tingkat akurasi model, temuan bias, dan jumlah keputusan AI yang dikoreksi manusia. 

Dengan indikator tersebut, organisasi dapat bergerak dari pendekatan reaktif menuju pengelolaan risiko yang lebih proaktif.

Arah Tata Kelola: Inovasi yang Tetap Aman

Agar penggunaan AI berkelanjutan, organisasi perlu memiliki tata kelola yang jelas. Kebijakan internal harus menjelaskan alat AI apa yang boleh digunakan, data apa yang tidak boleh diunggah, siapa yang bertanggung jawab atas output AI, dan kapan hasil AI wajib diverifikasi manusia. 

Tanpa aturan yang tegas, penggunaan AI akan berkembang secara tidak terkendali. Komite risiko, komite audit, fungsi kepatuhan, keamanan informasi, dan unit bisnis perlu bekerja bersama untuk memastikan inovasi tidak melampaui batas kontrol. 

Prinsip trustworthy AI perlu menjadi dasar, yaitu AI yang adil, transparan, aman, akuntabel, dan dapat diawasi. Dengan begitu, organisasi tetap dapat berinovasi tanpa mengorbankan kepercayaan, keamanan, dan integritas keputusan bisnis.

Penutup

AI di lingkungan kerja menawarkan peluang besar, tetapi juga menyimpan risiko tersembunyi yang tidak boleh diremehkan. Tanpa pengelolaan yang matang, efisiensi dapat berubah menjadi sumber kerentanan operasional, hukum, dan reputasi.

Di sinilah ERM memainkan peran strategis: menjembatani inovasi dengan disiplin tata kelola. Melalui ERM, organisasi dapat memetakan penggunaan AI, menilai tingkat risikonya, menetapkan kontrol yang sesuai, serta memastikan setiap manfaat teknologi diimbangi dengan pengawasan yang memadai.

Organisasi yang mampu mengelola risiko AI secara menyeluruh akan lebih siap membangun keunggulan yang berkelanjutan, adaptif, dan bertanggung jawab.

*) Artikel ini ditulis kolaboratif oleh Gifari Ahmad Fadhila. S.Ak, mahasiswa Magister Manajemen Universitas Indonesia bersama Dr. Dewi Hanggraeni, MBA, CA, CACP, GRCE, CRM., dosen Fakultas Ekonomi (FEB) UI dan Dekan FEB FKD Universitas Pertamina Jakarta.