PROFIL PENULIS

Gifari Ahmad Fadhila. S.Ak,

Penulis adalah Mahasiswa Magister Manajemen Universitas Indonesia.

PENGGUNAAN artificial intelligence (AI) di lingkungan kerja berkembang pesat karena menjanjikan efisiensi, kecepatan analisis, dan otomatisasi proses bisnis.

Namun, di balik manfaat tersebut, terdapat risiko tersembunyi yang kerap luput dari perhatian manajemen: bias algoritma, kebocoran data, keputusan yang tidak dapat dijelaskan, hingga ketergantungan operasional pada sistem yang belum sepenuhnya matang. 

Dalam konteks ini, Enterprise Risk Management (ERM) menjadi kerangka penting untuk mengidentifikasi, mengukur, memantau, dan merespons risiko AI secara menyeluruh agar inovasi tetap sejalan dengan tata kelola, kepatuhan, dan keberlanjutan organisasi.

AI Mendorong Efisiensi, tetapi Membuka Blind Spot

AI membantu organisasi menyelesaikan pekerjaan administratif, analisis data, layanan pelanggan, hingga penyusunan dokumen secara lebih cepat.

Proses yang sebelumnya memerlukan waktu panjang kini dapat dilakukan dalam hitungan menit. Bagi perusahaan, hal ini berarti efisiensi biaya, percepatan layanan, dan peningkatan produktivitas.

Namun, percepatan adopsi AI sering kali tidak diikuti dengan kesiapan tata kelola. Banyak organisasi menggunakan AI sebelum memiliki kebijakan, kontrol, dan pembagian tanggung jawab yang jelas.

Akibatnya, manfaat jangka pendek terlihat nyata, tetapi risiko jangka panjang belum dipetakan secara memadai. Inilah blind spot utama dalam penggunaan AI di lingkungan kerja.

Risiko Tersembunyi dalam Operasional Harian

Risiko AI sering muncul dari aktivitas kerja sehari-hari. Karyawan dapat menggunakan platform AI generatif untuk merangkum dokumen, membuat laporan, atau menyusun komunikasi bisnis tanpa menyadari bahwa data sensitif mungkin ikut diunggah ke sistem eksternal.

Hal ini membuka risiko kebocoran informasi, pelanggaran kerahasiaan, dan persoalan kepatuhan. Selain itu, AI dapat menghasilkan jawaban yang tampak meyakinkan tetapi tidak selalu benar. 

Baca juga: Dorong Inklusi Digital, Penyandang Disabilitas Ikuti Pelatihan AI

Jika output tersebut langsung digunakan tanpa verifikasi manusia, keputusan operasional dapat menjadi keliru.

Fenomena shadow AI, yaitu penggunaan alat AI tanpa persetujuan resmi organisasi, juga memperbesar risiko karena manajemen kehilangan visibilitas terhadap data, proses, dan alat yang digunakan karyawan.

Risiko Model, Data, dan Keputusan yang Bias

AI sangat bergantung pada kualitas data dan model yang digunakan. Jika data historis mengandung bias, maka model AI dapat memperkuat bias tersebut dalam bentuk keputusan yang tampak objektif.