AI sangat baik dalam menemukan pola, tetapi ia tidak memahami konteks atau niat. AI dapat menandai WP yang jujur namun melakukan kesalahan administrasi yang fatal (error) dengan cara yang sama persis seperti ia menandai pelaku kejahatan yang sengaja memanipulasi data. AI hanya mengatasi gejala (under-invoicing), bukan penyakit (niat untuk korupsi).

Tantangan kedua adalah bias algoritmik dan legitimasi korupsi. AI tidaklah objektif murni; ia "belajar" dari data historis yang disediakan manusia.

Ini adalah masalah "Garbage In, Garbage Out". Jika data historis yang digunakan untuk melatih AI adalah data dari sistem yang selama ini korup di mana auditor secara sistematis "mengabaikan" pemeriksaan pada perusahaan-perusahaan besar yang dekat dengan kekuasaan, maka AI akan "mempelajari" bias ini.

Ia akan belajar bahwa mengabaikan perusahaan tipe A adalah "pola normal". Alih-alih memberantas korupsi, AI justru berisiko mengotomatisasi, melegitimasi, dan menyembunyikan praktik korupsi yang sudah ada di balik tabir "objektivitas mesin".

Tantangan ketiga adalah dilema "Kotak Hitam" (Black Box) dan erosi akuntabilitas. Banyak sistem AI modern beroperasi sebagai kotak hitam; kita tahu input dan output-nya, tetapi proses logis di tengahnya seringkali tidak dapat dijelaskan (inexplicable).

Apa yang terjadi jika AI salah menghitung dan menjatuhkan denda masif yang membangkrutkan perusahaan yang jujur? Siapa yang bertanggung jawab? Insinyur IT? Menteri Keuangan? Atau kita akan menyalahkan "algoritma"? Rencana ini berisiko menggantikan diskresi manusia yang korup (yang setidaknya secara teoritis dapat diadili) dengan opasitas algoritmik yang tidak dapat dimintai pertanggungjawaban. Ini mengancam prinsip due process of law bagi Wajib Pajak.

Tantangan keempat, dan yang paling filosofis, adalah dehumanisasi dan alienasi. Dari perspektif filsafat manusia, kebijakan ini memiliki dua sisi dehumanisasi.

Pertama, Wajib Pajak tidak lagi dilihat sebagai warga negara (subjek) yang berpartisipasi dalam kontrak sosial, melainkan direduksi menjadi objek data (data-object) yang harus diawasi, diprofilkan, dan dioptimalkan perilakunya. Relasi yang seharusnya dibangun di atas kepercayaan (trust) berubah menjadi relasi pengawasan total (surveillance).

Kedua, ini berdampak pada aparatur fiskus yang jujur. Ketika keahlian, penilaian profesional (judgement), dan kebijaksanaan yang merupakan esensi dari kapasitas manusia digantikan oleh AI, mereka akan teralienasi.

Mereka tereduksi dari seorang profesional menjadi operator mesin. Ironisnya, birokrasi yang teralienasi dan terdemotivasi justru merupakan lahan yang lebih subur bagi budaya sinisme dan korupsi baru.

Menuju Sistem Sosio-Teknikal yang Humanis

Rencana Menteri Keuangan untuk mengadopsi AI adalah langkah maju yang niscaya dan berani. Namun, untuk memastikan kebijakan ini membawa perbaikan masif, fokusnya tidak boleh hanya pada instalasi teknologi.

AI adalah cermin yang sangat kuat, tetapi ia hanya memantulkan apa yang ada di hadapannya, termasuk kelemahan sistemik dan bias historis kita.

Agar berhasil, tiga hal mutlak diperlukan. Pertama, implementasi AI harus mengadopsi prinsip Human-in-the-Loop (HITL). AI harus berfungsi sebagai alat bantu augmentasi (augmentation) untuk auditor, bukan pengganti (automation) total.

AI memberikan rekomendasi risiko, tetapi judgement final, investigasi kontekstual, dan keputusan penetapan harus tetap berada di tangan manusia yang akuntabel.