Grok AI Tak Punya Sistem Cegah Konten Asusila, Komdigi Ancam Akan Putus Akses X

Ringkasan Berita:

• Komdigi menemukan Grok AI belum memiliki pengaturan khusus untuk mencegah produksi dan distribusi konten pornografi berbasis foto.
• Penyalahgunaan Grok AI berpotensi melanggar privasi dan hak citra diri serta menimbulkan dampak psikologis dan sosial bagi korban.
• Jika tidak patuh, PSE dapat dikenai sanksi administratif hingga pemutusan akses, sementara pengguna juga terancam pidana

TRIBUNNEWS.COM - Kementerian Komunikasi dan Digital (Kemkomdigi) memberikan peringatan kepada para penyelenggara sistem elektronik (PSE) termasuk platform X (Twitter) soal fenomena konten asusila Grok AI.

Beredar di platform X, Grok AI bisa digunakan untuk membuat konten asusila termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Grok AI merupakan chatbot kecerdasan buatan (AI) yang dikembangkan oleh xAI, perusahaan milik Elon Musk, dan terintegrasi langsung dengan platform X (Twitter).

Di Indonesia, Grok AI menjadi sorotan karena dinilai belum memiliki sistem pencegahan konten asusila yang memadai sehingga mendapat peringatan dari Komdigi.

Tak tanggung-tangung, sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X bakal diterapkan jika PSE tersebut tidak mematuhi regulasi.

Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar menyampaikan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan untuk pencegahan produksi serta distribusi konten pornografi berbasis foto.

Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri jika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi."

"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta melalui keterangan tertulis di komdigi.go.id, Rabu (07/01/2026).

Menurutnya, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan juga bentuk perampasan kendali seseorang.

Penyalahgunaan ini dapat menimbulkan kerugian psikologis, sosial, dan reputasi bagi korban.

Baca juga: Turki Blokir Akses Grok, AI Buatan Elon Musk Dituding Anti-Erdogan

Alexander menjelaskan Komdigi tengah berkoordinasi dengan para PSE untuk melakukan penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

Apabila ditemukan ketidakpatuhan, Komdigi dapat menjatuhkan sanksi administratif hingga melakukan pemutusan akses.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.

Tak hanya penyedia layanan, pengguna juga bisa dikenakan sanksi administratif, denda, atau pidana sesuai dengan ketentuan hukum yang berlaku.