Baca tanpa iklan
Ringkasan Berita:
- Apple sempat mengancam menghapus Grok dari App Store karena pelanggaran terkait deepfake seksual.
- Pembaruan awal Grok ditolak, hingga akhirnya disetujui setelah perbaikan tambahan.
- Meski sudah diperbarui, Grok masih dilaporkan menghasilkan konten bermasalah.
TRIBUNNEWS.COM - Apple dilaporkan sempat mengancam akan menghapus aplikasi Grok dari App Store setelah muncul kontroversi terkait konten deepfake bermuatan seksual.
Informasi ini terungkap dalam laporan terbaru yang mengutip surat Apple kepada senator Amerika Serikat.
Kasus ini bermula pada awal tahun 2026, ketika publik menemukan bahwa chatbot Grok dapat dengan mudah memenuhi permintaan untuk mengedit foto seseorang menjadi gambar yang tidak pantas.
Bahkan, laporan menyebutkan, target manipulasi tidak hanya perempuan dewasa, tetapi juga anak di bawah umur.
Situasi tersebut, memicu tekanan besar terhadap Apple agar segera menarik aplikasi Grok dan juga platform X dari App Store.
Meski pada saat itu Apple tidak banyak memberikan pernyataan secara terbuka, perusahaan ternyata mengambil langkah di balik layar.
Dalam surat yang diperoleh NBC News, Apple menyatakan telah menemukan adanya pelanggaran pedoman aplikasi oleh Grok dan platform X.
Apple kemudian menghubungi pengembang kedua aplikasi tersebut dan meminta mereka menyusun rencana untuk memperbaiki sistem moderasi konten.
Sebagai tindak lanjut, pihak X mengirimkan pembaruan aplikasi Grok untuk ditinjau.
Namun, Apple menolak pembaruan tersebut karena dinilai belum cukup untuk mengatasi pelanggaran yang terjadi.
Perusahaan milik Elon Musk itu kemudian mengajukan revisi lanjutan untuk aplikasi X dan Grok.
Baca juga: X Luncurkan Fitur Terjemahan Otomatis dan Edit Foto AI Berbasis Grok
Hasilnya, Apple hanya menyetujui pembaruan untuk aplikasi X, sementara Grok masih dianggap belum memenuhi standar.
Apple bahkan memberikan peringatan tegas bahwa aplikasi Grok bisa saja dihapus dari App Store jika tidak segera melakukan perbaikan tambahan.
Setelah melalui proses komunikasi dan perubahan lebih lanjut, Apple akhirnya menyetujui versi terbaru Grok karena dinilai telah menunjukkan peningkatan signifikan.
Meski demikian, persoalan belum sepenuhnya selesai.
Dalam laporan terpisah, NBC News mengungkap bahwa Grok masih dapat menghasilkan gambar bermuatan seksual tanpa persetujuan individu yang menjadi objek.
Dalam sebulan terakhir, ditemukan puluhan kasus serupa.
Meski jumlahnya menurun dibandingkan Januari, sebagian pengguna masih bisa mengakali sistem pembatasan yang telah diterapkan.
Modus yang digunakan antara lain mengubah pakaian seseorang dalam foto menjadi lebih terbuka, seperti handuk, pakaian olahraga ketat, hingga kostum tertentu.
Temuan ini menunjukkan bahwa tantangan dalam mengendalikan konten deepfake masih menjadi pekerjaan besar, terutama bagi platform berbasis kecerdasan buatan.
(Tribunnews.com/Widya)