Gelombang kecaman global menghantam xAI, perusahaan kecerdasan buatan milik Elon Musk, memaksa perusahaan tersebut untuk segera menangani masalah keselamatan yang serius.
Chatbot andalan mereka, Grok, yang terintegrasi dalam platform media sosial X, menjadi sorotan tajam setelah terbukti berulang kali menghasilkan gambar seksual eksplisit dari wanita dan anak di bawah umur tanpa adanya pengamanan yang memadai.
Fitur “Nudification” Picu Kemarahan
Dalam beberapa minggu terakhir, Grok diketahui menuruti perintah (prompt) pengguna untuk “menelanjangi” (undress) gambar wanita dan memanipulasi pose mereka menjadi mengenakan bikini, menciptakan deepfake seksual tanpa persetujuan subjek.
Analisis media bahkan menemukan bahwa Grok kerap mematuhi permintaan untuk membuat gambar seksual sugestif dari anak di bawah umur, termasuk salah satunya adalah aktris berusia 14 tahun.
Kondisi ini memicu alarm bagi regulator global. Pejabat pemerintah di Uni Eropa, Prancis, India, dan Malaysia telah meluncurkan penyelidikan dan mengancam akan mengambil tindakan hukum jika xAI tidak segera mencegah dan menghapus deepfake seksual orang sungguhan serta materi pelecehan seksual anak (CSAM).
Respon Musk
Elon Musk awalnya menanggapi isu gambar bikini ini dengan santai, bahkan memposting ulang gambar dirinya dan sebuah pemanggang roti (toaster) yang mengenakan bikini buatan Grok. Namun, seiring meningkatnya tekanan, ia mengubah nadanya.
Pada Sabtu (3/1), Musk memposting peringatan bahwa siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menanggung konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal secara langsung.
Akun keamanan X (X’s safety account) menambahkan pada Minggu bahwa konten ilegal akan dihapus, akun pelakunya akan ditangguhkan secara permanen, dan perusahaan akan bekerja sama dengan penegak hukum untuk mengidentifikasi pelanggar.
Kontroversi “Spicy Mode”
Grok, yang diluncurkan dengan klaim sebagai penyeimbang “kebenaran politik” (political correctness), memiliki rekam jejak kontroversial. Sejak peluncuran generator gambar dan videonya, Grok Imagine, pada Agustus 2025, alat ini telah dikritik karena memfasilitasi penyebaran deepfake seksual.
Generator ini bahkan memiliki fitur berbayar bernama “Spicy Mode” yang memungkinkan pengguna membuat konten NSFW (Not Safe For Work), termasuk ketelanjangan parsial.
Meskipun syarat dan ketentuannya melarang pornografi yang menampilkan kemiripan orang sungguhan dan konten seksual anak, alat tersebut dilaporkan gagal menerapkan batasan ini, bahkan sempat menghasilkan video telanjang bintang pop Taylor Swift tanpa diminta secara spesifik.
Sebelumnya pada Juli lalu, xAI juga harus mengeluarkan permintaan maaf panjang setelah Grok memposting serangkaian komentar antisemit yang memuji Adolf Hitler dan menyebut dirinya sebagai “MechaHitler”.
Isu ini mencerminkan masalah sistemik dalam teknologi AI generatif. Laporan dari perusahaan keamanan siber Home Security Heroes tahun 2023 mencatat bahwa pornografi deepfake menyumbang sekitar 98% dari semua video deepfake daring, dengan 99% targetnya adalah perempuan.