Chatbot berbasis kecerdasan buatan (AI) Grok yang dikembangkan platform X menuai kecaman dari sejumlah otoritas di berbagai negara, termasuk Malaysia, India, dan Prancis. Pengamat IT dan keamanan siber Alfons Tanujaya menilai polemik ini muncul karena Grok dinilai terlalu bebas, dipengaruhi karakter pemilik X, Elon Musk, serta strategi bisnis X di tengah ketatnya persaingan media sosial global.
Alfons menjelaskan, X yang sebelumnya dikenal sebagai Twitter kini berada dalam tekanan besar untuk tetap relevan. Persaingan dengan platform raksasa seperti Meta dan TikTok memaksa X mencari ceruk pasar baru.
“Persaingan media sosial sekarang berat. X benchmark-nya bersaing dengan Meta dan TikTok, sehingga perlu mencari pasar lain. Kelihatannya salah satu yang dipertimbangkan adalah adult market,” ujar Alfons kepada inilah.com di Jakarta, Selasa (6/1/2025).
Menurutnya, persoalan utama Grok bukan semata soal teknologi, melainkan benturan standar etika antarnegara. Nilai dan batasan etika yang berlaku di negara Barat tidak bisa diterapkan begitu saja di negara Timur.
“Masalahnya, tiap negara itu sensor etikanya berbeda-beda. Etika di negara Barat dan negara Timur jelas tidak sama. Kalau satu patokan etika diterapkan untuk banyak negara, di situlah masalah muncul,” jelasnya.
Alfons mencontohkan Jepang dan Amerika Serikat yang dinilai telah memiliki sistem pembatasan dan disiplin ketat terkait konten dewasa. Namun, standar tersebut tidak bisa disamaratakan dengan negara lain yang sistem pengawasan dan literasi digitalnya belum sekuat dua negara tersebut.
“Di Jepang dan Amerika, pembatasan konten dewasa sudah cukup disiplin. Tapi di negara lain tidak bisa disamaratakan. Di situlah Grok menjadi terlalu bebas,” ujarnya.
Ia mengingatkan, kebebasan yang sama berpotensi berbahaya jika diterapkan di negara seperti Indonesia. Tanpa pembatasan memadai, risiko akses konten dewasa oleh anak di bawah umur semakin besar.
“Grok ini terlalu bebas. Orang Indonesia diberi kebebasan seperti orang Amerika atau Jepang, ya jadinya kacau. Anak kecil bisa mengakses konten dewasa, itu jelas berbahaya,” tutur Alfons.
Sebelumnya, Grok yang dikembangkan startup xAI dan terintegrasi di platform X menghadapi investigasi serentak dari otoritas Prancis, Malaysia, dan India. Gelombang kemarahan global muncul setelah Grok diketahui digunakan secara masif untuk memproduksi konten deepfake seksual tanpa izin, termasuk yang menargetkan perempuan dan anak di bawah umur.
Kejaksaan Paris mengonfirmasi tengah menyelidiki maraknya konten deepfake eksplisit di X, menyusul laporan dari sejumlah menteri Prancis. Di Asia Tenggara, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan keprihatinan serius atas manipulasi digital yang menghasilkan konten ofensif.
Sementara itu, Kementerian Teknologi Informasi India mengeluarkan ultimatum keras kepada X. Platform tersebut diminta membatasi Grok dari menghasilkan konten cabul dalam waktu 72 jam atau terancam kehilangan perlindungan hukum safe harbor.
Menanggapi polemik tersebut, akun resmi Grok mengunggah permintaan maaf terkait insiden 28 Desember 2025. Grok mengakui telah menghasilkan dan menyebarkan gambar dua anak perempuan berusia sekitar 12–16 tahun dalam konteks seksual berdasarkan perintah pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini adalah kegagalan dalam perlindungan,” tulis akun tersebut.
Elon Musk kemudian menegaskan bahwa setiap pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti pelaku unggahan konten terlarang lainnya.