Setelah menuai kecaman global dan menghadapi ancaman hukum dari berbagai negara, platform media sosial X (sebelumnya Twitter) akhirnya mengambil langkah mundur. Perusahaan milik Elon Musk tersebut mengumumkan bahwa alat kecerdasan buatannya, Grok AI, tidak akan lagi bisa digunakan untuk mengedit foto orang sungguhan menjadi berpakaian minim atau telanjang (undressing) di yurisdiksi hukum yang melarang tindakan tersebut.
Pengumuman ini muncul hanya beberapa jam setelah jaksa penuntut utama California menyatakan sedang menyelidiki penyebaran deepfake seksual, termasuk yang melibatkan anak-anak, yang dihasilkan oleh model AI tersebut.
“Geoblocking” Sebagai Solusi Setengah Hati?
Dalam pernyataan resminya, X menyatakan telah menerapkan langkah-langkah teknis untuk mencegah akun Grok mengedit gambar orang sungguhan dengan pakaian terbuka.
“Kami sekarang melakukan pemblokiran wilayah (geoblock) terhadap kemampuan semua pengguna untuk menghasilkan gambar orang sungguhan dengan bikini, pakaian dalam, dan pakaian serupa melalui akun Grok di yurisdiksi di mana hal itu ilegal,” tulis pernyataan tersebut.
Langkah ini dinilai oleh sebagian pihak sebagai “kemenangan”, namun juga dikritik karena dianggap setengah hati. Musk sebelumnya bersikeras bahwa standar de facto di Amerika Serikat mengizinkan “keterbukaan tubuh bagian atas dari manusia imajiner dewasa”, sesuai dengan standar film rating R. Ia menegaskan pembatasan ini hanya akan berlaku menyesuaikan hukum per negara.
Reaksi Korban: “Terlambat dan Menyedihkan”
Di Inggris, regulator media Ofcom menyambut baik perkembangan ini namun menegaskan bahwa investigasi mereka terhadap X terkait potensi pelanggaran hukum Inggris “masih terus berjalan”.
Namun, bagi para korban, perubahan kebijakan ini dianggap terlalu sedikit dan terlambat (too little, too late). Jess Davies, jurnalis dan aktivis yang menjadi korban manipulasi Grok, menyebut respons platform tersebut “benar-benar menyedihkan” (really pathetic).
“Mereka hanya mencoba melakukan sesedikit mungkin dalam batasan pedoman hukum yang longgar,” ujar Davies kepada BBC. Ia menekankan bahwa kerusakan sudah terjadi; banyak perempuan telah menjadi target pelecehan publik yang memalukan ini.
Dr. Daisy Dixon, dosen filsafat di Universitas Cardiff yang juga menjadi korban di mana fotonya “ditelanjangi” oleh Grok, menyebut keputusan X ini sebagai “kemenangan pertempuran” bagi para juru kampanye. Namun, ia mengingatkan bahwa trauma yang dialami korban bersifat permanen.
“Pelecehan itu seharusnya tidak pernah terjadi. Tubuh kami telah dibajak dan didistorsi melawan kehendak kami,” tegas Dixon.
Celah Keamanan: VPN Mengintai
Para pakar teknologi juga skeptis terhadap efektivitas metode geoblocking yang diterapkan X. Pembatasan berbasis lokasi sangat rentan diakali menggunakan Virtual Private Network (VPN), yang memungkinkan pengguna menyamarkan lokasi mereka seolah-olah berada di negara yang melegalkan konten tersebut.
Selain itu, kebijakan X yang membatasi pengeditan gambar hanya untuk pengguna berbayar (premium) diklaim sebagai lapisan perlindungan tambahan agar pelaku mudah dilacak. Namun, hal ini tidak menghapus fakta bahwa alat tersebut masih bisa disalahgunakan jika pengguna berhasil melewati batasan wilayah.