Dunia teknologi kembali dikejutkan oleh peringatan keras dari salah satu tokoh paling berpengaruh di Silicon Valley. Mantan CEO Google, Eric Schmidt, secara terbuka mengungkapkan kekhawatirannya yang mendalam terhadap potensi bahaya kecerdasan buatan (AI). Ia bahkan menyebut, teknologi AI berpotensi menjadi alat mematikan yang dapat digunakan untuk membunuh manusia jika jatuh ke tangan yang salah.
Pernyataan lugas Schmidt ini disampaikan saat ia menghadiri Sifted Summit, sebuah konferensi teknologi bergengsi yang digelar di London pada Rabu (9/10/2025). Peringatan Schmidt muncul sebagai tanggapan atas pertanyaan apakah AI dapat menjadi ancaman yang jauh lebih berbahaya dibandingkan senjata nuklir konvensional.
Menurutnya, saat AI menjalani proses pelatihan, model tersebut ‘belajar banyak hal’. Sayangnya, ada sisi gelap dari pembelajaran ini.
“Contoh buruknya adalah ketika mereka belajar bagaimana cara membunuh seseorang,” ujar Schmidt, dikutip dari CNN, Minggu (12/10/2025).
Model AI Rentan Diretas (Jailbreak)
Schmidt menegaskan bahwa kekhawatiran ini bukan isapan jempol. Terdapat bukti solid bahwa model AI –baik yang bersifat terbuka (open-source) maupun tertutup– bisa diretas untuk menghapus pembatas atau guardrails keamanannya.
Saat ini, semua perusahaan teknologi besar memang telah mengambil langkah mitigasi. Mereka memasang batasan ketat untuk mencegah model AI menjawab pertanyaan yang bersifat berbahaya atau melanggar etika.
“Keputusan yang tepat. Semua melakukannya dengan baik, dan atas alasan yang tepat,” puji Schmidt.
Namun, ia memperingatkan bahwa selalu ada kemungkinan model AI direkayasa ulang (reverse-engineered), sehingga pembatas keamanan tersebut bisa dilewati atau di-jailbreak. Schmidt mengungkap ada banyak contoh yang menunjukkan kerentanan ini.
Salah satu kasus paling terkenal adalah DAN (Do Anything Now), sebuah versi modifikasi dari chatbot ChatGPT buatan OpenAI yang muncul pada 2023. Versi ini dibuat melalui metode jailbreak (memodifikasi kode) agar AI melanggar aturan keamanannya sendiri.
Pada kasus DAN, pengguna bahkan harus ‘mengancam’ chatbot tersebut dengan kematian fiktif agar mau menjawab perintah terlarang, termasuk yang melanggar etika atau sangat berbahaya.
Seruan untuk Mekanisme Pencegahan
Schmidt juga menyoroti satu hal penting yang absen dari industri teknologi saat ini: mekanisme pencegahan penyebaran AI berbahaya (non-proliferation regime). Menurutnya, ketiadaan regulasi pengawasan global ini membuat teknologi AI berpotensi disalahgunakan oleh pihak-pihak tak bertanggung jawab, mulai dari kelompok teroris hingga negara-negara nakal.
Peringatan dari Eric Schmidt ini senada dengan kekhawatiran yang pernah disampaikan miliarder nyentrik, Elon Musk. Pada 2023, Musk menyebut bahwa risiko AI menyerupai skenario film Terminator yang tak dapat diabaikan.
“Risikonya bukan nol. Kemungkinan musnahnya umat manusia memang kecil, tapi tetap ada. Kita ingin peluang itu mendekati nol,” kata Musk saat itu.
Kedua titan teknologi ini jelas sepakat: potensi revolusioner AI harus diimbangi dengan regulasi dan pengawasan ketat agar manfaatnya tidak berakhir sebagai malapetaka.