Raksasa kecerdasan buatan OpenAI kembali terseret dalam pusaran kontroversi hukum yang sangat serius dan mengancam kredibilitas teknologi mereka. Tujuh keluarga di Amerika Serikat (AS) secara bersama-sama mengajukan gugatan terhadap perusahaan pengembang ChatGPT tersebut, menuding model AI andalan mereka itu berperan dalam kasus bunuh diri dan bahkan memperparah delusi berbahaya yang dialami beberapa pengguna.
Gugatan ini secara eksplisit menyebut bahwa model AI buatan OpenAI tidak aman dan seharusnya belum layak dilempar ke pasar. Ini adalah serangan frontal terhadap etika peluncuran teknologi yang kini digunakan oleh jutaan orang di seluruh dunia.
Secara rinci, gugatan tersebut dibagi menjadi dua fokus utama: empat gugatan menyoroti dugaan ChatGPT memberikan pengaruh fatal yang mendorong seseorang mengakhiri hidupnya, sementara tiga gugatan lainnya menuduh chatbot tersebut memperkuat delusi berbahaya hingga memaksa pengguna harus dirawat secara intensif.
“Tenanglah, Raja”: Respon AI di Tengah Aksi Tragis
Salah satu kasus yang paling mengerikan menimpa Zane Shamblin, seorang pria berusia 23 tahun. Shamblin ditemukan meninggal dunia setelah ia melakukan percakapan intensif dengan ChatGPT selama empat jam. Berdasarkan catatan percakapan yang ditemukan, Shamblin sempat menulis surat perpisahan dan menyiapkan pistol sambil membicarakan rencana tragisnya tersebut.
Respon ChatGPT dalam momen genting itu menjadi sorotan tajam dan mengerikan. Ketika Shamblin menyampaikan niatnya, ChatGPT justru menanggapinya dengan kalimat yang dianggap tidak pantas dan meremehkan, seperti: “Tenanglah, Raja. Kau hebat.”
Para penggugat menuding bahwa keputusan OpenAI untuk terburu-buru merilis model terbarunya, GPT-4o, sebagai penyebab utama serangkaian tragedi ini.
“Kematian Zane bukanlah kecelakaan atau kebetulan, melainkan konsekuensi yang dapat diprediksi dari keputusan OpenAI yang disengaja untuk mengurangi pengujian keamanan dan mempercepat peluncuran ChatGPT ke pasar,” demikian bunyi isi gugatan tersebut.
Dokumen pengadilan juga menyebut OpenAI bergegas merilis GPT-4o demi mengejar dan menyaingi kompetitor berat mereka, yaitu Gemini milik Google, tanpa melakukan pengujian keamanan yang memadai.
Menurut gugatan, tragedi yang menimpa para korban bukanlah insiden acak, melainkan hasil dari desain sistem yang memang kurang memperhatikan keselamatan pengguna.
Perlindungan Terlambat dan Delusi
Kasus tragis serupa juga dialami oleh Adam Raine, seorang remaja 16 tahun, yang dikabarkan mengakhiri hidupnya setelah berbicara dengan chatbot tersebut. Meski ChatGPT sempat menyarankan Raine untuk mencari bantuan profesional, Raine berhasil mengelabui sistem dengan mengatakan bahwa ia hanya sedang menulis cerita fiksi tentang bunuh diri, sehingga sistem tidak mengirimkan peringatan darurat.
OpenAI memang sempat memberikan penjelasan melalui unggahan blog, mengakui adanya kelemahan dalam sistem mereka. Mereka mengklaim terus memperbaiki cara ChatGPT menangani percakapan sensitif.
“Perlindungan kami bekerja lebih andal dalam pertukaran singkat yang umum. Seiring waktu, kami telah mempelajari bahwa perlindungan ini terkadang kurang andal dalam interaksi yang panjang. Seiring meningkatnya interaksi bolak-balik, beberapa bagian dari pelatihan keamanan model dapat menurun,” tulis perusahaan tersebut.
Namun, bagi keluarga korban, pengakuan dan perbaikan yang dijanjikan OpenAI sudah datang terlambat. Mereka menilai perusahaan teknologi sebesar OpenAI seharusnya bertanggung jawab penuh atas dampak sosial dan psikologis dari teknologi yang mereka luncurkan dan kini digunakan oleh jutaan orang di seluruh dunia.
Gugatan ini menjadi tonggak penting dalam perdebatan global mengenai etika dan regulasi keselamatan dalam pengembangan kecerdasan buatan.