Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mendesak platform digital global seperti Meta dan Google menghadirkan fitur pengecekan untuk membantu publik mengenali konten buatan kecerdasan buatan (AI), termasuk deepfake, yang marak digunakan untuk penyebaran hoaks.
“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” kata Nezar di Jakarta, Rabu (10/9).
Deepfake Meningkat 550 Persen
Data Sensity AI mencatat lonjakan 550 persen konten deepfake dalam lima tahun terakhir. Nezar menilai angka itu hanya puncak gunung es, sebab aplikasi pembuat foto dan video deepfake kini semakin masif dan mudah diakses.
Menurutnya, platform digital memiliki teknologi komputasi dan algoritma yang seharusnya bisa dimanfaatkan untuk kepentingan publik. “Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya,” ujarnya.
Regulasi dan Kolaborasi Cegah Penyalahgunaan AI
Pemerintah, kata Nezar, berkomitmen menjaga keseimbangan antara inovasi dan regulasi agar AI tidak disalahgunakan. Indonesia sudah memiliki payung hukum berupa UU ITE, UU PDP, PP TUNAS, serta aturan teknis. Selain itu, pemerintah tengah menyiapkan regulasi khusus untuk memastikan pemanfaatan AI berlangsung secara etis dan bertanggung jawab.
Kementerian Komunikasi dan Digital juga aktif bekerja sama dengan Masyarakat Anti Fitnah Indonesia (Mafindo) dan media lewat program cek fakta. “Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar.
Mafindo: Deepfake Banyak Dipakai untuk Penipuan Digital
Ketua Mafindo Septiaji Eko Nugroho menambahkan, fenomena deepfake mulai muncul di Indonesia sejak 2023 dan kini berkembang pesat. Konten semacam itu banyak digunakan untuk penipuan digital dan menggiring opini publik.
“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks berbentuk video di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” jelas Septiaji.
Mafindo berjanji terus memperkuat kerja sama dengan pemerintah, media, dan komunitas literasi digital untuk mengidentifikasi serta membongkar konten deepfake yang beredar.