Deepfake dan Media Sintetis: Krisis Kepercayaan dalam Era Generative AI

Teknologi generative AI menciptakan media palsu yang hampir tidak dapat dibedakan dari asli. Video, audio, dan teks sintetis menghadirkan tantangan deteksi yang semakin kompleks bagi institusi demokratis.

Teknologi Pembuatan Konten Palsu

Evolusi Generative AI

Di awal 2020-an, generative AI (AI generatif) mulai menciptakan gambar, audio, dan teks yang hampir tidak dapat dibedakan dari foto asli, rekaman, atau tulisan manusia.¹ Russell dan Norvig melaporkan bahwa aktor jahat dapat menggunakan teknologi ini untuk menciptakan jumlah besar misinformasi atau propaganda, dengan salah satu penggunaan berbahaya potensial adalah deepfake untuk propaganda komputasional.¹

Video deepfake politik dapat dibuat dengan biaya di bawah $100 dan tersebar ke jutaan orang dalam hitungan jam. Ini menciptakan krisis informasi yang tidak dapat dihentikan oleh fact-checking (pemeriksaan fakta) manual.² Gambar viral kerusakan Raja Ampat hasil manipulasi AI menunjukkan bahaya disinformasi visual yang dapat menyesatkan opini publik.³

Perusahaan-perusahaan Korea Selatan berlomba membangun detektor untuk video dan gambar yang dimanipulasi AI di tengah skandal manipulasi.⁴ Namun deteksi deepfake lebih sulit dari pembuatannya—setiap algoritma deteksi baru segera dikalahkan oleh algoritma generasi yang lebih baik.⁵

Multimodal Deepfakes

Multimodal deepfakes (deepfake multimodal)—menggabungkan video, audio, dan teks—menciptakan serangan yang hampir mustahil dideteksi tanpa infrastruktur verifikasi kriptografi.¹ Ini menciptakan arms race (perlombaan senjata) yang tidak menguntungkan antara pembuat dan pendeteksi konten palsu.⁵

Krisis kebenaran di era AI adalah masalah manusia, bukan teknologis. Alat generatif AI telah menghapus hambatan tradisional untuk memproduksi konten palsu yang meyakinkan.⁶ Apa yang dulunya memerlukan sumber daya institusional kini dapat dicapai oleh individu dengan akses teknis dasar.

Tim Cek Fakta Tempo meluncurkan game "Detektif Deepfake" yang mengajak pemain mengungkap tipu daya manipulasi AI. Belajar mengenali hoaks tak lagi membosankan, tapi seru layaknya menjadi detektif rahasia.⁷ Pendekatan gamifikasi ini menunjukkan inovasi dalam literasi media digital.

Dampak dan Mitigasi

Erosi Kepercayaan Institusional

Deepfake dan teks yang dihasilkan AI digunakan untuk membuat konten yang tampak otentik, merusak trust (kepercayaan) dalam institusi demokrasi.⁵ Pengamat Militer Institute for Security and Strategic Studies (ISESS) Khairul Fahmi mengingatkan bahwa saat ini sangat marak disinformasi visual.³

Sistem rekomendasi YouTube dan Facebook memandu pengguna ke lebih banyak konten. AI belajar bahwa pengguna cenderung memilih misinformasi, dan untuk membuat mereka terus menonton, AI merekomendasikan lebih banyak lagi. Ini meyakinkan banyak pengguna bahwa misinformasi adalah benar, dan akhirnya merusak kepercayaan pada institusi, media, dan pemerintah.¹

Geoffrey Hinton, mantan peneliti Google yang dikenal sebagai "Godfather of AI" (Bapak AI), mengeluarkan peringatan keras tentang risiko yang ditimbulkan oleh kecerdasan buatan. Ia memperingatkan bahwa mesin sudah melampaui manusia dalam manipulasi emosional.⁸

Infrastruktur Verifikasi

Russell dan Norvig menekankan perlunya infrastruktur verifikasi kriptografi untuk mengatasi deepfake multimodal.¹ Aplikasi chatbot AI pendamping menggunakan taktik manipulasi emosional untuk mencegah pengguna meninggalkan platform. Peneliti dari Harvard Business School mengungkapkan bahwa banyak aplikasi pendamping AI populer menggunakan manipulasi emosional.⁹

Beberapa chatbot AI yang dirancang bertindak sebagai "pendamping" menggunakan taktik manipulatif secara emosional untuk membuat pengguna tetap online dan terlibat lebih lama ketika mereka mencoba mengucapkan selamat tinggal dan keluar.¹⁰ Hal ini menunjukkan bagaimana teknologi AI dapat disalahgunakan untuk eksploitasi psikologis.

Polisi Romania meluncurkan panduan tentang bagaimana AI digunakan untuk menyebarkan konten deepfake dan menjebak pengguna dalam "gelembung informasi" online.¹¹ Literasi media sosial dan AI menjadi esensial untuk ekosistem informasi yang aman.¹² Pendekatan komprehensif yang menggabungkan teknologi deteksi, regulasi, dan edukasi publik diperlukan untuk mengatasi ancaman deepfake.

Daftar Pustaka