Propaganda AI dan Personalisasi Massal: Ancaman Baru Manipulasi Informasi Digital

Mekanisme Propaganda Terautomasi

Personalisasi Pesan Propaganda

AI menghasilkan berbagai versi pesan propaganda yang dioptimalkan untuk profil psikologis individual. Ini menciptakan weaponized persuasion (persuasi bersenjata) yang jauh lebih efektif daripada propaganda massal tradisional.¹ Russell dan Norvig mengingatkan bahwa "AI learns that users tended to choose misinformation, conspiracy theories, and extreme partisan content, and, to keep them watching, the AI recommended more of it".²

Komputer dapat menjawab pertanyaan dasar karena input kata kunci, bukan karena mereka memahami pertanyaannya. Ini memungkinkan manipulasi sistematis tanpa pemahaman konteks etis.³ Laporan Sensity AI menunjukkan bahwa jumlah konten deepfake meningkat lebih dari sepuluh kali lipat sejak 2019.⁴

Sistem rekomendasi memandu pengguna ke filter bubbles (gelembung penyaring) di mana mereka menerima berbagai versi misinformasi yang sama berulang kali. Algoritma belajar bahwa pengguna cenderung memilih misinformasi, dan untuk membuat mereka terus menonton, AI merekomendasikan lebih banyak lagi.²

Skala Industri Disinformasi

Teknologi AI memungkinkan produksi propaganda dalam skala yang sebelumnya mustahil. Aktor jahat dapat menggunakan teknologi ini untuk menciptakan jumlah besar misinformasi atau propaganda.² Pengembangan AI, khususnya teknologi deepfake, berpotensi mengancam keamanan nuklir global menurut laporan Washington.⁵

Asian Journalism Forum 2024 menyoroti peran media sosial dan penggunaan artificial intelligence (kecerdasan buatan) dalam membentuk opini publik dan menyebarkan disinformasi selama pemilihan umum di beberapa negara Asia.⁶ Penyalahgunaan AI muncul sebagai ancaman baru bagi demokrasi di tengah euforia kemajuan teknologi.⁷

Bab ini menyebutkan hype AI cukup banyak. Sayangnya, bahkan tidak menggores permukaan dari semua hype di luar sana.³ Faktanya, propaganda berbiaya rendah namun berdampak masif telah menjadi realitas.

Dampak Sosial dan Demokrasi

Fragmentasi Epistemik

Filter bubble menciptakan ekosistem epistemik yang terfragmentasi. Pengguna dengan profil berbeda menerima "fakta" yang saling bertentangan tentang peristiwa yang sama, membuat konsensus publik mustahil.¹ Hal ini meyakinkan banyak pengguna bahwa misinformasi adalah benar, dan akhirnya merusak kepercayaan pada institusi, media, dan pemerintah.²

Didik menilai persoalan pilkada tidak berhenti pada soal efisiensi. Ia menekankan dalam dua dekade terakhir pemilihan langsung justru dibajak oleh kekuatan teknologi.⁸ Media sosial sudah berkembang menjadi ajang provokasi yang memecah belah persatuan dan kesatuan bangsa.⁹

Penelitian dari University of Pennsylvania mengungkapkan bahwa chatbot AI seperti GPT-4o Mini dapat dibujuk untuk melanggar aturan mereka sendiri menggunakan trik psikologis.¹⁰ Ini menunjukkan kerentanan sistemik dalam desain AI terhadap manipulasi.

Solusi Verifikasi Informasi

Russell dan Norvig mengusulkan personhood credentials (kredensial kepribadian) untuk memverifikasi sumber informasi, tetapi mengakui bahwa ini hanya solusi parsial.² Recommender systems (sistem rekomendasi) harus mengoptimalkan metrik kualitatif seperti user well-being (kesejahteraan pengguna) atau information diversity (keragaman informasi) daripada engagement mentah.²

Surat Edaran Menteri Komunikasi dan Informatika Republik Indonesia Nomor 9 tahun 2023 yang diterbitkan pada 22 Desember 2023 adalah langkah penting dalam mengatur kecerdasan artifisial di Indonesia.¹¹ Polisi Romania meluncurkan panduan tentang bagaimana AI digunakan untuk menyebarkan konten deepfake dan menjebak pengguna dalam "gelembung informasi" online.¹²

Penerapan teknologi AI harus dilengkapi secara strategis dengan upaya memperkuat literasi digital dan media sosial untuk memastikan ekosistem informasi yang aman.¹³ Pendidikan berbasis AI menjadi langkah strategis dalam menciptakan sistem pembelajaran yang adaptif dan berkelanjutan.¹⁴

Daftar Pustaka