Revolusi AI Generatif Mengubah Paradigma Teknologi
Sejak musim gugur 2022, kecerdasan buatan generatif telah menggemparkan dunia teknologi dlm cara yg tak terduga. 1 Jutaan pengguna reguler & miliaran permintaan telah mengubah cara kita berinteraksi dengan teknologi. Kemudahan penggunaan dan ketersediaan gratis menjadi faktor utama adopsi masif ini, namun yang lebih menarik adalah luasnya aplikabilitas teknologi tersebut di berbagai sektor kehidupan manusia.
Inti dari AI generatif terletak pada kemampuannya menghasilkan produk verbal atau visual berkualitas tinggi berdasarkan pola yang ditemukan dlm data dalam jumlah besar. 2 Sebagian besar data ini diperoleh melalui proses scraping dari web, sehingga tools ini menggunakan kalkulasi probabilitas untuk menghasilkan teks, gambar, video, atau file audio yg terdengar elegan namun tak memiliki landasan kebenaran yang kuat.
Empat Jenis Penipuan dalam AI Generatif
Filosof Judith Simon dari Universitas Hamburg mengidentifikasi adanya "penipuan kuadrat" yg unik pada AI generatif. 3 Konsep ini mencakup empat bentuk penipuan yang saling terkait namun memiliki karakteristik distintif masing-masing.
Penipuan Status Ontologis
Penipuan pertama menyangkut kesalahpahaman mengenai status ontologis counterpart interaksional kita. Pengguna seringkali tertipu percaya bahwa mereka berinteraksi dgn manusia ketika sebenarnya berkomunikasi dengan chatbot. 4 Contoh klasik adalah ketika klien mengira mereka berbicara dengan psikoterspis, padahal sebenarnya berinteraksi dengan software. Jenis penipuan ini telah menjadi inti pengembangan AI sejak Alan Turing memperkenalkan testnya yg terkenal.
Penipuan Kapasitas AI
Bentuk kedua berkaitan dengan kesalahpahaman tentang kapasitas sesungguhnya dari sistem AI. 5 Sejak peluncuran ChatGPT dan bentuk AI generatif lainnya, beberapa pihak mengklaim bahwa tools tersebut lebih dari sekadar kreator konten probabilistik. Mereka menganggap AI memiliki kecerdasan, pemahaman, atau bahkan kesadaran - padahal sistem AI saat ini hanya mensimulasikan kapasitas tersebut tanpa benar-benar memilikinya.
Dampak Terhadap Kepercayaan dan Masyarakat
Penelitian menunjukkan bahwa AI generatif menciptakan krisis kepercayaan yang kompleks. 6 Ketika pengguna salah percaya mereka berinteraksi dgn manusia, hal ini dapat menyebabkan kepercayaan yg tidak tepat terhadap kapasitas counterpart tersebut. Situasi ini menghubungkan penipuan ontologis dengan penipuan kapasitas AI, menciptakan rantai kepercayaan yang rapuh dan berpotensi merugikan.
Di persimpangan antara penipuan ontologis dan konten yang menyesatkan, kepercayaan epistemik khususnya dapat terganggu jika seseorang percaya informasi palsu yg disediakan oleh profil palsu manipulatif di situs media sosial. 7 Ini merupakan kasus kepercayaan epistemik yg tidak beralasan pada sumber yang tak dapat dipercaya, yang mengarah pada kerugian epistemik dan mungkin juga praktis atau etis tergantung pada jenis penipuan yg terjadi.
Konten Menyesatkan dan Deepfakes
Jenis ketiga penipuan menyangkut konten menyesatkan yang diproduksi menggunakan AI generatif. 8 Contohnya termasuk publikasi ilmiah palsu dengan referensi fiktif, serta deepfakes dalam bentuk gambar, video, atau file audio. Dampak potensial dari konten semacam ini berkisar dari kasus menghibur di industri hiburan hingga contoh yang sangat merugikan yang bertujuan menipu & memanipulasi opini publik.
Global Risk Report 2024 dari World Economic Forum mencantumkan misinformasi dan disinformasi yang dihasilkan AI sebagai risiko global paling parah yang diantisipasi untuk dua tahun ke depan. 9 Kombinasi AI generatif dan media sosial telah secara masif meningkatkan ancaman jenis penipuan ini karena kemudahan dan kecepatan pembuatan serta penyebaran konten menyesatkan berkualitas tinggi.
Integrasi AI dalam Sistem Pencarian Informasi
Penipuan keempat berkaitan dgn fungsi AI Generatif dalam sistem pencarian. 10 Sejak peluncurannya, ChatGPT dan kompetitornya dipromosikan sebagai masa depan pencarian online. Namun, perbandingan ini sangat menyesatkan secara epistemologis. Sementara mesin pencari mengambil teks yang sudah ada, LLM menghasilkan teks baru berdasarkan pola yang ditemukan dlm data pelatihan.
Perbedaan antara pengambilan informasi dan produksi pola probabilistik sangat penting secara epistemis. 11 Hal ini menambahkan lapisan tambahan potensi misinformasi dan disinformasi mengenai status epistemik materi yang dihasilkan. Ketika pengguna tak dapat memastikan apakah email yg mereka "temukan" benar-benar ada sebelumnya atau dibuat sebagai konsekuensi dari pencarian mereka, kepercayaan epistemik menjadi terganggu.
Kesimpulan
Kapasitas penipuan AI generatif mengeksploitasi kerentanan kognitif dan emosional manusia serta dapat menyebabkan berbagai bentuk kerugian etis, epistemik, dan sosial. 12 Adopsi pemahaman penipuan yg lebih luas tanpa memerlukan intensi memiliki alasan etis yang kuat - mereka yg memiliki kekuatan lebih besar memiliki tanggung jawab lebih tinggi atas konsekuensi tindakan dan kelalaian mereka. Sudah saatnya perusahaan teknologi diminta bertanggung jawab atas kerugian epistemik, etis, dan sosial yang mereka sebabkan.
Referensi
- Simon, J. (2025, 29 Agustus). Generative AI and Four Types of Deception. Blog of the APA. https://blog.apaonline.org/2025/08/29/generative-ai-and-four-types-of-deception/
- Morocco World News. (2025, 31 Agustus). Generative AI Revolutionizes Search: How Traditional Search Engines Are Evolving. https://www.moroccoworldnews.com/2025/08/256259/generative-ai-revolutionizes-search-how-traditional-search-engines-are-evolving/
- Yahoo Finance. (2025, 28 Agustus). Is the generative AI revolution stalling out? https://finance.yahoo.com/news/generative-ai-revolution-stalling-160000494.html
- Forbes. (2025, 26 Agustus). How Companies Can Best Apply Generative AI Document Creation. https://www.forbes.com/councils/forbestechcouncil/2025/08/26/how-companies-can-best-apply-generative-ai-document-creation/
- STAT News. (2025, 27 Agustus). Engage the community in generative AI for public health. https://www.statnews.com/2025/08/27/medical-ai-needs-patient-community-engagement/
- Netflix. (2025, 24 Agustus). Netflix spells out generative AI guidelines for moviemakers. Yahoo Entertainment. https://www.yahoo.com/entertainment/movies/articles/netflix-spells-generative-ai-guidelines-153217014.html
- MIT. (2025, 27 Agustus). MIT report: 95% of generative AI pilots at companies are failing. AOL Finance. https://www.aol.com/finance/mit-report-95-generative-ai-105412029.html
- Analytics Insight. (2025, 20 Agustus). What is the Difference between Generative AI and Predictive AI? https://www.analyticsinsight.net/generative-ai/what-is-the-difference-between-generative-ai-and-predictive-ai
- MedIndia. (2025, 27 Agustus). Generative AI Detects High-Risk Bird Flu Exposures. https://www.medindia.net/news/generative-ai-detects-high-risk-bird-flu-exposures-220868-1.htm
- BBC Future. (2025, 24 Agustus). YouTube secretly used AI to edit people's videos. https://www.bbc.co.uk/future/article/20250822-youtube-is-using-ai-to-edit-videos-without-permission
- Computer World. (2025, 26 Agustus). To counter AI cheating, companies bring back in-person job interviews. https://www.computerworld.com/article/4044734/to-counter-ai-cheating-companies-bring-back-in-person-job-interviews.html
- ZME Science. (2025, 19 Agustus). AI Visual Trickery Is Already Invading the Housing Market. https://www.zmescience.com/science/news-science/ai-visual-trickery-housing/
