Bologna, Italia – Mario Mirabile, mahasiswa doktoral dari University of Santiago de Compostela, mengembangkan kerangka kerja kepercayaan (trust framework) untuk sistem multi-agen AI yang berfokus pada literasi keuangan.1 Penelitiannya menyatukan perspektif dari teknik, psikologi kognitif, ilmu politik, dan etika menjadi definisi kerja yang operasional.
Sistem multi-agen mencakup jaringan entitas otonom yang berinteraksi untuk mencapai tujuan individual atau kolektif. Mirabile menjelaskan bahwa "kepercayaan bergantung tidak hanya pada apa yang dilakukan setiap sistem, tetapi pada bagaimana jaringan manusia dan AI berkoordinasi, menjelaskan keputusan, dan tetap akuntabel dalam ekosistem kompleks".1 Ia juga memenangkan kompetisi Diversity & Inclusion di ECAI 2025 bersama Frida Hartman dan Michele Dusi.
Tantangan Implementasi di Dunia Nyata
Banyak sistem multi-agen dikembangkan sepenuhnya di lingkungan laboratorium. Mirabile menemukan kesenjangan signifikan antara pengujian terkontrol dan kondisi dunia nyata.1 "Sistem mungkin tampak mulus dan andal ketika dievaluasi pada tingkat individual, namun dampak sosial yang lebih luas bisa mengganggu jika tidak dirancang dengan kondisi dunia nyata dalam pikiran," katanya.
Perusahaan sering meluncurkan produk sebelum benar-benar siap untuk deployment tersebut. Kekhawatiran ini muncul dari percakapan dengan banyak peneliti di konferensi ECAI.1 Platform seperti LangGraph, CrewAI, dan Zapier kini menawarkan low-code tools untuk membangun agen AI otonom, memungkinkan lebih banyak organisasi mengadopsi teknologi ini.2
Fokus pada Literasi Keuangan
Mirabile berkonsentrasi pada skenario literasi keuangan di mana agen percakapan (conversational agents) dan non-percakapan berinteraksi langsung dengan pengguna.1 Fokusnya adalah bagaimana sistem menyampaikan informasi, membingkai konteks, dan menghasilkan rekomendasi tertentu.
| Aspek Penelitian 🔍 | Deskripsi | Metodologi |
|---|---|---|
| Tinjauan Bibliometrik | Pemetaan lanskap intelektual sistem multi-agen | Systematic literature review |
| Blockchain & AI | Eksplorasi interseksi teknologi blockchain dengan kepercayaan AI | Analisis gap penelitian |
| Conversational AI | Chatbot dan sistem penasihat untuk keuangan | Evaluasi framework kepercayaan |
| Desain Trustworthiness | Merancang kepercayaan dengan mempertimbangkan kebutuhan pengguna | Design & implementation |
| Eksperimen Pengguna | Pengujian kualitas penjelasan agen AI | Human participant studies |
| Alignment Challenge | Memastikan perilaku sistem mencerminkan tujuan manusia | Architectural rethinking |
| Real-world Context | Faktor kompleksitas dunia nyata dalam desain | Contextual evaluation |
Temuan dari Tinjauan Literatur
Tinjauan sistematis Mirabile bersama supervisor Jose María Alonso-Moral dan Giovanni Emanuele Corazza mengungkapkan beberapa kesenjangan penting.1 Meskipun blockchain tidak lagi pada puncak hype, interseksi blockchain, AI, dan kepercayaan masih kurang dieksplorasi. "Ada peluang penelitian besar di sana," ujar Mirabile.
Penelitian juga menunjukkan bahwa conversational AI untuk nasihat keuangan mendominasi literatur. Namun, evaluasi mendalam dan framework kepercayaan yang ketat masih kurang.1 Sistem multi-agen dan verifikasi logika temporal (temporal logic verification) merupakan area integral dari robotika hingga aplikasi lainnya.3
Fase Berikutnya: Desain dan Implementasi
Fase berikutnya dari riset doktoral Mirabile berpusat pada pertanyaan: "Bagaimana kita dapat secara efektif merancang trustworthiness dalam sistem multi-agen untuk literasi keuangan, sambil memperhitungkan kebutuhan dan konteks pengguna yang beragam?"1 Ini akan melibatkan penulisan kode, pengujian framework yang ada, dan membangun serangkaian agen AI untuk eksperimen dengan partisipan manusia.
AWS mengumumkan ketersediaan umum kapabilitas multi-agen barunya pada Maret lalu, membawa teknologi ini ke tangan bisnis di hampir setiap industri.4 Startup dapat mencapai hasil luar biasa dengan memanfaatkan sistem ini untuk optimasi alur kerja dan peningkatan efisiensi.
Tantangan Alignment Terbesar
Salah satu tantangan terbesar adalah alignment (penyelarasan). "Bahkan dalam interaksi satu-satu sederhana, kita sudah melihat betapa sulitnya memastikan perilaku sistem benar-benar mencerminkan tujuan dan nilai manusia," kata Mirabile.1 Model generatif saat ini beroperasi melalui prediksi statistik, bukan pemahaman mendasar tentang sebab atau niat.
Mengatasi hal ini mungkin memerlukan pemikiran ulang arsitektur dasar. Beberapa peneliti terkemuka telah menunjukkan bahwa lintasan saat ini mungkin tidak cukup untuk bentuk inteligensi yang lebih maju.1 Framework orkestrasi multi-agen seperti Claude-Flow membantu tim memodernisasi aplikasi warisan lebih cepat dengan mengotomatisasi analisis, perencanaan, dan pengujian.5
Kontribusi Aktivisme dan Keberagaman
Mirabile sangat terlibat dalam aktivisme, yang membentuk perspektifnya sebagai peneliti. Ia ikut mendirikan NGO "South Working – Lavorare dal Sud" yang berfokus menciptakan nilai sosial di komunitas lokal dengan mendorong peluang kerja jarak jauh (remote work).1 Di Italia, terutama di wilayah seperti Sisilia tempat asalnya, banyak orang terampil pergi mencari pekerjaan di tempat lain, menciptakan kehilangan talenta nyata.
Organisasi tersebut telah mengidentifikasi lebih dari 100.000 pekerja jarak jauh dan melatih lebih dari 450 NEET (Not in Education, Employment, or Training) melalui proyek Digichamps.1 Proyek pemenang kompetisi mereka menganalisis distribusi gender kepengarangan ECAI dari 2000 hingga 2025, menemukan underrepresentasi perempuan yang persisten dengan proyeksi paritas gender sekitar tahun 2089.
Kesimpulan
Penelitian Mirabile tentang kepercayaan dalam sistem multi-agen AI menawarkan kontribusi penting untuk masa depan interaksi manusia-AI yang andal. Dengan menggabungkan perspektif multidisiplin dan fokus pada aplikasi dunia nyata seperti literasi keuangan, karyanya mengatasi kesenjangan kritis antara pengembangan laboratorium dan deployment praktis. Pengalaman Doctoral Consortium di ECAI 2025 memberikan kesempatan berharga untuk membentuk kolaborasi baru.1 Ke depan, industri AI membutuhkan tidak hanya algoritma canggih, tetapi fondasi kuat berupa data siap-AI yang terpercaya, identitas aman, dan modernisasi platform.6
Daftar Pustaka
- Smith, L. (2025, November 18). Interview with Mario Mirabile: trust in multi-agent systems. AIhub. https://aihub.org/2025/11/18/interview-with-mario-mirabile-trust-in-multi-agent-systems/
- Build AI Agents Using Low-Code Tools Like LangGraph, CrewAI, Zapier, and Bubble Course Launched - Design Autonomous Multi-Agent Systems. (2025, November 21). The Manila Times. https://www.manilatimes.net/2025/11/22/tmt-newswire/globenewswire/build-ai-agents-using-low-code-tools-like-langgraph-crewai-zapier-and-bubble-course-launched-design-autonomous-multi-agent-systems/2229538
- Multi-Agent Systems and Temporal Logic Verification. (2025, July 15). Nature Research Intelligence. https://www.nature.com/research-intelligence/nri-topic-summaries/multi-agent-systems-and-temporal-logic-verification-micro-21885
- How startups can achieve outsized results by leveraging multi-agent systems. (2025, May 21). TechRadar Pro. https://www.techradar.com/pro/how-startups-can-achieve-outsized-results-by-leveraging-multi-agent-systems
- Inside Claude-Flow: Using Multi-Agent AI to Modernize Legacy Applications Faster. (2025, November 19). TechRepublic. https://www.techrepublic.com/article/news-multi-agent-ai-claude-flow/
- AI Pilots Fail Not Because Of Algorithms, But Because Of Weak Foundations. (2025, November 21). Forbes Technology Council. https://www.forbes.com/councils/forbestechcouncil/2025/11/21/ai-pilots-fail-not-because-of-algorithms-but-because-of-weak-foundations/
