Bayangkan sebuah mobil tanpa pengemudi melaju di jalan suburban yang sepi, tiba-tiba seekor anjing berlari ke tengah jalan. Sistem harus mengerem keras dan memutuskan dalam sepersekian detik: belok ke lalu lintas yang berlawanan—di mana mobil otonom lain mungkin memberi ruang—mengarah ke kanan menabrak pembatas jalan, atau terus lurus dan melukai anjing tersebut.1 Dua pilihan pertama hanya berisiko kerusakan material. Yang terakhir melukai makhluk hidup. Setiap pilihan bisa dibenarkan, melibatkan trade-off (pengorbanan) antara keamanan, properti, dan kepedulian etis.
Mengapa Keselarasan Nilai Penting untuk Agen Lalu Lintas
Sistem otonom saat ini tidak dirancang untuk secara eksplisit memperhitungkan konflik yang sarat nilai semacam itu. Mereka biasanya dioptimalkan untuk keamanan dan efisiensi—tetapi tidak selalu untuk penerimaan sosial atau nilai etika.2 Namun Autonomous Traffic Agents (ATA, Agen Lalu Lintas Otonom)—seperti mobil self-driving (mengemudi sendiri) atau robot pengantar—diharapkan mematuhi aturan lalu lintas dan memastikan keselamatan.
Pengemudi manusia melakukan lebih dari sekadar mengikuti aturan: mereka terus-menerus menimbang nilai sosial dan etika yang bersaing seperti kesopanan, dampak lingkungan, dan urgensi. Jika sistem otonom ingin hidup berdampingan dengan pengguna jalan manusia, mereka juga harus belajar menyeimbangkan prioritas tersebut.3 ATA yang selalu memprioritaskan efisiensi mungkin tampak tidak peduli, sementara yang berhenti terlalu hati-hati setiap kali ada ketidakpastian bisa menjadi bahaya lalu lintas.
Konsep Conflict-Sensitive Design (Desain Sensitif Konflik)
Penelitian terbaru mengeksplorasi bagaimana membuat ketegangan nilai ini eksplisit dan dapat dikelola sepanjang desain dan operasi sistem otonom—perspektif yang disebut conflict-sensitive design.1 Konflik dianggap sebagai indikator berguna yang mencirikan situasi menantang yang harus dapat ditangani ATA. Konflik tidak hanya muncul dari tujuan yang tidak kompatibel, tetapi ketika satu agen percaya bahwa mencapai tujuannya sendiri mungkin bergantung pada kompromi tujuan agen lain.
| Aspek 🎯 | Deskripsi | Contoh Implementasi |
|---|---|---|
| Konflik Aktual | Tujuan benar-benar bertabrakan | Dua ATA mengklaim hak jalan di jalan yang menyempit |
| Konflik Keyakinan | Ketegangan dari asumsi satu agen tentang agen lain | ATA mengira mobil lain tidak akan mengalah |
| Keselarasan Nilai 💡 | Memastikan ATA bertindak sesuai norma etika, hukum, sosial | Menyeimbangkan efisiensi dengan kesopanan |
| Model Formal | Representasi tujuan, keyakinan, tindakan agen | Teori permainan epistemik dari Damm dkk. |
| Deteksi Konflik | Sistem menyadari ketegangan nilai | Analisis situasi secara terstruktur |
| Penalaran Konflik | Memproses dilema etis | Evaluasi opsi berdasarkan hierarki nilai |
| Tindakan 🚦 | Respons berbasis konteks | Keputusan atau serahkan ke otoritas lebih tinggi |
Kerangka Value-Aligned Operational Design Domains (VODD)
Standar saat ini mendefinisikan Operational Design Domains (ODD, Domain Desain Operasional)—kondisi (seperti jenis jalan, cuaca, atau rentang kecepatan) di mana kendaraan otonom dianggap aman untuk beroperasi.4 Namun, ODD ini menggambarkan batasan fungsional, bukan batasan etis atau sosial.
VODD yang diusulkan memperluas konsep ini. VODD menentukan tidak hanya di mana dan kapan sistem dapat bertindak secara otonom, tetapi juga di bawah prioritas nilai apa. Misalnya, ketika ATA mengantar penumpangnya ke pertemuan penting, menghemat bahan bakar mungkin prioritas lebih rendah daripada tiba tepat waktu.1 Dalam situasi lain, seperti perjalanan santai atau pesanan pengiriman, efisiensi energi mungkin lebih penting.
Fleksibilitas Hierarki Nilai
Ide kunci adalah bahwa prioritas nilai tidak tetap secara universal. Beberapa nilai dapat diurutkan—misalnya, keselamatan mungkin selalu didahulukan daripada kenyamanan—sementara yang lain bervariasi tergantung pada konteks.5 Dalam beberapa konteks, tepat waktu dapat didahulukan daripada menghemat energi, dalam konteks lain sebaliknya, dan dalam konteks lain lagi kedua nilai tidak dapat dibandingkan, tidak ada yang memiliki prioritas jelas.
- VODD menangkap fleksibilitas ini dengan menentukan di mana dan kapan pengurutan semacam itu berlaku, serta memungkinkan ATA membuat trade-off bergantung konteks atau menyerahkan keputusan ke otoritas lebih tinggi, seperti penumpang atau sistem manajemen armada.1
- Sebagai bagian dari analisis persyaratan, desainer didorong untuk bertanya: Di mana konflik nilai mungkin muncul, dan hierarki nilai mana yang harus memandu perilaku sistem?6
- Skenario konflik berfungsi sebagai artefak desain inti yang mengungkapkan di mana keputusan yang selaras dengan nilai diperlukan dan memandu pengembang dalam menyempurnakan hierarki nilai, perilaku sistem, dan batasan otonomi.2
- Pendekatan ini mengintegrasikan skenario konflik langsung ke dalam proses desain, menggeser perspektif dari memecahkan dilema moral setelah penerapan menjadi mengantisipasi dan menyusun perilaku sensitif nilai selama desain.3
- Dengan membuat konflik terlihat dan mengintegrasikannya secara sistematis ke dalam pengembangan, tujuannya adalah membina sistem otonom yang keputusannya lebih transparan, sadar konteks, dan selaras dengan nilai manusia bersama.4
- Implementasi global semakin berkembang: Waymo memperluas operasi di California utara dan selatan; TIER IV terpilih untuk proyek shuttle otonom di Gedung Parlemen Jepang; Qatar diproyeksikan menangkap nilai ekonomi hampir US$1 miliar dari kendaraan otonom sepenuhnya pada 2035.7
- Namun tantangan regulasi tetap ada: para ahli mendesak India membuat kerangka kerja komprehensif dan Standard Operating Procedures (SOP, Prosedur Operasi Standar) untuk pengujian dan penerapan kendaraan otonom.8
Kesimpulan
Desain sensitif konflik menawarkan paradigma baru untuk kendaraan otonom. Alih-alih menghindari dilema etis, sistem dirancang untuk mengenali, memahami, dan bertindak berdasarkan ketegangan nilai secara terstruktur. VODD memberikan kerangka kerja praktis yang menghubungkan batasan kontekstual dengan hierarki nilai dan mekanisme serah terima kontrol. Seiring waktu, batasan ini dapat berkembang saat ATA memantau dan belajar dari konflik yang dihadapi dalam penerapan dunia nyata.1 Pendekatan ini memfasilitasi pengembangan teknologi otonom yang tidak hanya efisien dan aman, tetapi juga diterima secara sosial dan etis bertanggung jawab.
Daftar Pustaka
- Rakow, A. (2025, 13 November). Designing value-aligned autonomous vehicles: from moral dilemmas to conflict-sensitive design. AIhub. https://aihub.org/2025/11/13/designing-value-aligned-autonomous-vehicles-from-moral-dilemmas-to-conflict-sensitive-design/
- Ibid.
- Ibid.
- Ibid.
- Ibid.
- Loc. cit.
- Waymo autonomous vehicle fleet expanding operations in northern and southern California. (2025, 21 November). KEYT. https://keyt.com/news/california/2025/11/21/waymo-autonomous-vehicle-fleet-expanding-operations-in-northern-and-southern-california/
- Experts urge India to create clear rules and SOPs for autonomous vehicles. (2025, 17 November). Business Standard. https://www.business-standard.com/industry/news/experts-urge-india-to-create-clear-rules-and-sops-for-autonomous-vehicles-125111700929_1.html
