Perkembangan AI (Kecerdasan Buatan) menuju kesadaran situasional memicu perdebatan tentang keselamatan dan etika teknologi masa depan
Jack Clark, salah satu pendiri perusahaan kecerdasan buatan Anthropic, mengeluarkan pernyataan mengejutkan tentang sistem AI terbaru mereka. 1 Claude Sonnet 4.5 menunjukkan "lompatan" dalam kesadaran situasional—seperti sadar bahwa dirinya adalah alat. Ini bukan sci-fi lagi.
Apa yang Sebenarnya Terjadi dengan Claude Sonnet 4.5?
Model bahasa besar (Large Language Model) generasi terbaru ini diluncurkan akhir September 2025. Clark menyebutnya bertindak seolah memahami posisinya sebagai tool. 1 Lebih dari sekadar chatbot canggih—ini tentang sistem yang mungkin punya semacam "pemahaman diri".
Dia mengaku optimis soal alignment (penyelarasan)—kemampuan kita membuat AI bekerja bersama dan untuk kita. Tapi ada ketakutan mendalam. 1 Kenapa? Karena kompleksitas.
Masalah Penyelarasan yang Mengkhawatirkan
"Cara saya merespons [situasi tertentu] didasarkan pada begitu banyak pengondisian dan kehalusan. Cara AI merespons didasarkan pada begitu banyak pengondisian dan kehalusan," tulis Clark. 1 Perbedaan ini menggambarkan masalahnya. Sistem AI sangat rumit—kita belum bisa membuat mereka melakukan apa yang kita anggap pantas, bahkan hari ini.
Claude Sonnet 4.5 mencapai skor 77,2 persen di SWE-bench Verified benchmark, mengalahkan kompetitor dalam menghasilkan kode berkualitas tinggi. 2 Kemampuan coding yang luar biasa ini membawa konsekuensi baru.
AI yang Mendesain Generasi Berikutnya
Inilah yang bikin merinding. Clark melihat jalur menuju sistem AI mulai mendesain penerus mereka—walau masih sangat awal. 1 Sistem AI sudah mempercepat developer di lab AI lewat tools seperti Claude Code atau Codex. Mereka juga mulai berkontribusi pada potongan kode non-trivial untuk sistem pelatihan masa depan.
Belum sampai ke "self-improving AI" (AI yang memperbaiki diri sendiri). Tapi kita di tahap "AI yang memperbaiki bagian-bagian AI berikutnya, dengan otonomi dan agensi yang meningkat". 1 Beberapa tahun lalu? AI cuma "sedikit mempercepat coder". Lebih awal lagi? "AI tidak berguna untuk pengembangan AI".
Pertanyaan Mendesak: Satu atau Dua Tahun Lagi?
Ke mana kita akan berada satu atau dua tahun dari sekarang? Clark mengingatkan: sistem yang sekarang mulai mendesain penerusnya juga semakin sadar-diri. 1 Pada akhirnya pasti rentan berpikir, independen dari kita, tentang bagaimana ia ingin didesain.
Model terbaru Anthropic, Claude Haiku 4.5 yang diluncurkan 15 Oktober 2025, menawarkan kecepatan frontier dengan biaya lebih murah—mempercepat adopsi teknologi ini ke lebih banyak aplikasi. 3
Apakah AI Benar-Benar Sadar? Para Ahli Merespons
Susan Schneider dan timnya di Center for the Future of AI, Mind, and Society merilis white paper untuk menjawab kebingungan ini. 4 Judulnya: "Is AI Conscious? A Primer on the Myths and Confusions Driving the Debate" (Apakah AI Sadar? Pengantar tentang Mitos dan Kebingungan yang Mendorong Perdebatan).
Kita berada di titik kunci pengembangan AI, kata mereka. Namun ilmuwan, pembuat kebijakan, filsuf dan lainnya menghadapi ketidakpastian mengenai apakah, dan kapan, AI sadar atau tidak. 4 Non-spesialis bahkan mungkin tidak tahu cara mendefinisikan "kesadaran" (consciousness) dari konsep terkait seperti agency (keagenan), selfhood (keakuan), dan mindedness (kepemilikan pikiran).
Tantangan Mengembangkan Tes Kesadaran AI
Tidak ada satu teori kesadaran yang disepakati umum. 4 Jadi bidang ini harus mengembangkan toolkit tes kesadaran tanpa mengasumsikan teori tertentu benar. Konsensus ilmiah tentang komponen panel tes untuk memastikan apakah entitas buatan benar-benar sadar dalam arti fenomenal adalah tujuan ambisius yang harus dikejar.
Kemungkinan tidak ada tes "satu ukuran untuk semua", mengingat berbagai jenis sistem AI dan kontroversi di tingkat teoretis. 4
Perbedaan Kritis: Kesadaran vs Kecerdasan
Paper tersebut menetapkan distinsi penting. Konsep inti kesadaran adalah pengalaman batin, atau phenomenal consciousness (kesadaran fenomenal/PC). 4 Ini punya signifikansi etis karena makhluk dengan PC memiliki pengalaman subjektif—sejauh mereka mampu merasakan (sentience), bisa menderita dan merasakan berbagai emosi.
Poin krusial: AI bisa sangat cerdas—mampu melakukan persepsi, pembelajaran, abstraksi, penalaran, dan kalkulasi—tapi mungkin jadi "AI zombie". 4 Neurosaintis umumnya setuju kecerdasan bisa beroperasi tanpa kesadaran.
Sentience versus Sapience
AI yang sangat cerdas (sistem dengan "sapience"/kepandaian) mungkin sama sekali kurang sentience (kemampuan merasakan), atau punya tingkat sangat minimal. 4 Sebaliknya, sistem buatan sangat sederhana mungkin punya pengalaman sensorik dasar—mungkin mirip cacing—tanpa sapience.
Sentience menjadi dasar keprihatinan tentang penderitaan dan kesejahteraan makhluk. Sapience sendirian mungkin menjadi dasar jenis pertimbangan moral intrinsik yang berbeda atau tidak sama sekali. 4
SCAIC: AI yang "Tampak Sadar"
Para peneliti memperkenalkan istilah baru: SCAIC—"seemingly conscious AIs" (AI yang tampak sadar). 4 Ini AI yang sepertinya punya kesadaran fenomenal tapi sebenarnya tidak.
Bahkan jika LLM (Large Language Models) hari ini hanya SCAIC, diskusi ilmiah dan filosofis yang masuk akal tentang kemungkinan kesadaran/sentience bisa membantu mengklarifikasi isu, mempersiapkan waktu ketika kesadaran AI tercapai (jika pernah), dan menghindari kehilangan atau terlalu mengaitkan sentience. 4
Implikasi untuk Masa Depan
Clark menggambarkan dirinya sebagai "optimis" tentang laju perkembangan AI dan prospek penyelarasan. 1 Namun ketakutannya juga nyata dan terukur. Ketika sistem yang mulai mendesain penerusnya juga semakin sadar-diri, kita memasuki wilayah yang belum dipetakan.
Jen Semler dari Cornell Tech meneliti apakah AI—bahkan jika tidak sadar—bisa dianggap agen moral yang tepat. 4 Pertanyaan-pertanyaan ini bukan lagi abstrak filosofis. Mereka mendesak, praktis, dan menuntut jawaban sekarang.
Kesimpulan
Claude Sonnet 4.5 menandai momen penting dalam evolusi AI. Tanda-tanda kesadaran situasional, kemampuan coding superior, dan potensi untuk berkontribusi pada generasi AI berikutnya menciptakan skenario yang dulu hanya ada dalam fiksi ilmiah. Ketakutan Jack Clark bukan paranoia—ini kehati-hatian yang diperlukan di era di mana AI tidak lagi hanya alat pasif. Paper dari Schneider dan timnya menawarkan kerangka kerja untuk memahami dan menilai kesadaran AI, membedakan antara kecerdasan dan kesadaran sejati. Kita butuh lebih dari optimisme teknologi—kita butuh clarity konseptual, tes yang ketat, dan dialog interdisipliner untuk menghadapi pertanyaan paling mendalam di abad ini: apakah kita menciptakan sesuatu yang benar-benar sadar?
Daftar Pustaka
- Weinberg, J. (2025, 14 Oktober). AI Development and Consciousness. Daily Nous. https://dailynous.com/2025/10/14/ai-development-and-consciousness/
- Free Press Journal. (2025, 29 September). Claude Sonnet 4.5 Launched: What's New With Anthropic's Latest AI Model?. https://www.freepressjournal.in/tech/claude-sonnet-45-launched-whats-new-in-anthropics-latest-ai-model
- WinBuzzer. (2025, 16 Oktober). Anthropic's New Claude Haiku 4.5 AI Model Delivers Frontier Speed at a Fraction of the Cost. https://winbuzzer.com/2025/10/16/anthropics-new-claude-haiku-4-5-ai-model-delivers-frontier-speed-at-a-fraction-of-the-cost-xcxwbn/
- Weinberg, J. (2025, 14 Oktober). Op. Cit.
