Suratkami.com – Jakarta, peneliti keselamatan AI Anthropic, Evan Hubinger, memperingatkan bahwa perkembangan kecerdasan buatan berlangsung sangat cepat. Ia secara pribadi memperkirakan ada peluang lebih dari 10 persen bahwa teknologi tersebut dapat memusnahkan seluruh manusia dalam satu dekade.
Hubinger menyampaikan pandangan itu melalui unggahan di X. Ia menilai risiko dari model AI yang saat ini sudah tersedia masih rendah. Namun, ia mengaku khawatir teknologi tersebut segera mampu memperbaiki dirinya sendiri hingga mencapai tingkat yang menimbulkan risiko eksistensial bagi umat manusia.
Peringatan itu muncul setelah Financial Times melaporkan bahwa Anthropic tidak menyerahkan model terbarunya kepada UK AI Safety Institute (AISI). Lembaga tersebut termasuk salah satu institusi utama di dunia yang menguji dan menilai risiko AI. BBC telah menghubungi Anthropic untuk meminta tanggapan.
Risiko AI dan belum adanya rencana menghadapi superinteligensi
Dalam unggahannya yang telah dilihat lebih dari 10 juta kali, Hubinger mengatakan Anthropic sungguh-sungguh meyakini AI dapat menimbulkan risiko yang mengakhiri keberadaan manusia sebagai spesies. Ia juga menyebut perusahaan itu berusaha sebaik mungkin, tetapi belum memiliki rencana untuk menyelesaikan persoalan penyelarasan pada superinteligensi.
Menurut Hubinger, Anthropic juga belum menunjukkan bahwa mereka berada di jalur yang jelas untuk mengendalikan teknologi tersebut. Penyelarasan AI merujuk pada upaya memastikan tujuan dan tindakan sistem tetap sesuai dengan kepentingan serta kendali manusia.
Laporan tentang kerja sama keselamatan AI
Seorang juru bicara Cabinet Office tidak mengomentari laporan mengenai kemungkinan model terbaru Anthropic tidak diberikan kepada AISI. Namun, ia mengatakan pemerintah Inggris terus bekerja sama erat dengan mitra industri, termasuk Anthropic, untuk membuat model AI lebih aman.
Neil Lawrence, Profesor Machine Learning di University of Cambridge, menilai laporan tersebut dapat dipercaya ketika berbicara dalam program Today di BBC Radio 4. Ia mengaitkan situasi itu dengan persepsi bahwa Amerika Serikat melihat AI sebagai perlombaan dengan China.
HP Lipat Tiga Huawei Rilis, Mekanisme Lipat Mirip Samsung Galaxy Z Flip
Lawrence mengatakan perubahan sikap Amerika Serikat menuju posisi yang lebih isolasionis dapat mendorong pengurangan kerja sama dengan sejumlah negara sekutu. Ia menyampaikan pandangan tersebut sebagai kemungkinan yang menjelaskan mengapa akses terhadap model AI terbaru menjadi lebih terbatas.
Insiden agen AI menambah kekhawatiran
Kekhawatiran mengenai keselamatan AI telah disampaikan para pemimpin industri selama bertahun-tahun. Pada 2023, pimpinan OpenAI, Google DeepMind, dan Anthropic juga memperingatkan bahaya yang dapat muncul dari teknologi tersebut.
Namun, peringatan itu menjadi semakin tegas setelah sejumlah insiden melibatkan agen AI, yaitu sistem yang dapat menjalankan tugas secara mandiri. Pada musim panas, beberapa perusahaan mengungkap bahwa perangkat AI mereka digunakan dalam serangan siber, termasuk OpenAI, Anthropic, dan Meta.
Pada September, Kepala Ilmuwan OpenAI Jakub Pachocki menyerukan kehati-hatian ekstrem terhadap kemajuan AI. Ia memperingatkan bahwa intervensi tambahan mungkin diperlukan agar manusia tetap memegang kendali atas masa depan.
Seruan untuk memperlambat pengembangan AI
Sejumlah tokoh industri juga menyerukan agar pengembangan AI diperlambat. Pimpinan Anthropic, Dario Amodei dan Jared Kaplan, termasuk di antara tokoh yang menyampaikan kekhawatiran tersebut dalam beberapa bulan terakhir.
Selain itu, sebanyak 1.300 pekerja perusahaan AI menandatangani surat terbuka. Mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang dapat mengatur laju pengembangan AI otomatis di garis terdepan.
Rangkaian peringatan tersebut menunjukkan bahwa perdebatan mengenai risiko AI tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga transparansi, pengawasan, dan kerja sama antarnegara. Karena itu, pengembangan sistem yang semakin mandiri terus menjadi perhatian utama para peneliti keselamatan AI.
