Suratkami.com – Jakarta, CEO Anthropic Dario Amodei meminta pengembangan AI diperlambat agar sistem keselamatan dan pengawasan memiliki waktu untuk mengejar kemampuan teknologi yang berkembang pesat.
Seruan itu disampaikan melalui esai panjang berjudul “We Must Pace the Frontier” yang dibagikan di blog pribadinya. Amodei menilai kemampuan kecerdasan buatan saat ini meningkat begitu cepat sehingga upaya manusia untuk menjaga teknologi tersebut tetap aman berisiko tertinggal.
Namun, Amodei tidak menyerukan penghentian total pengembangan AI. Ia ingin perusahaan tetap melanjutkan inovasi, tetapi dengan kecepatan yang memungkinkan proses pengamanan, penyelarasan, dan pengawasan berjalan secara memadai.
Pengembangan AI diperlambat demi mengejar keselamatan
Dalam esainya, Amodei menyatakan bahwa kehati-hatian yang lebih besar diperlukan untuk menghadapi risiko AI. Menurut dia, industri perlu mengatur laju peningkatan kemampuan model agar upaya pencegahan risiko memiliki waktu untuk mengejar perkembangan teknologi.
“Selama beberapa bulan terakhir, saya semakin yakin bahwa untuk benar-benar mengatasi risiko AI, kita membutuhkan kehati-hatian yang lebih besar… sekaligus mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya,” tulis Amodei.
Pernyataan tersebut muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa. Seruan Amodei juga memperoleh dukungan dari sejumlah pemimpin perusahaan AI yang bersaing dengan Anthropic, termasuk CEO OpenAI Sam Altman dan pendiri sekaligus CEO xAI Elon Musk.
Tiga langkah yang diusulkan Amodei
Amodei mengusulkan tiga langkah untuk mengurangi risiko dari perkembangan AI. Langkah tersebut menekankan pentingnya waktu, kerja sama antarperusahaan, serta koordinasi lintas negara.
- Perusahaan memberikan waktu yang cukup untuk mengamankan dan menyelaraskan model AI, sekaligus membuka sistemnya kepada evaluator independen.
- Perusahaan AI terdepan berkoordinasi untuk menyusun standar keselamatan bersama.
- Pemerintah dan pelaku industri membangun koordinasi internasional untuk mengelola risiko AI.
Penyelarasan atau alignment menjadi salah satu perhatian utama dalam usulan tersebut. Proses ini bertujuan memastikan perilaku dan tujuan sistem AI tetap sejalan dengan kepentingan manusia, terutama ketika kemampuan model semakin canggih.
Anthropic buka akses bagi evaluator pihak ketiga
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak. Perusahaan itu berencana memberikan evaluator pihak ketiga akses permanen dengan tingkat akses setara karyawan ke sistemnya.
Akses tersebut ditujukan untuk membantu pihak independen memeriksa kepatuhan Anthropic terhadap standar keselamatan. Selain itu, evaluator dapat melaporkan insiden dan menilai alignment model selama proses pelatihan berlangsung.
Langkah ini menunjukkan bahwa Amodei tidak hanya mendorong perlambatan secara umum, tetapi juga mengusulkan mekanisme pemeriksaan yang lebih terbuka. Dengan keterlibatan evaluator independen, perusahaan diharapkan dapat memperoleh penilaian dari pihak di luar organisasi.
Koordinasi menjadi tantangan industri AI
Usulan Amodei menempatkan keselamatan sebagai tanggung jawab bersama. Standar yang berbeda-beda antarperusahaan dapat menyulitkan proses pengawasan, terlebih ketika model AI dikembangkan dengan kemampuan yang semakin luas.
Karena itu, koordinasi antara perusahaan AI menjadi bagian penting dari seruannya. Di sisi lain, pengelolaan risiko juga membutuhkan kerja sama internasional agar langkah keselamatan tidak berhenti pada kebijakan satu perusahaan atau satu negara.
Seruan tersebut memperlihatkan meningkatnya perhatian para pemimpin industri terhadap hubungan antara kecepatan inovasi dan kesiapan sistem keselamatan. Pengembangan AI tetap berlanjut, tetapi Amodei mendorong agar kemajuannya berjalan seiring dengan pengawasan, penyelarasan, dan mekanisme pencegahan risiko.
