KALIMANTAN BARAT — CEO Anthropic Dario Amodei menulis esai berisi ajakan kepada perusahaan-perusahaan kecerdasan buatan untuk mengerem laju pengembangan model mereka. Esai tersebut terbit tak lama setelah seorang peneliti Anthropic mengumumkan pengunduran dirinya di media sosial.
Peneliti bernama Jacob Coxon itu menyampaikan kekhawatiran serius soal masa depan AI. Ia pernah bekerja di OpenAI sebelum bergabung ke Anthropic.
Tiga Langkah yang Diusulkan Amodei
Amodei memaparkan tiga langkah yang menurutnya bisa memperlambat pengembangan AI tanpa mengorbankan keunggulan komersial Amerika Serikat di bidang tersebut. Langkah pertama, Anthropic secara sepihak telah berkomitmen memberikan akses setingkat karyawan kepada evaluator pihak ketiga.
Akses itu ditujukan agar pihak eksternal dapat memverifikasi praktik keselamatan dan pelaporan insiden di internal perusahaan. Langkah kedua mendorong perusahaan AI di negara demokratis berkoordinasi dan menyusun standar keamanan bersama.
Langkah ketiga menyerukan adanya koordinasi antara pemerintah demokratis dan pemerintahan otoriter. Amodei menegaskan bahwa pengereman bukan berarti menghentikan pelatihan model atau kemajuan teknis.
"Agar jelas, pengereman bukan berarti menghentikan pelatihan model atau kemajuan teknis, tetapi memastikan perusahaan mengambil waktu yang cukup untuk menyelaraskan dan menjaga model mereka, dan agar evaluator pihak ketiga dapat mengonfirmasinya," tulis Amodei, seperti dikutip dari CNBC, Minggu (13/8/2026).
Peringatan dari Mantan Karyawan
Esai Amodei menyusul pengumuman mundurnya Coxon. Menurut Coxon, orang-orang yang mengembangkan AI meyakini teknologi ini bisa membunuh seluruh manusia dalam 10 tahun.
Kekhawatiran soal risiko kepunahan akibat AI bukan hal baru. Pada 2023, sejumlah peneliti dan eksekutif AI menandatangani pernyataan soal pengurangan risiko tersebut.
Amodei dan CEO OpenAI Sam Altman termasuk di antara penandatangan pernyataan itu. Namun dalam esainya, Amodei menilai menunda atau memperlambat pengembangan AI pada 2023 belum masuk akal untuk dilakukan.
Alasan Waktu Itu Belum Tepat
Menurut Amodei, saat itu model-model AI belum cukup pintar untuk mengambil tindakan di dunia nyata. Model tersebut juga dinilai belum mampu melakukan penipuan, manipulasi, kecurangan, atau serangan siber yang signifikan.
"Saya tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia secara signifikan. Keinginan saya untuk mencapai keuntungan ini tidak berkurang," tulis Amodei.
"Namun, manfaat tersebut hanya akan tercapai jika kita membangun teknologi dengan cara yang benar, dan-selama kita memanfaatkan waktu dengan baik-ada baiknya kita berhati-hati untuk melakukannya dengan benar," imbuhnya.
Usulan Amodei menambah tekanan publik terhadap perusahaan AI soal keselamatan produk. Wacana koordinasi lintas negara yang ia dorong masih jauh dari kesepakatan konkret, sementara tuntutan transparansi dari pihak ketiga makin menguat.
