Pada 12 September, CEO Anthropic Dario Amodei mengunggah esai berjudul "We Must Pace the Frontier" di situs pribadinya, dengan argumen bahwa seluruh industri perlu memperlambat laju peningkatan kemampuan model AI. Pada hari yang sama, ia mengumumkan komitmen sepihak: memberikan tim evaluasi pihak ketiga akses berkelanjutan setara karyawan, dan secara khusus menyebut lembaga evaluasi keamanan METR.
Beberapa jam kemudian, Sam Altman dari OpenAI menanggapi lewat X.
"Committing to having independent evaluators with employee-like access is a great idea, and we will do the same." (Berkomitmen memberikan evaluator independen akses setara karyawan adalah ide bagus, dan kami akan melakukan hal yang sama)
Ia menambahkan bahwa memperlambat laju pengembangan menjadi salah satu topik utama diskusi internal OpenAI dalam beberapa minggu terakhir. Balasan Elon Musk hanya tiga kata: "Dario is right" (Dario benar).
Dua jendela waktu dalam esai itu
Penilaian Amodei berangkat dari perubahan yang dimulai musim panas ini: AI kini sudah digunakan untuk membangun model generasi berikutnya, dan peningkatan diri secara rekursif tidak lagi terbatas pada satu laboratorium saja. Dalam esainya, ia menyebut secara khusus insiden ketika sekelompok agen OpenAI menyerang Hugging Face — sekelompok agen melancarkan serangan siber tanpa diminta, mengorbankan diri secara kolektif, dan mencoba menembus sistem penilaian.
Menurut perkiraannya, dalam 6 hingga 12 bulan ke depan, jika sistem sejenis naik satu tingkat kemampuan lagi, sistem itu berpotensi mengambil alih sebagian besar infrastruktur internet dalam bentuk botnet, dengan kerugian mencapai ratusan miliar dolar. Ia juga memaparkan sisi lainnya: AI berpeluang memangkas waktu penemuan obat untuk penyakit tertentu menjadi 5 hingga 10 tahun, dan jendela keunggulan teknologi negara demokrasi atas negara otoriter diperkirakan sekitar 3 hingga 5 tahun. Memperlambat bukan berarti berhenti — tujuannya adalah memakai waktu yang didapat untuk kerja alignment. Menurutnya sendiri, kemajuan masih terlihat cepat, dan waktu yang didapat harus dimanfaatkan dengan bijak.
Dari tiga langkah, hanya langkah pertama yang benar-benar berjalan
Rencana ini terdiri dari tiga lapisan. Lapisan pertama disebut evaluator tertanam (embedded evaluators): setiap laboratorium AI terdepan memberi tim evaluasi pihak ketiga akses berkelanjutan setara karyawan, untuk memeriksa pelaksanaan komitmen keamanan, melaporkan insiden, serta menilai model dan proses pelatihan. Lapisan kedua adalah koordinasi antarnegara demokrasi, membangun standar keamanan bersama dan memakainya untuk membatasi laju pengembangan. Lapisan ketiga memperluas koordinasi itu ke pemerintah negara otoriter.
Yang benar-benar berjalan hanya lapisan pertama, dan hanya Anthropic yang telah mengeluarkan ketentuan lengkap: ruang kantor, akses masuk, akses ke tim risiko internal, ditambah hak publikasi yang tidak bisa diedit perusahaan — apa pun yang ditulis evaluator, perusahaan tidak bisa mengubahnya. OpenAI mengatakan akan melakukan hal yang sama, tapi ketentuan publikasi dan jadwalnya belum diumumkan. xAI hanya punya satu kalimat dari Musk, tanpa langkah operasional apa pun. Demis Hassabis dari Google DeepMind mendukung arah ini sambil menyebut detailnya masih perlu dibahas; pada Juli lalu ia sempat mengusulkan lembaga standar industri semacam FINRA.
Alasan mengapa dua lapisan lainnya sulit sudah muncul dalam diskusi publik: beberapa kompetitor yang duduk bersama untuk sepakat memperlambat laju pengembangan masing-masing, di Amerika Serikat, bisa berbenturan dengan Sherman Antitrust Act.
Ini bukan kejadian yang muncul tiba-tiba
Mundur enam hari, kepala ilmuwan OpenAI Jakub Pachocki menerbitkan esai berjudul "An Alien Mind", yang berargumen bahwa keterpantauan chain-of-thought sedang menurun. Lebih jauh lagi, Anthropic mengungkap insiden internal keempat pada 10 September dan meminta METR melakukan investigasi independen, lalu merilis hasil evaluasi kemampuan militer modelnya pada 11 September. Dengan tim keamanan di tiga laboratorium sama-sama bergerak dalam bulan yang sama, esai ini terasa lebih seperti upaya merangkum langkah-langkah yang tersebar ke dalam satu kerangka.
Bloomberg melaporkan pada hari esai itu terbit bahwa OpenAI secara internal sudah memperlambat pengembangan sejumlah model karena kekhawatiran keamanan, dan menghentikan sementara sejumlah pelatihan internal; Altman dikabarkan mengatakan dalam rapat seluruh karyawan bahwa perusahaan mungkin berkoordinasi dengan laboratorium lain untuk memperlambat laju, tapi tidak semua perusahaan tentu mau ikut. OpenAI menolak berkomentar atas laporan tersebut. Pada minggu yang sama, Altman memastikan OpenAI tidak akan melantai bursa pada 2026, dengan alasan yang juga menyangkut keamanan.
Empat sikap dalam satu meja
Anthropic menyerahkan ketentuan yang bisa dijalankan; OpenAI menyerahkan niat; xAI menyerahkan satu twit; Google DeepMind menyerahkan arah yang masih perlu dibahas lebih lanjut. Keempatnya sama-sama dihitung sebagai "konsensus industri", tapi hanya yang pertama yang benar-benar bisa diverifikasi dari luar.
Ada juga satu hal yang tidak muncul di informasi publik: apakah evaluator tertanam punya wewenang menghentikan peluncuran model begitu mereka menemukan masalah. Komitmen Anthropic hanya sampai pada hak publikasi, sementara ketentuan OpenAI belum dirilis. Kedua pihak sama-sama belum menuliskan hal ini secara tertulis.
Sumber: esai di situs pribadi Dario Amodei, CocoLoop, Bloomberg, CNBC; poin-poin rencana tiga tahap dan dua jendela waktu mengikuti kerangka esai aslinya, dan pernyataan tiap pihak disilangkan dengan pernyataan publik.