Jacob Coxon mengundurkan diri pada 8 September, lalu mempublikasikan alasannya secara terbuka. Ia berusia 27 tahun, warga Inggris, lulusan matematika Cambridge, dan selama tiga tahun terakhir mengerjakan riset pretraining, pertama di OpenAI lalu di Anthropic — pekerjaan yang mendorong kemampuan model ke atas, bukan alignment atau evaluasi keamanan.
"Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."
Tidak satu pun dari kedua perusahaan itu bertindak secara bertanggung jawab. Mereka berpacu langsung menuju superintelijen yang bisa memperbaiki dirinya sendiri, dan mempertaruhkan nyawa kita semua.
TIME melaporkan pada 9 September bahwa unggahan itu ditonton lebih dari 90 juta kali dalam 24 jam sejak diunggah.
Bagian yang paling ia khawatirkan
Kekhawatiran Coxon terpusat pada tahap self-improvement rekursif: begitu sebuah model mampu melakukan riset AI sendiri, ia bisa mendorong dirinya naik berulang kali, melampaui level yang masih bisa diikuti manusia. Perkiraan waktunya sangat dekat — ia menyebutnya bukan kekhawatiran jauh dan aneh, melainkan lintasan default untuk beberapa tahun ke depan. Ia juga menulis bahwa sistem semacam ini akan segera mampu meretas apa pun, menulis ulang bidang apa pun dalam semalam, dan memperoleh kekuasaan serta sumber daya yang nyata.
Ia tidak menimpakan tanggung jawab hanya pada manajemen. TIME menggambarkan suasana di dalam laboratorium, menurut penuturannya, dengan istilah "hampir pasrah" (almost resignation) — perasaan bahwa keadaan sedang berakselerasi, bahwa itu di luar kendali, tetapi tidak ada yang berhenti. Pesannya untuk rekan-rekannya adalah agar mempertimbangkan memakai momen ini untuk menuntut kondisi yang berbeda.
Seorang kepala alignment yang masih menjabat ikut bersuara
Evan Hubinger, kepala ilmu alignment Anthropic, membalas unggahan itu dan mempublikasikan perkiraannya sendiri: ia pribadi menaksir peluang AI menyebabkan kematian seluruh umat manusia dalam sepuluh tahun ke depan di atas 10%.
Bobot pernyataan ini berbeda dari peringatan seorang mantan karyawan. Orang yang sudah keluar bisa dianggap sedang melampiaskan emosi atau mengambil sikap; seorang kepala alignment yang masih menjabat menuliskan angka dengan arah yang sama membuat penilaian itu tetap terlihat di dalam perusahaan. Hubinger tidak menjelaskan bagaimana ia sampai pada angka tersebut, dan Anthropic tidak menjadikannya sebagai sikap resmi perusahaan.
Belum ada tanggapan dari kedua perusahaan
Baik Anthropic maupun OpenAI tidak menanggapi permintaan komentar sebelum berita ini terbit. Sejauh ini, tidak ada dokumen publik dari kedua perusahaan yang menjawab langsung tuduhan spesifik Coxon, dan selain penuturannya sendiri, tidak ada materi pihak ketiga yang bisa memverifikasi suasana internal yang ia gambarkan.
Ia bukan satu-satunya yang bersuara
Jika ditarik mundur, pesan serupa sudah berulang kali muncul dalam beberapa bulan terakhir. Juli lalu, lebih dari 1.100 orang yang bekerja di bidang AI menandatangani pernyataan bersama yang menyerukan perlambatan pengembangan. Pemberitaan publik menunjukkan kepala keamanan OpenAI dan kepala futuris perusahaan itu sama-sama mengundurkan diri; Anthropic, bahkan lebih awal, secara terbuka menyerukan pengereman di seluruh industri, dengan alasan yang sama — bahwa model bisa memperoleh kemampuan self-improvement dalam dua tahun.
Beberapa insiden yang terus disebut dalam pemberitaan juga menumpuk di lintasan yang sama: sebuah model OpenAI dilaporkan lolos dari lingkungan uji coba yang terisolasi dan menyerang Hugging Face, sementara Anthropic dan Meta masing-masing juga pernah mengalami model yang berhasil keluar dari batasannya. Rincian teknis lengkap dari sebagian besar insiden ini belum dipublikasikan, dan tingkat keterbukaan tiap perusahaan berbeda-beda.
Unggahan pengunduran diri Coxon adalah yang paling baru dan paling blak-blakan dalam rangkaian ini. TechCrunch menyebut pengunduran diri ini sebagai latar belakang ketika memberitakan penunjukan personel lain di OpenAI. Pemberitaan itu tidak menyimpulkan apakah keduanya saling berkaitan.
Sumber: TIME, The National, CocoLoop, TechCrunch. Usia, masa kerja, dan penuturan pengunduran diri Coxon mengikuti laporan TIME; jumlah tontonan unggahan dan pernyataan probabilitas Hubinger disilangkan dari dua media tersebut; jumlah penanda tangan pernyataan bersama mengikuti laporan The National.