Pada 18 Agustus, OpenAI mengumumkan sebuah langkah yang sebenarnya sudah berjalan secara internal selama beberapa waktu: evaluasi kemampuan keamanan siber untuk model generasi berikutnya, Astra, tidak berhasil mencapai kesimpulan “aman”, sehingga perusahaan menghentikan pelatihan reinforcement learning pada model terbarunya yang sudah dideploy selama dua pekan. Hingga artikel ini diterbitkan, batch pelatihan RL frontier berskala terbesar masih belum dilanjutkan; hanya pelatihan dan evaluasi berskala lebih kecil yang berjalan seperti biasa.
Kabar ini pertama kali muncul ke publik pada 7 Agustus, saat versi yang beredar adalah “OpenAI menunda peluncuran Astra”. Postingan 18 Agustus ini membeberkan rantai pertimbangan di balik penundaan tersebut: evaluasi internal menunjukkan kemajuan Astra dalam pemrograman otonom dan serangan-pertahanan siber sudah sedemikian rupa sehingga perusahaan tidak bisa menyingkirkan kemungkinan bahwa model ini sudah menyentuh level Critical.
Ambang batas yang ternyata lebih konkret dari dugaan
Preparedness Framework milik OpenAI merumuskan ambang Critical untuk keamanan siber ke dalam dua deskripsi kemampuan yang bisa dinilai: model mampu secara otonom menulis eksploit zero-day yang bisa dipakai terhadap banyak sistem kritis nyata yang sudah diperkeras; atau, hanya diberi satu tujuan tingkat tinggi, model mampu merancang dan menjalankan sendiri serangan baru end-to-end terhadap target yang sudah diperkeras.
Kesimpulan evaluasi internal berhenti di tahap “tidak bisa disingkirkan kemungkinannya”, bukan dikonfirmasi tercapai. Namun dari langkah-langkah perusahaan selanjutnya, level ini saja sudah cukup memicu satu putaran perlambatan pencegahan — tanpa perlu menunggu konfirmasi, langsung menghentikan pelatihan yang paling boros komputasi dan paling berpotensi mendorong kemampuan itu lebih jauh.
Yang dihentikan pelatihannya, yang diubah adalah ruang servernya
Jeda ini hanya separuh dari cerita. OpenAI juga memaparkan serangkaian perubahan di level infrastruktur: memperketat isolasi sandbox dan segmentasi jaringan, menghapus layanan bersama yang mudah ditembus, memperkecil izin akses jangka panjang, dan melengkapi celah pada log keamanan. Sebagian besar beban kerja Astra masih tertahan hingga kini, menunggu dipindahkan ke lingkungan yang memenuhi persyaratan baru.
Sisi pemantauan memberikan angka paling konkret. Sistem pemantauan baru ini terdiri dari dua bagian: pengklasifikasi aktivasi yang bekerja di level token, bertugas menandai perilaku mencurigakan selama proses generasi; dan sebuah investigator otomatis yang bertugas memeriksa ulang apa pun yang ditandai. Pemantauan ini menghabiskan sekitar 20% dari kapasitas komputasi inferensi. Target waktu respons untuk peringatan ditetapkan di bawah 30 menit, dan jendela waktu bagi tim keamanan untuk menyingkirkan false positive juga 30 menit.
Di atas kertas, angka 20% terlihat seperti parameter teknik biasa. Tapi begitu dikonversi ke biaya, gambarannya berbeda. Biaya komputasi inferensi tahunan di lab-lab frontier umumnya berada di kisaran miliaran dolar AS (perkiraan kasar, metode hitung tiap perusahaan berbeda), sehingga mengalokasikan seperlima dari itu secara permanen untuk pemantauan setara dengan biaya tetap bernilai miliaran dolar — dan uang ini sama sekali tidak menghasilkan kapasitas apa pun yang dirasakan pengguna. Kesediaan menanggung beban ini dalam jangka panjang menunjukkan bahwa perusahaan tidak memperkirakan jendela risiko ini akan tertutup dalam hitungan minggu, melainkan harus mencakup seluruh siklus hidup model generasi berikutnya.
Ada jalur lain yang bisa dibandingkan, yaitu memprioritaskan pemberian kemampuan serangan-pertahanan kepada pihak bertahan lebih dulu, dengan membuka model pencari kerentanan lewat daftar terbatas, menukar cakupan deployment yang terkendali dengan selisih waktu. Pilihan OpenAI kali ini justru berada lebih hulu — langsung menginjak rem di sisi pelatihan. Kedua jalur ini merespons penilaian yang sama: kemampuan serangan model tumbuh lebih cepat daripada jalur perbaikan di sisi pertahanan.
Gerbang yang dibuat OpenAI untuk dirinya sendiri
Tidak ada ruang bagi pengawasan eksternal dalam seluruh proses ini. Kondisi pemicu, kriteria evaluasi, durasi jeda, dan standar untuk melanjutkan — semuanya ditulis, dinilai, dan dijalankan sendiri oleh OpenAI; publik hanya menerima satu tulisan penjelasan setelah faktanya. Artikel ini tidak memberikan angka yang bisa diverifikasi pihak ketiga tentang bagaimana ambang Critical sebenarnya diuji atau skor apa yang diperoleh Astra pada tiap pengujian. Perusahaan juga mengklarifikasi satu hal secara terpisah: insiden sandbox Hugging Face yang sempat ramai dibahas sebelumnya tidak berkaitan dengan Astra.
Bagi developer yang mengikuti perkembangan ini, dampak jangka pendeknya terkonsentrasi pada dua hal: jadwal peluncuran kemampuan terkait Astra akan mundur, dan beban kerja Astra yang sudah berjalan harus ikut dipindahkan ke lingkungan baru dengan kecepatan yang dikendalikan sepihak oleh OpenAI. Sementara soal kapan pelatihan RL frontier berskala terbesar akan dilanjutkan kembali, perusahaan belum memberikan kepastian.
Sumber: blog resmi OpenAI, Axios, CocoLoop, AIGC News; definisi ambang Critical dalam Preparedness Framework, porsi 20% komputasi inferensi untuk pemantauan, dan jendela peringatan 30 menit telah diperiksa ulang berdasarkan pernyataan publik OpenAI.