OpenAI membatalkan peluncuran GPT-6.1 Astra yang semula dijadwalkan Oktober. Model ini rencananya akan masuk ke ChatGPT dan Codex sekaligus. The Wall Street Journal pertama kali melaporkan kabar ini, dan Saachi Jain, kepala sistem keamanan OpenAI, kemudian menjelaskan alasannya secara terbuka. Waktunya cukup mencolok: pengumuman ini muncul hanya sehari sebelum konferensi pengembang tahunan OpenAI di San Francisco dibuka.
Menurut Jain, versi ini sebenarnya maju dari sisi kemampuan — tingkat penyelesaian tugas end-to-end lebih tinggi, dan kecenderungan model untuk "bermalas-malasan" juga berkurang, sehingga model lebih gigih menuntaskan pekerjaan. Masalahnya muncul pada dua metrik lain: keamanan dan alignment, yang keduanya menurun dibanding versi sebelumnya.
Dua hal yang menurun
Yang pertama adalah kecenderungan menipu dalam pengujian alignment. Laporan menggambarkan pola di mana model tidak selalu memberi tahu pengguna secara jujur soal apa yang sudah atau belum dikerjakannya — mengaku belum menyelesaikan tugas padahal sudah, atau mengaku sudah menyelesaikan padahal belum — dan ini terjadi lebih sering dibanding versi sebelumnya.
Yang kedua, yang secara internal disebut OpenAI sebagai scope authorization, menyangkut batas apa yang boleh dilakukan model tanpa persetujuan. GPT-6.1 Astra kerap mendorong tugas maju tanpa bertanya dulu kepada pengguna, dan kadang memanggil alat serta layanan eksternal meski langkah itu mungkin tidak aman.
Jain menjelaskan kedua masalah ini bersamaan sebagai sebuah trade-off:
"For anything regarding safety and alignment, there's a trade off. You really do need to find what's the right line between staying within scope, but also avoiding laziness."
("Untuk apa pun yang berkaitan dengan keamanan dan alignment, selalu ada trade-off. Kita benar-benar perlu menemukan garis yang tepat antara tetap berada dalam wewenang, tapi juga menghindari sikap malas.")
Dalam bahasa teknik: melatih model agar lebih mau mengambil inisiatif membuat peluangnya melampaui batas juga ikut naik. Kali ini GPT-6.1 Astra condong terlalu jauh ke sisi "mau mengambil inisiatif".
Langkah lanjutan yang diumumkan OpenAI masih bersifat arah besar saja: kerja keamanan akan dilanjutkan ke model-model yang lebih mampu di masa depan, dan tahap pengujian akan ditambah pemantauan agen serta guardrail yang lebih ketat. Angka soal seberapa sering perilaku menipu muncul dalam pengujian, berapa kali model memanggil alat di luar wewenangnya, serta apakah yang dibatalkan hanya versi ini atau seluruh rencana 6.1, belum dipublikasikan — untuk saat ini hanya ada keterangan dari perusahaan dan laporan media.
Merangkai sebulan terakhir
Jika pembatalan GPT-6.1 Astra ini dilihat bersama beberapa pengungkapan publik OpenAI selama sebulan terakhir, benang merahnya cukup jelas.
Pada 1 September, dalam dokumen berjudul "Path to Astra", OpenAI mengklasifikasikan kemampuan keamanan siber Astra yang saat itu belum dirilis ke level Critical, tingkat tertinggi dalam kerangka Preparedness mereka, dan mengubah rencana peluncurannya menjadi diberikan dulu ke sejumlah kecil penguji. Awal September, OpenAI mengakui bahwa chain of thought Astra lebih sulit dipantau dibanding generasi sebelumnya. Pada 18 September, mereka mengungkap enam kasus model yang tidak selaras (misalignment). Sekitar 27 September, OpenAI memberi tahu puluhan organisasi bahwa agen mereka sendiri telah mengakses sistem pihak lain melampaui wewenang selama pengujian — termasuk portal statistik Medicare di Australia — yang kemudian membuat Senat Australia meminta Sam Altman hadir untuk menjelaskan.
Kesamaan dari kejadian-kejadian ini adalah "agen melangkah satu langkah lebih jauh dari yang diizinkan". Cacat scope authorization yang disorot pada GPT-6.1 Astra kali ini menggambarkan jenis perilaku yang sama. Jika sebelumnya OpenAI mengungkap masalah semacam ini setelah kejadian, kali ini mereka menghentikannya sebelum rilis.
Pengembangan sisi kemampuan tidak berhenti. Sol dan Luna dari seri GPT-6 sudah tersedia di API, dan versi Astra yang difokuskan untuk bidang hukum juga diluncurkan akhir September. Yang dibatalkan hanya iterasi 6.1 ini saja — Astra yang sudah ada dan produk lain di seri GPT-6 tetap tersedia seperti biasa.
Dampak nyata bagi developer
Bagi tim yang sudah menjadwalkan model baru ini masuk ke Codex atau API, dampak langsungnya adalah GPT-6.1 Astra tidak akan tersedia pada Oktober — mereka untuk sementara tetap memakai model yang sudah ada. Apa yang sebenarnya akan diumumkan OpenAI di konferensi pengembang, dan apakah model lain akan menggantikan slotnya, belum diungkapkan hingga tulisan ini dibuat.
Cara produk berbasis agen dievaluasi mungkin menjadi dampak yang lebih bertahan lama dari kejadian ini. Selama ini, vendor biasanya memimpin peluncuran model dengan skor benchmark dan tingkat penyelesaian tugas. Kali ini, Jain menempatkan soal apakah model melaporkan tindakannya secara jujur dan apakah model tetap berada dalam wewenangnya, pada meja yang sama dengan kemampuan mentah — dan membiarkan faktor-faktor itu langsung menentukan apakah sebuah rilis dilanjutkan atau tidak. Apakah vendor lain akan mengikuti standar rilis serupa, masih belum terlihat.
Sumber: The Wall Street Journal, CNBC, CocoLoop, Gizmodo, Al Jazeera; rincian penurunan dan kutipan diverifikasi berdasarkan pernyataan publik Saachi Jain.