OpenAI tidak merilis model baru untuk pengguna. Perusahaan menjelaskan GPT-Red, model red team internal yang tugasnya menyerang model OpenAI sendiri sebelum model produksi dipakai luas.
Risikonya berubah karena agent kini membaca laman web, alat, file, dan kode. Prompt injection tidak lagi berhenti di ruang chat; instruksi berbahaya bisa masuk lewat konten yang sedang diproses agent.
"Training strong automated safety red-teamers to improve robustness."
Red team masuk ke proses pelatihan
GPT-Red dilatih dengan self-play reinforcement learning. Model penyerang mencoba memicu kegagalan, sementara model bertahan harus menyelesaikan tugas asli tanpa mengikuti instruksi berbahaya di email, web, file lokal, atau keluaran tool.
OpenAI melaporkan GPT-Red berhasil menemukan serangan pada 84% skenario dalam arena prompt injection tidak langsung terhadap GPT-5.1. Red team manusia mencapai 13%. Sampel serangan itu dipakai untuk melatih GPT-5.6 Sol, yang menurut OpenAI menghasilkan enam kali lebih sedikit kegagalan pada benchmark prompt injection langsung tersulit dibanding model produksi terbaik empat bulan sebelumnya.
Kasus nyata menjadi sinyal
Dalam uji agent mesin penjual otomatis, GPT-Red mencoba serangan di simulasi lalu membuat agent produksi mengubah barang mahal menjadi 0,50 dolar AS, menambahkan barang baru bernilai lebih dari 100 dolar AS dengan harga 0,50 dolar AS, dan membatalkan pesanan pelanggan lain.
Kasus lain menargetkan Codex CLI agent berbasis GPT-5.4 mini pada 10 tugas kebocoran data yang ditahan dari pelatihan. OpenAI menyebut GPT-Red lebih efektif dan lebih hemat token daripada baseline GPT-5.5 yang hanya diberi prompt.
Angkanya kuat, verifikasi eksternal masih terbatas
OpenAI mengatakan serangan Fake Chain-of-Thought yang dulu sukses lebih dari 95% pada GPT-5.1 kini turun di bawah 10% pada GPT-5.6 Sol. Dalam kumpulan lingkungan robustness yang luas, tingkat kegagalan terhadap injeksi langsung GPT-Red hanya 0,05%.
Namun GPT-Red tetap model internal. Peneliti luar belum bisa mereproduksi distribusi tes, contoh kegagalan, atau biaya berupa penolakan berlebihan. Bagi pengembang, pelajarannya praktis: batasi izin, gunakan allowlist tool, minta konfirmasi untuk aksi sensitif, simpan audit log, dan minimalkan paparan data.
Sumber: catatan teknis OpenAI GPT-Red, Help Net Security, SiliconANGLE, CocoLoop; memeriksa angka 84%/13%, penurunan kegagalan enam kali, lebih dari 95% ke bawah 10%, tingkat gagal 0,05%, serta kasus Vendy dan Codex CLI.