Awal tahun ini, Anthropic memublikasikan riset tentang Constitutional Classifiers, dengan ide inti yang sederhana: menggunakan data sintetis yang dihasilkan AI untuk melatih pengklasifikasi keamanan, guna mencegah model AI di-jailbreak.
Cara kerja
Arsitektur sistemnya berlapis ganda—pengklasifikasi input dan pengklasifikasi output bekerja secara bersamaan, memantau setiap interaksi dengan model secara real-time. Data pelatihan tidak diberi label secara manual; sebaliknya, LLM diberikan seperangkat "konstitusi" (aturan bahasa alami) yang memungkinkannya menghasilkan berbagai skenario serangan dan penilaian yang sesuai secara otomatis.
Kinerja nyata
Dalam lebih dari 3.000 jam pengujian red team, tidak ada seorang pun yang menemukan metode jailbreak universal.
Generasi pertama berhasil menekan tingkat keberhasilan jailbreak dari 86% menjadi 4,4%, memblokir 95% serangan. Dua pendekatan serangan utama yang ditemukan red team adalah:
- Serangan rekombinasi: memecah informasi berbahaya menjadi fragmen yang tampak tidak berbahaya lalu menyusunnya kembali
- Serangan obfuskasi: membuat model mengeluarkan konten sensitif dalam format yang disamarkan
Constitutional Classifiers++ yang ditingkatkan melangkah lebih jauh—arsitektur dua tahap yang pertama-tama menggunakan probe ringan untuk memeriksa status aktivasi internal Claude, dan hanya menggunakan pengklasifikasi berat ketika aktivitas mencurigakan terdeteksi. Dari 198.000 percobaan red team, hanya ditemukan 1 kerentanan berisiko tinggi, dan masih belum ada metode jailbreak universal.
Biayanya?
Di lingkungan produksi, tingkat penolakan palsu hanya meningkat 0,38 poin persentase, dengan peningkatan overhead inferensi sebesar 23,7%. Untuk sistem keamanan, biaya ini cukup masuk akal.
Anthropic juga merilis versi baru konstitusi Claude pada bulan Januari di bawah lisensi domain publik CC, dengan prioritas dari tertinggi ke terendah: keamanan dan pengawasan manusia → perilaku etis → pedoman Anthropic → kebermanfaatan. Menempatkan "kebermanfaatan" di posisi paling bawah adalah sebuah pernyataan tersendiri.
Sumber: CocoLoop, makalah resmi Anthropic Research