Sebuah dokumen Departemen Pertahanan AS yang diperoleh media menyebutkan bahwa pembeli meminta OpenAI menyediakan versi khusus model dengan 'tingkat penolakan minimal' terhadap perintah yang dikeluarkan Pentagon. Dokumen bernomor P00003 ini terkait dengan kontrak berbatas 200 juta dolar AS selama dua tahun; perjanjian perpanjangan ditandatangani pada 6 Februari, sedangkan versi penerapan jaringan ditandatangani pada 27 Februari.
Tingkat penolakan adalah indikator yang dapat diukur dalam penerapan model: proporsi perintah yang dinilai model melanggar kebijakan keamanan sehingga tidak dijalankan. Menekan proporsi ini ke titik minimal sama artinya dengan mencopot lapisan kebijakan keamanan dari sistem.
Tiga Keterangan yang Saling Bertentangan
Juru bicara OpenAI, Nate Evans, menanggapi bahwa perusahaan tidak pernah menyetujui klausul kontrak apa pun yang mensyaratkan 'tingkat penolakan minimal', dan kontrak yang resmi ditandatangani tidak memuat isi tersebut. Juru bicara Pentagon, Jacob Bliss, menyatakan bahwa pernyataan itu tidak muncul dalam kontrak mana pun yang berlaku saat ini antara Departemen Pertahanan dan OpenAI.
Kedua belah pihak sama-sama menyebut dokumen ini sebagai draf. Menurut laporan, pengacara Pentagon sebelumnya sempat memastikan ini adalah versi final, lalu menarik kembali pernyataan tersebut. Sampai sekarang, tidak ada pihak ketiga yang bisa memverifikasi versi mana yang menjadi teks final.
Kepala ilmuwan AI Now Institute, Heidy Khlaaf, memberikan penilaian berikut soal pernyataan ini:
"Minimal refusal rate" likely means the model used has few or no safety guardrails at all.
Perusahaan Lain di Jalur Pengadaan yang Sama
Di jalur pengadaan AI Pentagon yang sama, ada perusahaan lain yang posisinya justru berlawanan. Anthropic tidak mau melonggarkan sepenuhnya batasan penggunaan militernya; setelah negosiasi dengan Pentagon buntu, perusahaan ini ditetapkan sebagai risiko rantai pasok dan teknologinya dilarang digunakan di lembaga federal. Setelah perusahaan ini menggugat, pengadilan distrik federal di San Francisco memutuskan penetapan tersebut melanggar hukum, dengan alasan Departemen Pertahanan bermaksud menjadikannya contoh publik.
Jika kedua kasus ini disandingkan, arah preferensi pembeli di jalur ini menjadi jelas: yang patuh pada perintah ditempatkan di depan, yang menolak ditempatkan di belakang. Apakah preferensi ini benar-benar tertulis dalam klausul resmi, itulah inti dari perselisihan yang berlangsung saat ini.
Bagian yang Belum Dipublikasikan
Teks lengkap kontrak senilai 200 juta dolar AS itu belum dipublikasikan. Belum jelas apa saja hasil kerja yang tercakup, di skenario apa model ini diterapkan, dan siapa yang meninjau keluarannya. OpenAI tidak menjawab secara langsung apakah pernah membuat versi khusus dalam bentuk apa pun untuk Departemen Pertahanan; Pentagon juga tidak menjelaskan siapa yang pertama kali menuliskan pernyataan 'tingkat penolakan minimal' ke dalam dokumen tersebut.
Jika klausul semacam ini terbukti benar, dampaknya tidak akan berhenti pada satu perusahaan saja. Persyaratan teknis dari pengadaan militer cenderung merambat ke bawah rantai pemasok, dan indikator penerimaan yang tertulis dalam kontrak pemerintah bisa dengan mudah menjadi target rekayasa default di sepanjang rantai tersebut. Untuk saat ini, itu baru satu baris dalam dokumen yang asal-usulnya masih diragukan.
Sumber: The Intercept, AI Now Institute, CocoLoop, IT Home; batas kontrak 200 juta dolar AS dan jangka dua tahun, nomor dokumen P00003, serta jenis dua dokumen yang ditandatangani disampaikan sesuai deskripsi dokumen yang diperoleh media, sementara kutipan tanggapan ketiga pihak diperiksa berdasarkan pernyataan publik masing-masing.