米国防総省の文書を入手した報道によれば、調達側はOpenAIに対し、国防総省からの命令に対して「拒否率を最小化した」特別版モデルの提供を求めていたという。文書番号はP00003で、契約上限2億ドル・期間2年に対応し、2月6日に署名されたのが延長契約、2月27日に署名されたのがネットワーク展開版だとされる。
拒否率はモデル運用における定量指標であり、モデルが受け取った命令を安全ポリシーに反すると判断して実行を拒む割合を指す。この割合を最小化するということは、事実上、安全ポリシーという層をシステムから取り除くことに等しい。
食い違う三者の説明
OpenAIの広報担当ネイト・エバンス氏は、「最低拒否率」を求める契約条項に同意したことは一度もなく、正式に署名された契約にはそのような文言は存在しないと回答した。国防総省の広報担当ジェイコブ・ブリス氏は、その表現は国防総省とOpenAIの間で結ばれた現行のどの契約にも存在しないと述べている。
両者ともこの文書を草案と呼んでいる。報道によれば、国防総省の弁護士は以前これを正式版だと確認していたが、その後見解を撤回したという。どちらが最終テキストなのか、第三者による検証は現時点でできていない。
AI Now Instituteの首席科学者ハイディ・クラーフ氏は、この文言について次のような見解を示した。
"Minimal refusal rate" likely means the model used has few or no safety guardrails at all.
同じ調達ラインにあるもう一社
国防総省のこのAI調達ラインには、正反対の立場にいる企業がもう一社ある。Anthropicは軍事利用の範囲について全面的な譲歩を拒み、国防総省との交渉が決裂した後にサプライチェーン上のリスク企業に指定され、その技術は連邦機関での使用を禁止された。同社が提訴した結果、サンフランシスコの連邦地方裁判所はこの指定を違法と判断し、国防総省がこの件を見せしめにしようとしたことが理由だとした。
この二つの事例を並べると、調達側がこのライン上で持つ選好の方向は明確になる。命令に従うものが上位に、拒否するものが下位に置かれるということだ。その選好が実際に明文の条項として盛り込まれているかどうかが、現在の論争のすべてである。
まだ公開されていない部分
この2億ドル規模の契約の全文は公開されていない。どのような成果物が含まれるのか、モデルがどのような場面で運用されるのか、出力を誰が審査するのかは不明のままだ。OpenAIが国防総省向けに何らかのカスタム版を開発したかどうかについて、同社は正面から回答していない。国防総省もまた、「最低拒否率」という表現を最初に文書に書き込んだのが誰かを明らかにしていない。
こうした条項が事実だと確定すれば、その影響は一社にとどまらない。軍の調達要件はサプライヤーのリストを伝って下流にも波及しやすく、政府契約に書き込まれた受け入れ基準は、そのままサプライチェーン全体のデフォルトの技術目標になりかねない。現時点では、それは出所の定かでない一通の文書の中の一行にすぎない。
参考資料：The Intercept、AI Now Institute、CocoLoop、IT Home。契約上限2億ドルと期間2年、文書番号P00003、2件の署名文書の種類は報道が入手した文書の記述に基づいて伝え、三者の発言は各当事者の公開声明と照合した。