五角大廈文件索取最低拒絕率AI

一份被媒體取得的美國國防部文件指出,採購方要求OpenAI提供一個特殊版本的模型,針對五角大廈下達的指令具有「最低拒絕率」。文件編號P00003,對應合約金額上限2億美元、期限兩年,其中2月6日簽署的是延展協議,2月27日簽署的是網路部署版本。

拒絕率在模型部署上是一項可量化的指標:模型收到一則指令後,判定它違反安全政策而不予執行的比例。把這個比例壓到最低,等於把安全政策這一層從系統裡拿掉。

三方說法互相對不上

OpenAI發言人Nate Evans回應表示,公司從未同意任何要求「最低拒絕率」的合約條款,正式簽署的合約裡沒有這段內容。五角大廈發言人Jacob Bliss則表示,這個說法並未出現在國防部與OpenAI簽訂的任何現行合約中。

雙方都把這份文件稱為草案。據報導,五角大廈的律師先前曾確認這是正式版本,之後又改口。哪一版才是最終文本,目前沒有第三方能夠核實。

AI Now Institute首席科學家Heidy Khlaaf對這個說法給出的判斷是:

"Minimal refusal rate" likely means the model used has few or no safety guardrails at all.

同一條採購線上的另一家公司

在國防部這條AI採購線上,另一家公司的處境正好相反。Anthropic在軍事使用範圍上不願完全鬆口,與五角大廈的談判破裂後被列為供應鏈風險,其技術遭聯邦機構禁用;這家公司提告後,舊金山聯邦地區法院判定這項認定違法,理由是國防部意在拿它公開立下一個例子。

把這兩件事放在一起看,採購方在這條線上的偏好方向很清楚:聽從指令的排在前面,會拒絕的排在後面。至於這種偏好有沒有真的寫進白紙黑字的條款,正是目前爭議的全部所在。

還沒有公開的部分

那份2億美元合約的完整文本並未公開。當中包含哪些交付項目、模型部署在哪些場景、輸出由誰審核,目前都不清楚。OpenAI有沒有為國防部做過任何形式的客製版本,公司並未正面回應;國防部也沒有說明「最低拒絕率」這個說法最初是誰寫進文件的。

這類條款一旦成立,影響不會只停在一家公司身上。軍方採購的技術要求會沿著供應商名單往下傳,一項被寫進政府合約的驗收指標,很容易變成整條供應鏈預設的工程目標。目前它還只是一份來源存疑的文件裡的一行字。

參考來源:The Intercept、AI Now Institute、CocoLoop、IT之家;合約上限2億美元與兩年期限、文件編號P00003、兩份簽署文件的類型,均按媒體取得的文件內容轉述,三方回應引語則對照各方公開聲明核實。