五角大楼文件索要最低拒绝率的AI

一份被媒体拿到的美国国防部文件里写着,采购方要求 OpenAI 提供一个特殊版本的模型,针对五角大楼下达的指令具有”最低拒绝率”。文件编号 P00003,对应合同金额上限 2 亿美元、期限两年,其中 2 月 6 日签的是扩展协议,2 月 27 日签的是网络部署版本。

拒绝率在模型部署里是个可量化的指标:模型收到一条指令,判定它越过安全策略而不予执行的比例。把这个比例压到最低,等于把安全策略这一层从系统里摘掉。

三方说法互相对不上

OpenAI 发言人 Nate Evans 的回应是,公司从未同意任何要求”最低拒绝率”的合同条款,正式签署的合同里没有这段内容。五角大楼发言人 Jacob Bliss 的说法是,这一表述不存在于国防部与 OpenAI 签订的任何现行合同中。

双方都把这份文件称作草案。按报道的说法,五角大楼的律师此前确认过它是正式版本,之后又改了口。哪一版是最终文本,目前没有第三方能核实。

AI Now Institute 首席科学家 Heidy Khlaaf 对这个提法给出的判断是:

“‘Minimal refusal rate’ likely means the model used has few or no safety guardrails at all.” “最低拒绝率”很可能意味着,所用的模型几乎没有安全护栏,或者根本没有。

同一条采购线上的另一家公司

国防部这条 AI 采购线上,另一家公司的位置正好相反。Anthropic 在军事使用范围上不肯完全松口,与五角大楼的谈判破裂之后被列为供应链风险,其技术在联邦机构被禁用;这家公司起诉之后,旧金山联邦地区法院判定这一认定违法,理由是国防部意在拿它公开立个例子。

两件事摆在一起,采购方在这条线上的偏好方向是清楚的:按指令执行的排在前面,会拒绝的排在后面。至于这种偏好有没有落进白纸黑字的条款,正是眼下争议的全部内容。

还没有公开的部分

那份 2 亿美元合同的完整文本没有公开。包含哪些交付物,模型部署在哪类场景,输出由谁审核,都不清楚。OpenAI 有没有为国防部做过任何形式的定制版本,公司没有正面回答;国防部也没有说明”最低拒绝率”这个表述最初是谁写进文件的。

这类条款一旦成立,影响不止于一家公司。军方采购的技术要求会沿着供应商名单往下传,一个被写进政府合同的验收指标,很容易变成整条链路上默认的工程目标。目前它还只是一份归属存疑的文件里的一行字。

参考来源:The Intercept、AI Now Institute、CocoLoop、IT之家;合同上限 2 亿美元与两年期限、文件编号 P00003、两份签署文件的类型按媒体获取的文件表述转述,三方回应引语按各方公开声明核对。