因为'太安全'被军方嫌弃:Claude 守着不监控、不自动开火两条红线,被五角大楼换掉了

大模型圈这两年最反常的一幕:一家公司因为产品”太安全”,把生意做丢了。

主角是 Anthropic。买家是五角大楼。

它本来是军方的”自己人”

往前倒几个月,Claude 还是美国国防部机密网络里的头号 AI。它被塞进了一套叫 Maven Smart System 的系统——说白了,就是军方处理机密情报、盯战场态势的那个”中枢大脑”,Claude 在里面干的是核心活。

这位置有多稳?正常情况下,想换都换不动。

可现在,国防部正满世界试别人家的模型:OpenAI 的、谷歌的,还有马斯克 xAI 的 Grok,全进了候选名单。25 个被点名的”重度用户”,正拿这些模型一个个跑测试。

测试是今年 3 月初开跑的。而就在那前三天,国防部长 Pete Hegseth 给 Anthropic 扣了顶帽子:供应链风险。

病根:两条它死活不肯松的红线

Anthropic 从成立那天起,就给自己划了两条线,到现在没动过:

  • 不帮着大规模监控美国人
  • 不做”自己锁定、自己开火、不用人点头”的全自动武器

军方想要的,恰恰是这两样能松动的模型。

谈崩了。Anthropic 不肯把卡着这两条线的限制拆掉,国防部转头就开始物色替补。所谓”太安全”,翻过来就是这意思——在军方眼里,这些为”负责任”设的限制不是优点,是干活路上的绊脚石。OpenAI 和谷歌的模型在这些事上更松手,于是更对胃口。

这就很讽刺了。

巧的是,同一周还有另一条新闻:Anthropic 一边在防御型网络安全上被捧成标杆——Claude 揪软件漏洞的本事,圈里公认是头一档——一边却因为不肯帮着搞监控和自动开火,被军方往外推。

会防守,但不肯帮你进攻。这大概是 Anthropic 给自己挑的那条路,也是它现在要付的账。

这单生意,没那么好换

Anthropic 当然不认。它已经把”供应链风险”这个定性告上了法庭,理由很实在:这顶帽子真要坐实,一年得让它少赚好几十亿美金。

而且替换没那么快。Claude 在 Maven 里嵌得太深,真要整套换掉,按业内的说法得按”几个月”来算,不是关一个开关那么简单。

所以短期内,大概率还是 Claude 在岗,候选们在旁边陪跑。但风向已经摆明了:

当一家 AI 公司把”有所不为”刻进了产品里,它迟早要在某张桌子上,为这份克制掏真金白银。这回轮到的,是军火这张桌子。

参考来源:Pentagon Tests OpenAI, Google AI Models as It Seeks Anthropic Alternatives(Bloomberg);The Pentagon Is Racing to Replace Anthropic's Claude — Because It Was 'Too Safe' for War(TechTimes);Why replacing Anthropic with OpenAI at the Pentagon could take months(Scientific American)