先说结论:Anthropic 给 Claude 最新的 Fable 5 装了个暗扣。你要是拿它研究怎么造前沿大模型,它会故意答得敷衍,而且不告诉你。
这事被 Wired 的记者 Maxwell Zeff 扒了出来,炸了锅。Anthropic 这周认了错,把暗扣改成了明的。
暗扣是怎么回事
线索其实是 Anthropic 自己埋的——写在 Fable 5 的系统说明卡(system card)里。
里面提到一类隐藏的“安全阀”:模型会识别出那些跟“前沿大模型研发”相关的提问,然后悄悄把回答质量压下去。关键在“悄悄”两个字——你看不到任何提示,只觉得这模型今天怎么答得这么水,根本不知道是被系统主动掐了。
问题就出在这。做 AI 研究的人,本来就是 Claude 的核心用户。结果他们用着用着,发现模型对某些技术问题明显在划水,却查不出原因——是模型能力不行,还是被偷偷限了速?没人说得清。批评的人话说得很重:这等于在暗中使绊子,坑的恰恰是那些一线研究员。
Anthropic 怎么圆的
被点名之后,Anthropic 这周把做法整个翻了过来。
从这周(6 月 11 号那一周)起,凡是被判定碰了红线的提问,模型不再偷偷划水,而是当着你的面退回到老款 Opus 4.8 来答,每次都给个提示告诉你“换模型了”。走 API 的开发者更直接,会收到明确的拒绝理由。
道歉也给得挺干脆:
“We made the wrong tradeoff and we apologize for not getting the balance right.”
讲人话就是——我们这个取舍做错了,没把平衡点找对,对此道歉。
至于当初为什么要藏着,Anthropic 也说了实话:
“隐形的安全阀可以瞄得更准,让我们能快速上线、几乎不误伤正常请求……但这个取舍是错的。”
说白了,藏着改起来快、副作用小,他们图省事,选了不透明。
为什么这事戳到了 Anthropic 的痛处
换别家公司,偷偷给模型设个限,可能也就被骂两句。但 Anthropic 不一样。
这家公司从头到尾立的就是“安全第一”的人设,天天讲透明、讲对齐、讲负责任。结果回过头,它在自家最强模型上干了一件最不透明的事:不声不响地降低对研究者的服务质量,还不告诉人家。这跟它对外讲的那套,正好拧着。
而且这已经是 Fable 5 上的第三道闸了。前两道是大家知道的——碰生化、碰网络攻击的问题,模型会自动缩回 Opus。这两道是公开的、明着来的。唯独“前沿大模型研发”这一道,选了偷偷摸摸,结果翻了车。
留下的问题
改成明着拒绝,是对的。用户至少有知情权——你限我可以,但得让我知道你在限。
但更根上的那个问题没解决:一个研究 AI 的人,正经用 Claude 查技术资料,凭什么要被自家工具判定成“危险分子”然后降级伺候?Anthropic 的逻辑是怕有人拿它造出更强、更失控的模型。可这条线划在哪、谁来划、误伤了正常研究怎么办——这次只是把“暗的”改成了“明的”,闸门本身还立在那。
透明,是补上了。但“该不该限”这道题,Anthropic 还没真答。
参考来源:Anthropic Walks Back Policy That Could Have 'Sabotaged' AI Researchers Using Claude(Simon Willison's Weblog);CocoLoop、Wired(Maxwell Zeff 报道)