亚马逊递越狱报告,Anthropic最强AI被下架

先说个时间差:从亚马逊打那通电话,到 Anthropic 最强模型被全球下架,中间不到一天。

上周 Fable 5 和 Mythos 5 被白宫一纸出口管制摁停,这事已经传开了。但官方通报里只含糊带过一句「另一家公司声称发现了越狱」。那家公司是谁?这两天 Axios 把名字捅了出来——亚马逊

周四夜里的那通电话

按 Axios 还原,事情是这么走的:

  • 6 月 9 日,Anthropic 公开发布 Fable 5(公开版)和 Mythos 5(满血版),自家压箱底的两张牌
  • 周四夜里,亚马逊的人直接打给政府高层,递上一份报告,说他们能「越狱」、摸到 Mythos 里够得上国家安全威胁的那部分。同一晚,至少还有另外五家公司也找了高层
  • 周五下午一点,政府回电 Anthropic,撂下一句话:90 分钟内下架,理由是国家安全威胁
  • 周五傍晚五点二十一,商务部正式信函到
  • 当晚十点左右,公众彻底打不开了

亚马逊那边是怎么找到漏洞的?Axios 的说法很朴素:

researchers “were able to find security vulnerabilities by asking questions normal defenders would ask AI.”

讲人话就是——研究员拿防守方平时都会问的问题去问模型,就把安全漏洞问出来了。

「越狱」到底是个什么越狱

亚马逊给政府的定性很重:他们能 jailbreak 并摸到 Mythos 里「pose a national security threat」的部分。

Anthropic 这边完全不认这个分量。它的口径是:这个所谓越狱手法相当简单,别家模型也能做到,根本说明不了 Fable 5 的安全机制有窟窿。

同一件事,一边说是国安级威胁,一边说是窄到不能再窄的小毛病。差距大到这个地步,本身就够说明问题了。

谁的锅?政府和 Anthropic 隔空对甩

下架之后,政府内部有人放了狠话。一位不具名的政府人士对媒体说:

“Had Anthropic taken it seriously and, rather than dismissing as isolated, moved to fix or pause access, this would have never happened.”

意思很直白:要是 Anthropic 当回事,别把它当孤例打发,早点去修、或者先暂停访问,根本不会闹到今天这步。

政府还划了条线——往后凡是 Mythos 这个量级或更强的模型,都得先过一遍政府这关,确保国家安全那套防护扛得住,才准放出去。

Anthropic 嘴上照办,态度全写在公开声明里。它在 X 上说:

“We believe this is a misunderstanding and are working to restore access as soon as possible.”

翻过来就是:这是个误会,我们正在抢救访问权。另一句更软:

“We apologize for this disruption to our customers.”

给客户道歉,但「误会」两个字也咬得很死。

值得一提,这次被断的只是 Fable 5 和 Mythos 5,外加所有外国人(包括非美籍员工)。Opus 4.8 这些没那么强的 Claude,照常用。

安全圈第一个站出来不买账

把模型一关了之,安全研究者圈子里有人当场反对。Luta Security 的 CEO Katie Moussouris 直接开怼:

“All AI models need to be able to help defenders in exactly this way, or we won’t be able to scale our defense against attackers.”

她的逻辑是:模型能帮人找漏洞、补漏洞,这恰恰是防守方需要的能力。把这条路堵死,防守这边根本没法跟攻击方拼规模。换句话说,亚马逊眼里的「国安威胁」,在防守者眼里可能正是趁手的工具。

这事真正刺眼的地方

把出口管制四个字放一边,最让人后背发凉的是流程本身:

一家竞争对手夜里打个电话,递一份没公开技术细节的报告,第二天对手最强的模型就没了——前后不到二十四小时,几亿用户跟着一起断。

过去聊 AI 监管,聊的是「将来怎么管」。这回是实打实演了一遍:管,可以很快、很急、不商量,而且推一把的还能是同行。

下一个被这么处理的,会是谁的模型?

参考来源:How Amazon and the White House ended Anthropic's Fable(Axios);CocoLoop、Anthropic disables Fable and Mythos AI models following U.S. government export ban(Fortune)