一家刚融到 650 亿美元、估值往一万亿冲的公司，突然说：大家是不是该考虑踩个刹车了。
这话是 Anthropic 6 月 4 日说的。
它旗下的 Anthropic Institute 发了篇文章，标题叫《当 AI 开始造自己》（When AI builds itself），两位作者是 Marina Favaro 和联合创始人 Jack Clark。核心就一句：AI 正在逼近一个叫「递归自我改进」的拐点——模型能自己写代码把自己改得更强，不用人插手。
它拿自己当证据
最有说服力的部分，是 Anthropic 把自家的账本翻出来了。
- 到 2026 年 5 月，合并进 Anthropic 代码库的代码，八成以上是 Claude 写的
- 工程师现在每天合并的代码量，是 2024 年的大约 8 倍
- 光是今年 4 月，Claude 就提交了 800 多个修复，把某些 API 报错率压到原来的千分之一
说白了，造 AI 的速度，已经被 AI 自己顶上去了。Jack Clark 跟 BBC 说，做到 100% 由 AI 自己写代码，两年内有可能。
它想要的不是停，是「能停的选项」
Anthropic 没说现在就停。Favaro 和 Clark 的原话是：
“We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development to enable societal structures and alignment research to keep up with the advance of the technology.”
讲人话就是——最好让世界手里攥着「放慢或暂停」这个选项，好让社会结构和对齐研究能跟上技术的脚步。
Clark 给 BBC 打的比方更直白：
“You want the option to be able to take your foot off the gas and put your foot on the brake.”
你得有把脚从油门挪到刹车上的余地。注意，是「选项」，不是「现在就刹」。
一个人踩刹车没用，得全场一起
这套方案最难的地方，Anthropic 自己也清楚：你一家停下来，对手照样狂奔，等于把市场让出去。
所以它给的不是单方面停手，而是一套能互相查账的集体刹车——几家不同国家的前沿实验室一起承诺，而且得能核验：审计、来源追踪、算力用量都摊开看。只有当对手用实打实的合规证明它真停了，这个暂停才生效。
这套逻辑，和冷战时期那批核武器条约几乎一个味。
怎么看这件事
最微妙的地方在这：喊踩刹车的，是赛道上跑得最快的那几个之一。前脚刚拿 650 亿美元、估值往万亿冲，后脚说技术太快了得慢下来。
你可以说这是真心的安全焦虑，也可以说这是给监管递话、给自己留后手。两种读法都成立。
但有一点是新的——这回摆出来的不是空泛的「AI 很危险」，而是一家公司用自己的代码产出数据，白纸黑字地说：AI 造 AI 这件事，真的开始了。
两年是不是真能到 100%，没人打包票。可这把「刹车」该装哪、谁来踩，从今天起绕不过去了。
参考来源：Anthropic calls for global pause in AI development before humans lose control（SiliconANGLE）；Anthropic Calls for Global Pause in AI Development（Let's Data Science / BBC）