先说个数字。
Anthropic 自己合并进系统的代码，现在超过八成是 Claude 写的。两年前，这个比例还是个位数。
把这句话讲给任何一个写代码的人听，第一反应多半是”真香”——脏活累活 AI 干，人能少熬几个夜。但 Anthropic 6 月 4 号把这事摆出来时，口气是反的：它有点慌。
慌的不是”AI 抢饭碗”，是”AI 开始自己改自己”
Anthropic 联合创始人 Jack Clark 给了个比喻，我觉得挺到位：
“现在的 AI 行业，车上只有油门，没有刹车。我们想做的，就是先把这个刹车做出来。”
讲人话就是——这几年所有人都在比谁踩油门狠，没人管车怎么停。
他们真正怕的那个临界点，有个专门的词，叫”递归式自我改进”（recursive self-improvement）。意思是 AI 强到一定程度，能自己设计、自己训练出更强的下一代，中间几乎不用人插手。Clark 的原话是，到那天，”Claude 可以被 Claude 不停地改进下去”。
而 Anthropic 自家那八成代码，就是它眼里最直接的预警信号：连造模型的公司，工程师每个季度的出活量都已经翻了大概八倍，全靠 AI 顶着。这条曲线再往上爬一截，就够到那个临界点了。
Clark 对 BBC 说得更直白：现在 80% 的编码已经是 Claude 在做，再过两年可能就是 100%。但他补了一句——
“要不要让它走到那一步，是个选择题。”
所谓”刹车”，到底是个什么东西
这才是这次表态最虚的地方。
Anthropic 在博客里写：
“对这个世界来说，手里能留一个’放慢、或者临时暂停前沿 AI 研发’的选项，是件好事。”
听着挺有担当。可一追问怎么落地，就糊了。他们给的方案叫”全球协调机制”，还搬出冷战那套中程核导弹的军控协议来打比方——大国坐下来谈，划条线，谁都别越。
问题是，核弹那套能管住，是因为造核弹要挖矿、要离心机、要几万人的工程，根本藏不住。大模型呢？几张显卡、一份开源权重，就能在车库里接着练。这刹车踩给谁看？
数学家 Noah Giansiracusa 的评价就很不客气：
“我不觉得这是一次真心想踩刹车的呼吁。”
他还甩了一句：这事儿，”根本做不到”。
为什么偏偏挑这个时候喊
时间点很微妙。
就在这套”给 AI 装刹车”的说法放出来前几天，Anthropic 刚把上市申请悄悄递了上去，估值摸到 9650 亿美金，离万亿就差一脚。
一边递招股书冲上市，一边喊”我们造的东西太危险、求监管来管管”——这两件事挤在同一周，怎么品都有点拧巴。
往好里说，这是一家头部公司难得的清醒：知道自己手里攥着的东西有多重，愿意主动把风险说在前头。往坏里想，”我家产品强到需要全世界一起踩刹车”，本身就是一句顶级的招股广告——危险，恰恰是前沿 AI 最值钱的卖点。
刹车到底是真想装，还是只装个样子，6 个月后看它怎么做，比现在听它怎么说，靠谱得多。
参考来源：Anthropic warns AI may soon begin recursive self-improvement（Scientific American）；Anthropic calls for an AI 'brake pedal'（CNN Business）；Anthropic co-founder warns AI needs a 'brake pedal'（BBC / UPI）