Anthropic CEO提AI监管清单:最强模型须先过政府

Dario Amodei 这次不绕弯子了。

6 月 11 日,Anthropic 的 CEO 发了篇长文,标题叫《Policy on the AI Exponential》(姑且译作「应对 AI 指数曲线的政策」)。配套甩出两份框架文件,外加 3.5 亿美元的资金承诺。

核心诉求一句话能说完:政府应该有权力,把没通过独立安全测试的最强 AI 模型,挡在门外、甚至拉下线。

他到底在怕什么

Amodei 的判断是——政治系统转得太慢,AI 跑得太快,两条曲线快要错不上车了。

他在文章里打了个比方,用《指环王》里的树人 Treebeard(那个开个会能开三天的慢性子)来形容现在的治理:等政府反应过来,事可能已经出了。

他给的时间窗口很短:一到两年内,AI 可能就会到他说的「Powerful AI」那一档——他的原话是「数据中心里住着一个国家的天才」(a country of geniuses in a data center)。

为什么现在喊?前阵子 Claude Mythos 预览版那次风波,让他认定光靠「透明度」已经不够了——把风险摊开给大家看,不等于风险就消失了。

监管框架:照着民航那套来

第一份文件,是给前沿模型立规矩。Amodei 的模板是 航空安全——飞机上天前要过一整套强制检查,AI 也该如此。

具体怎么管:

  • 谁被管:只盯最头部的。训练算力超过 10^25 FLOP,并且 AI 年收入超 5 亿美元、或每年 AI 研发砸超 10 亿美元的公司,才进这张网。
  • 查什么:强制第三方测试,四个方向——网络攻击能力、生物武器、失控风险,以及会反过来加速前三项的「自动化研发」。
  • 多久查一次:每六个月交一次审计报告。
  • 出事怎么办:安全事故必须在 15 天内上报。
  • 最狠的一条:模型没过测试,政府有权直接拦下、或者勒令下线。

这个 10^25 FLOP 加营收门槛的设计挺关键——它把绝大多数中小公司和开源开发者排除在外,真正套上缰绳的,其实就是 Anthropic、OpenAI、Google 这几家自己。

经济框架:失业了怎么兜底

第二份文件,管的是 AI 抢饭碗这件事。

思路是「按失业率分档触发」:情况不严重时,先上工资保险这类缓冲;真到大规模失业,再往全民基本收入(UBI)那个方向走。

整篇文章铺得很开,一共五个政策领域:监管与公共安全、宏观经济与税收、加速科学、公民自由、地缘政治。里面还藏着些具体主张,比如给 AI 设计的新药开 FDA 快速通道、立法禁止国内执法用全自动武器、拉一个民主国家联盟来协调芯片出口管制。

为什么有人说这像「冷战剧本」

The Decoder 给这篇文章的评价是——读起来像一份 AI 时代的冷战手册。

道理不难懂。Amodei 把 AI 框定成了一种会重塑全球权力格局的地缘武器:民主国家之间共享供应链,同时对「对手」卡脖子。这套「盟友抱团、对手封锁」的打法,本质上就是冷战那套遏制战略,换了个 AI 的壳。

绕不过去的一个尴尬

这篇檄文,发在 Claude Fable 5 上线之后没几天。

一边是「AI 危险到该让政府有权拉闸」,一边是把 Mythos 级的最强模型放出来卖。这种「我一边踩油门一边喊该装刹车」的姿态,已经有人开始挑刺了。

有评论直接问:这到底是真为了安全,还是一份「监管俘获」的蓝图——用一套只有头部玩家扛得住的合规成本,把后来者挡在门外?

毕竟那个 10^25 FLOP 加几亿美元营收的门槛,挡住的是别人,套牢的也正好是已经坐在牌桌上的这几家。规矩由你来定,门槛卡在你身后,这账怎么算都不亏。

Amodei 想推动的事大概率是真的。但这套提案能不能落地、会被谁拿去用、最后是收紧了竞争还是固化了格局——这个故事,还没讲完。

参考来源:Policy on the AI Exponential(Dario Amodei 个人网站);Dario Amodei's new essay reads like a Cold War playbook for the AI age(The Decoder);Anthropic's Dario Amodei wants governments to have the power to block 'dangerous' AI systems(SiliconANGLE);CocoLoop、AI Regulation Push: Amodei Demands Power Blocking Unsafe Models(Tech Times)