DeepMind 掌门人 Demis Hassabis 把一份前沿 AI 监管方案摆上桌时,矛头没有只指向竞争对手。
他要美国先建一个新机构,专门筛查最强模型,必要时还能协调实验室放慢开发。这个提议来自一家最有能力训练前沿模型的公司,也发生在 OpenAI、Anthropic 刚被华盛顿临时审查搅动之后。
模型公司开始要求规则先到场。 这比普通政策倡议更反常:被监管者主动把监管框架写出来,并希望它在年内跑起来。
一个像 FINRA 的 AI 闸口
Hassabis 没有把 AI 交给传统部门慢慢立法。他选择仿照美国金融业监管局 FINRA,设计一个由政府监督、行业出钱、专家主导的标准机构。
这套机制要筛的是“Frontier-class”模型。判断标准不固定,由标准机构按能力更新。入围的实验室会被鼓励提前提交模型,先从自愿审查开始,之后再变成美国市场准入门槛。
几个数字把方案的边界画得很清楚:
- 前沿实验室最初可在发布前最多 30 天 提交模型;
- 测试要覆盖网络安全、生物风险、欺骗行为等高风险能力;
- 评测项目初期可按季度更新,淘汰已经被刷穿的基准;
- 董事会要有独立技术专家、开源代表、政府和产业席位。
人话翻译一下:这套机制不等于给模型做一次合规盖章。它更像给前沿模型加一个持续变化的闸口,谁跨过能力线,谁就进入更严的测试池。
18 个月的风险窗口
Axios 对 Hassabis 的采访把这份长文里较克制的表达推得更直白。他说,今天的 AI 网络安全风险只是 “warning shots”,未来 18 个月,生物、核相关风险可能随着更强能力进入开放模型和闭源模型体系。
这个判断无法用单一指标验证,但它解释了他为什么把节奏压得很急。Axios 写到,Hassabis 希望新机构能在 “before year-end” 运转起来。
“What we collectively do now…”
他的中文意思是:眼下共同作出的选择,会决定文明下一阶段的走向。
这句话放在一篇个人宣言里容易显得宏大,放在过去一个月的行业脉络里,则更像一次补救。
Anthropic 6 月发布 Fable 5 和 Mythos 5 后,曾因美国政府的出口管制临时限制访问。公司后来披露,相关事件牵出一个行业缺口:怎样判定 AI jailbreak 的严重程度、何时通知政府、何时修补、何时阻断,目前没有统一语言。
OpenAI 的 GPT-5.6 也经历了更谨慎的公开节奏。华盛顿此前已经插手前沿模型,但这次暴露出的问题更具体:临时命令能拦住模型,却给不出稳定流程。
开源也会被纳入视线
Hassabis 方案最敏感的一点,是它不按公司国别、模型开闭源来划线。只要模型达到了前沿能力阈值,就应进入同一套审查框架。
这会直接碰到开源社区的神经。
如果标准机构只盯闭源大厂,强开源模型可能成为风险外溢口;如果连开源模型也纳入,又会引发研究自由、创业成本和国际执行难题。Hassabis 给出的折中是:非前沿模型、学术项目和普通创业项目豁免,只有跨过能力线的模型进入流程。
这套设计的现实难点也在这里。评测标准一旦公开,实验室会有动力围着标准优化;标准若完全保密,又会被质疑黑箱。Hassabis 提到需要独立保留测试集和第三方审计生态,说明他知道单靠大厂自证很难服众。
中国读者该看哪一层
这件事对中文 AI 圈的影响,不在于美国会不会照单全收。更直接的信号是:前沿模型的竞争正在从“谁先发”进入“谁能证明自己可被测试”。
国产模型出海、API 进入海外企业、开源权重被全球开发者调用时,未来面对的可能不止价格、性能和延迟比较,还会有安全测试、模型卡、人员审查、漏洞响应这些门槛。
对国内实验室来说,最可验证的下一步有三项:美国是否在年内推出类似标准机构;Google DeepMind、Anthropic、OpenAI 是否拿出共同测试口径;开源模型是否被纳入但保留豁免边界。
如果这些节点落地,前沿 AI 的发布会多出一个新环节:模型不只要跑分,还要先证明自己能被外部看懂、测到、追责。
参考来源:Axios、Hassabis 个人长文、CocoLoop、Anthropic、白宫行政令;核验前沿模型审查窗口、FINRA 类标准机构、网络与生物风险测试口径。