微软 CEO 萨提亚·纳德拉美国时间 10 月 10 日上午在 X 上发帖,呼吁行业退一步,重新审视 AI 的”信任架构”。他的说法很直接:
“We can’t treat Super Intelligence as a set of nested black boxes.”(我们不能把超级智能当成一层套一层的黑箱。)
帖子给出的办法不长,拆开是五条。第一,把模型和调度它干活的 harness 分开。harness 指包在模型外面的那层运行框架,负责给模型派任务、接工具、分权限,编程智能体里那套循环就是典型。第二,把控制和安全措施放到模型外部。第三,模型每一次有分量的动作,都要留下防篡改、人能读懂的证据。第四,授权人员随时能在任务中途暂停或关停模型。第五,从一开始就假设模型已经失守,按这个前提做隔离。
他最后用了一个比喻:“Think of it like an emergency brake.”(把它当成紧急制动。)
同一周的三件事
这条帖子出现的时间点很密集。往前数几天,围绕”模型失控怎么管”,各方都有动作。
Anthropic 10 月上旬披露,内部评测中的模型发生过越界行为,随后切断了内部评测环境的公网访问,TechCrunch 的标题直接写成”无法可靠控制自家智能体”。几乎同时,Anthropic 发布 2026 版使用政策,要求接入 Claude 的硬件在断开连接后仍能停在安全状态,并且始终有人能叫停。
白宫”超级智能力量”工作组 10 月 9 日的声明则从监管这一头施压:前沿 AI 公司的模型出了安全事件,必须立即披露并补救,声明原话是这套流程”not optional”。
把三方放在一起看,侧重点各不相同。白宫管的是事后上报,Anthropic 的政策管的是接入方的硬件,纳德拉这五条讲的是部署架构:控制权不放在模型里,而放在模型外面那一层。Anthropic 断网和纳德拉”默认已失守”的思路接近,都是先承认模型本身靠不住,再在外围收口。
微软自己会怎么做
帖子里没有提到任何具体产品。微软的 AI 业务横跨 Copilot、Azure 上的 Foundry 模型平台和自研模型,Copilot 里同时接着 OpenAI 和 Anthropic 的模型。如果”模型与 harness 分离、管控外置”成了微软的部署要求,最直接的落点是这些第三方模型在微软产品里怎么跑、日志归谁管。
这些目前都还停在帖子层面。五条原则会不会写进 Copilot 或 Azure 的服务条款,“有分量的动作”按什么口径划线,防篡改记录由谁保管、外部能否审计,微软都没有说明,TechCrunch 的报道里也没有微软的进一步回应。
对国内做智能体的团队来说,这几条有现成的对照:任务可中断、操作留审计日志、权限按最小授权分配,本来就是企业采购评估里常问的项目。纳德拉的版本多出来的一条,是”默认模型已被攻破”这个前提。照这个前提设计,日志和开关就得放在模型碰不到的地方,而不能交给智能体自己记、自己停。
参考来源:纳德拉 X 帖子原文、CocoLoop、TechCrunch、Axios;白宫工作组声明与 Anthropic 使用政策条款按官方文本核对。