美国当地时间 9 月 29 日,特朗普在白宫东厅与谷歌、Anthropic、Meta、OpenAI、xAI 和英伟达的负责人签署了一份人工智能协议,随后把文件发到了 Truth Social 上。文件全名是《白宫超级智能协议:前沿超级智能责任联合承诺》,正文只有一页。
当天到场的有马斯克、扎克伯格、Dario Amodei、黄仁勋、Greg Brockman 和 Sundar Pichai,微软的纳德拉和 AMD 的苏姿丰也在场。Pichai 事后在社交平台上确认,谷歌签署了这份协议。
一页纸里写了什么
协议要求签署方建立四层控制。第一层是内部监测,在模型训练和部署期间,持续跟踪网络攻击、生物和化学威胁、未经授权访问系统这几类能力;第二层是专门的内部团队,负责核验这些控制是否按预期运转,并处理发现的问题;第三层是独立的外部审计或评估机构;第四层是董事会下设的独立委员会,监督前面三层。
文件定性为”联合承诺”和”原则声明”。对约束力,特朗普的说法是:
“I think it’s morally binding.”(我认为它在道德上有约束力。)
他还把这份文件形容为”几乎像一部宪法”。众议院议长约翰逊的表述更直接,称协议对企业是自愿性质,行业将”自我监管”。文件末尾留了一句,日后”可能有必要”把这些步骤写进法律或法规。
同一天,特朗普签署行政命令,要求联邦政府在正式文件里用”超级智能”(Super Intelligence)替代”人工智能”一词,相关定义给了 60 天去拟定。
批评集中在”没写”的部分
英国科技媒体 The Register 逐条对照后指出,文件没有定义什么叫”稳健”的控制,没有规定审计频率,也没有评估时间表。民主党参议员马克·华纳要求国会立法,把强制测试、评估和事故报告写成硬性规定,批评总统只是”改了个名字,再让企业自己管自己”。
白宫方面尚未说明,外部审计结果是否需要提交给政府或对公众公开。
从 2023 年到今天的几次尝试
把这份协议放回时间线上看,美国对前沿模型的管理一直停在”自愿”这条线附近。
2023 年 7 月,拜登政府请来亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 七家公司,签下一组自愿承诺,内容包括发布前做安全测试、给 AI 生成内容加水印。当时同样没有罚则。
今年 5 月,特朗普原定签署一道要求大模型上市前过审的行政令,OpenAI、Anthropic、谷歌都派了人到场,最后一刻被他本人叫停,理由是”不喜欢其中某些方面”。6 月 2 日签出的版本改成企业可以在发布前 30 天把模型交给联邦政府测试,同样是自愿。
这次的变化在于,要求从”给政府看”转向”企业内部建机制、再请第三方来查”,并且把董事会拉了进来。签字的六家覆盖了美国主要的闭源模型厂商和最大的芯片供应商;微软和 AMD 到了场,目前的公开报道没有把它们列进签署名单。这四层机制在各家落地后是什么样子,要等第一批外部审计结果出来才能判断,协议没有给出这个时间点。
参考来源:CBS News、CocoLoop、The Register、Washington Examiner 协议全文、联合早报、Sundar Pichai 社交平台声明;签署方名单与四层控制条款以协议文本为准。