桑德斯要立法禁超级智能,英国同期跟进

美国参议员伯尼·桑德斯宣布将提出《禁止人工超级智能法案》,英国工党议员 Alex Sobel 同期在下议院提出一份目标相近的法案。Time 9 月 8 日把这两件事放在了同一篇报道里。

桑德斯这份的条款是两条:禁止开发比人类更聪明的 AI 系统;在新的安全规则立起来之前,暂停其他先进 AI 研究。法案还要求美国政府推动一项全球条约,把超级智能的开发在全世界范围内禁掉。提出时间写的是”未来几周”。

英国那份的门槛画在别处

Sobel 没有去定义”比人类更聪明”,而把超级智能定义为可能剥夺国家权力的系统,然后授权政府监控和限制那些可能成为”前体”的系统。他说这是 G7 议会里第一份寻求禁止超级智能的法案。

两份法案的共同点是都要求本国政府牵头去谈全球条约。差别在抓手:美国那份直接禁能力,英国那份禁的是通往那个能力的路径,并把判断权留给行政部门。

十分钟规则

Sobel 走的是”十分钟规则法案”通道。这是下议院的一种提案方式:议员有十分钟说明动议,然后走一读。绝大多数十分钟规则法案止步于此,很少能拿到后续辩论时间,报道里对它的定性是极少能越过一读。

桑德斯那边处境类似。他是无党派参议员,法案要在参议院走完程序需要两党支持,而暂停先进 AI 研究这一条与两党当前的产业政策方向都不合。Time 的判断是两份都不太可能成为法律。

那为什么还要提

报道里给的理由是划定话语位置。加州大学伯克利分校的 Stuart Russell 在文中说,AI 有相当的概率造成”切尔诺贝利级的灾难”,例如协同破坏金融、通信或电网系统,或者人类不可逆地失去控制。前 OpenAI 员工 Daniel Kokotajlo 的话更短:旧金山这边的情况确实很疯。

放到这一年的立法堆里,位置就清楚了。今年美国各州提出的 AI 相关法案超过 1500 条,走的全是具体场景:未成年人陪聊、深度伪造、算法定价、招聘筛选。联邦层面那份 269 页的法案想做的是把各州立法权冻结三年,方向正好相反。欧盟 AI 法案已经在实施,高风险条款还延期了 16 个月。

这三类立法处理的是已经在运行的系统,有明确的规制对象,也有可以逐条讨价还价的空间——罚多少、什么算高风险、给多长过渡期,都能谈。桑德斯和 Sobel 这两份处理的是还不存在的系统,要求在它出现之前先把门关上。前者能被产业界拆成条款去改,后者只能被整体接受或整体否掉。立法难度的差别不在措辞,在有没有具体的规制对象

英国那份还多一层实务问题。“前体”系统由谁来认定、按什么口径认定,公开描述里没有写。真要执行,等于要求政府对尚未训练完成的模型做能力预判,而现有的评测体系连已发布模型的能力边界都还在争论。

至于”比人类更聪明”这个门槛怎么量,两份法案的公开描述里同样没有交代。法案文本目前都还没有公开,能核对的只有报道转述。

参考来源:Time 报道全文、CocoLoop、英国下议院十分钟规则法案程序说明;法案条款、引语与通过前景判断以 Time 原文为准,两份法案文本尚未公开。