OpenAI提五条原则,防AI推高权力集中

一家前沿实验室的官方博客,头一篇文章不谈模型能力、不谈跑分、不谈评测,谈的是国家还需不需要人民。8 月 20 日,OpenAI 上线新栏目 AI Futures,由公司内部的 Strategic Futures 团队运营,首篇署名 Dean Ball。文末挂着一行小字:内容代表作者本人观点,不代表 OpenAI 官方立场。

文章开篇抛出的问题是:自由社会该怎么重新设计,才能让个人权利和人的能动性,在 AI 重塑经济、政府与社会之后仍然活着。

国家为什么需要人民

Ball 的推理从拆一条链子开始。现代国家依赖公民,依赖的其实是三样具体东西:税收来自人的劳动,军队和警察由人组成,行政系统靠人来运转。这三样如果都能交给自主系统接手,链子就松了:经济产出主要不来自人类劳动,税基跟着挪走;自主武器和自动化执法压低对士兵、警察的需求;官僚流程交给模型跑。

“What happens if political power no longer requires broad human cooperation?” 政治权力如果不再需要广泛的人类配合,会发生什么?

同一套逻辑在劳动力市场上有个镜像版本。企业对雇员的依赖下降,员工的议价能力跟着下降。文章把它推到一个更硬的问题上:人在经济上变得没那么必要之后,怎么保住经济和政治上的影响力。

这条链子的每一环都有现实对应物。 自动化征税、自主武器系统、模型驱动的行政审批,眼下都有真实项目在推。Ball 的处理方式是把它们串成一条因果链,而链子的终点是一个此前很少被摆上台面的问题。

五条原则

针对这套担忧,文章给出五条原则:

  • 个人对 AI 如何影响自己的生活保有自主权
  • 个人为技术滥用承担责任
  • 集体行动要用得克制,范围要窄
  • 扶持小玩家,把竞争做多
  • 人类对社会走向负最终责任

配套还有一个概念叫 bounded legibility,可以译成”有界可见性”:高风险的 AI 行为应该能追溯到具体负责的人,同时保住普通人的隐私和匿名空间。落地上这是道难题——追溯需要留痕,隐私需要少留痕,两头对着拉。文章给的方向是分级,只对高风险那一档留痕,其余照常。

制衡的思路直接搬自美国建国哲学:设多个互相竞争的权力中心,让任何单一角色都拿不到全局控制权。放进 AI 语境,这句话指向的是模型、算力和数据不该收敛到一两家手里。

一家最大玩家开出的处方

写这篇东西的人,几个月前还在白宫的政策圈子里。Ball 今年 7 月 6 日加入 OpenAI 主管 Strategic Futures,此前在特朗普政府担任 AI 政策顾问,参与过美国那份 AI 行动计划的起草;7 月 19 日,Axios 报道过一名五角大楼高官公开点名攻击他。这份履历决定了文章的读法:一份同时写给新雇主和老同行的备忘录,不太像学院里的思想实验。

第五条之外,第四条读起来最微妙。“扶持小玩家、增加竞争”这句话由行业里估值最高的公司之一提出来,本身就构成张力:OpenAI 眼下正是”权力集中”这道题里的一个变量。把处方写在自家博客上,等于承认这题也把自己算了进去。文末那行免责声明,也可以理解成给这层张力留的余地。

把安全从模型挪到结构

过去两年,AI 安全的公开讨论主要围着模型转:会不会越狱、会不会撒谎、被要求关机时会不会耍手段。这篇文章把镜头拉远,讨论对象换成制度,模型能力上去之后,权力在国家、企业和个人之间怎么重新分配。

两条线针对的风险并不重叠。前者假设模型失控,后者假设模型完全听话,然后追问它听谁的话。后一种情况里,技术本身没出任何故障,出问题的是使用它的那套结构。

对中文读者,这套讨论有个具体落点。各国 AI 治理的争论,最后大多会收敛到”谁来监督、监督什么、留多少痕”这三个问题上,而模型能力有没有超标反倒退居其次。有界可见性这一条,无论放进哪套制度框架,都会被反复搬出来讨论——它触到的是留痕与隐私之间那道公共选择题,没有任何一个国家能绕开。

AI Futures 眼下只有这一篇,后续更新频率和选题范围都没说。

参考来源:OpenAI AI Futures 栏目首篇文章、Axios、CocoLoop、多家科技媒体对该栏目的报道;五条原则与有界可见性的表述以栏目文章的公开摘录核对,Dean Ball 任职经历与公开报道逐条比对。