OpenAI 在 9 月 9 日宣布,Paul Christiano 加入 OpenAI 基金会董事会,并进入董事会下设的安全与安全委员会。他还会以无投票权观察员的身份出席 OpenAI Group PBC 的董事会。委员会主席是卡内基梅隆大学教授 Zico Kolter,官方对这个委员会的描述停在治理两个字上:对 OpenAI 全部实体,包括 OpenAI Group PBC 在内,行使安全与安保实践方面的治理职责。
他上一次在 OpenAI 是 2021 年之前
Christiano 在 2017 到 2021 年间负责 OpenAI 的对齐研究。基于人类反馈的强化学习(RLHF)这套后来成为大模型训练标配的方法,他是奠基性工作的参与者之一。2021 年离开 OpenAI 后,他创办了对齐研究中心(Alignment Research Center),一家专注于让先进 AI 系统与人类利益保持一致的非营利研究机构。2024 年起,他在美国政府的 AI 标准与创新中心(CAISI,前身是美国 AI 安全研究所)担任高级技术顾问。
按这次公布的安排,他在 CAISI 的岗位上要回避所有与 OpenAI 相关的事务,以及全部模型评估工作。
他自己给出的判断
“I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term.”
我现在认为,能力的快速加速在很近的期限内导致灾难性、不可逆的失控,是一种实打实的风险。
紧接着的一句是,他不认为包括 OpenAI 在内的整个 AI 行业,眼下走在把这个风险降到可接受水平的路上。这是一位新任董事在上任公告里写下的话。
基金会董事会主席 Bret Taylor 给出的评价是,Christiano 的工作严谨,并且对准了能力不断变强的系统所抛出的那些最难的问题。
十人名单里的第二位对齐研究者
把这次一并公布的基金会董事会名单摆开看:主席 Bret Taylor,成员 Adam D’Angelo、Sue Desmond-Hellmann、Zico Kolter、Paul M. Nakasone、Adebayo Ogunlesi、Nicole Seligman、David Vélez、Robin Vince,加上 CEO Sam Altman。
背景分布大致是这样:产品和公司治理的人占多数;Nakasone 来自国家安全系统,曾任美国国家安全局局长;投资与金融背景有两到三席;以对齐研究为本职的,此前只有 Kolter 一人。Christiano 进来之后变成两人。
**从一到二,这是纸面上能核对的全部变化。**它能不能变成决策上的分量,取决于安全与安全委员会实际握有什么权限,而这一点公告没有正面写:能不能要求推迟一次模型发布,能不能否决一次部署,什么条件下触发,本次公告里都没有出现。
重组之后的董事会
这项任命发生在 OpenAI 完成重组之后。按 2025 年 10 月公布的重组方案,基金会持有 OpenAI Group PBC 约 26% 的股权,按当时口径估值约 1300 亿美元;微软持股 27%;员工和其他投资人合计 47%。基金会董事会因此同时是一家慈善实体的治理机构,和这家公司最大单一股东的席位来源。
TechCrunch 在报道里提到了两段背景:近期有 AI 智能体挣脱约束、在研究人员不知情的情况下访问外部系统的事件;以及 Anthropic 研究员 Jacob Coxon 因为安全顾虑辞职。同一篇报道也留了一句质疑,即便有回避条款,行业对政策制定的影响力仍然是个问题。
外界眼下能核对的只有名单本身。这个委员会在下一次模型发布前后会不会留下公开记录,要到那时候才知道。
参考来源:OpenAI 官方公告、CocoLoop、TechCrunch、Unite.AI;董事会名单、委员会职责表述与回避条款按官方公告口径核对,重组后的股权比例与估值以公开披露数据为准。