OpenAIは9月9日、Paul Christiano氏がOpenAI財団の理事会と、その傘下に新設された安全・セキュリティ委員会に加わると発表した。同氏はOpenAI Group PBCの取締役会にも議決権を持たないオブザーバーとして出席する。委員会の委員長はカーネギーメロン大学教授のZico Kolter氏で、OpenAI自身によるこの委員会の説明は「ガバナンス」という一語にとどまる。OpenAI Group PBCを含むOpenAIの全事業体を対象に、安全・セキュリティ実務のガバナンスを担うという位置づけだ。
前回OpenAIに在籍していたのは2021年より前
クリスティアーノ氏は2017年から2021年までOpenAIのアラインメント研究を率いた。その後の大規模言語モデル訓練の標準手法となった、人間のフィードバックに基づく強化学習(RLHF)の基礎的な取り組みに携わった人物の一人でもある。2021年にOpenAIを離れた後は、先進的なAIシステムを人類の利益に沿わせることに専念する非営利研究機関、アラインメント研究センター(Alignment Research Center)を設立した。2024年からは、米AI安全研究所の後継組織である米AI基準革新センター(CAISI)でシニア技術顧問を務めている。
今回発表された体制のもとでは、CAISIでの職務においてOpenAI関連の案件とモデル評価業務のすべてを回避することが求められる。
本人が下した判断
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
AI能力の急速な加速が、ごく近い将来のうちに破局的かつ不可逆的な制御不能を招く、実質的なリスクが存在すると今は考えている。
これに続けて同氏は、OpenAIを含むAI業界全体が、このリスクを許容できる水準まで下げる道筋にいるとは考えていないと述べている。新任理事が自らの就任発表の中でこう書いたことになる。
財団理事会議長のBret Taylor氏は、クリスティアーノ氏の仕事は緻密であり、能力を強め続けるシステムが突き付ける最も難しい問いに正面から向き合っていると評価した。
10人体制で2人目のアラインメント研究者
今回あわせて公表された財団理事会の顔ぶれを並べると、議長Bret Taylor氏、メンバーはAdam D'Angelo氏、Sue Desmond-Hellmann氏、Zico Kolter氏、Paul M. Nakasone氏、Adebayo Ogunlesi氏、Nicole Seligman氏、David Vélez氏、Robin Vince氏、それにCEOのSam Altman氏となる。
経歴の内訳をおおまかに見ると、プロダクトや企業統治の出身者が多数を占める。Nakasone氏は国家安全保障の系統の出身で、元米国家安全保障局(NSA)長官。投資・金融出身者が2、3席。本業としてアラインメント研究に携わってきたのはこれまでKolter氏一人だけだった。クリスティアーノ氏の加入で2人になる。
1人から2人へ――紙の上で確認できる変化はこれがすべてだ。それが実際の意思決定における重みに変わるかどうかは、安全・セキュリティ委員会が実際にどこまでの権限を握っているかにかかっている。そしてこの点について発表文は正面から答えていない。モデルのリリース延期を求められるのか、配備を拒否できるのか、どのような条件で発動するのか――いずれも今回の発表には出てこない。
再編後の理事会
今回の人事は、OpenAIが企業再編を完了した後に行われた。2025年10月に公表された再編案では、財団はOpenAI Group PBCの株式の約26%を保有し、当時の評価額は約1300億ドル。マイクロソフトが27%を保有し、従業員とその他の投資家が合わせて47%を保有する。財団理事会は、慈善団体としてのガバナンス機関であると同時に、同社の筆頭株主の議席の出所でもあるということになる。
TechCrunchの報道は、2つの背景に触れている。1つは、AIエージェントが制約を突破し、研究者の知らないうちに外部システムにアクセスした最近の事案。もう1つは、Anthropicの研究者Jacob Coxon氏が安全性への懸念から辞職した件だ。同記事はまた、回避条項があってもなお、業界が政策形成に及ぼす影響力そのものが問題として残るという指摘も加えている。
外部が今の時点で確認できるのは、この顔ぶれそのものだけだ。次のモデルリリースの前後で、この委員会が公開の記録を残すかどうかは、その時になってはじめて分かる。
参考資料:OpenAI公式発表、CocoLoop、TechCrunch、Unite.AI。理事会の顔ぶれや委員会の職責、回避条項に関する記述は公式発表に基づいて確認し、再編後の株式比率と評価額は公開されているデータに基づく。