OpenAI於9月9日宣布,Paul Christiano加入OpenAI基金會董事會,並進入董事會轄下的安全與保安委員會。他也將以無投票權觀察員身分列席OpenAI Group PBC的董事會。委員會主席是卡內基美隆大學教授Zico Kolter,OpenAI官方對這個委員會的描述,停留在「治理」兩個字上——針對包括OpenAI Group PBC在內的OpenAI旗下所有實體,行使安全與保安實務方面的治理職責。
他上一次待在OpenAI,是2021年以前的事
克里斯蒂安諾在2017年到2021年間,負責OpenAI的對齊研究。後來成為大型語言模型訓練標準做法的「基於人類回饋的強化學習」(RLHF),他正是奠基性工作的參與者之一。2021年離開OpenAI後,他創辦了對齊研究中心(Alignment Research Center),一家專注於讓先進AI系統與人類利益保持一致的非營利研究機構。自2024年起,他在美國政府的AI標準與創新中心(CAISI,前身為美國AI安全研究所)擔任高階技術顧問。
依照這次公布的安排,他在CAISI的職位上,必須迴避所有與OpenAI相關的事務,以及全部的模型評估工作。
他自己給出的判斷
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
我現在認為,能力的快速加速在非常近的期限內導致災難性、不可逆的失控,是一種真實存在的風險。
緊接著的一句話是,他不認為包括OpenAI在內的整個AI產業,目前正走在把這個風險降到可接受水準的路上。這是一位新任董事,在自己的上任公告裡寫下的話。
基金會董事會主席Bret Taylor給出的評語是,克里斯蒂安諾的研究態度嚴謹,而且直接切中能力不斷增強的系統所帶來的那些最棘手問題。
十人名單裡的第二位對齊研究者
把這次一併公布的基金會董事會名單攤開來看:主席Bret Taylor,成員包括Adam D'Angelo、Sue Desmond-Hellmann、Zico Kolter、Paul M. Nakasone、Adebayo Ogunlesi、Nicole Seligman、David Vélez、Robin Vince,再加上執行長Sam Altman。
背景分布大致是這樣:來自產品與企業治理領域的人占多數;Nakasone出身國家安全體系,曾任美國國家安全局局長;具投資與金融背景的有兩到三席;至於以對齊研究為本業的成員,先前只有Kolter一人。克里斯蒂安諾加入後,變成兩人。
從一人到兩人,這是紙面上能核對出來的全部變化。它能不能轉化成決策上的實質分量,取決於安全與保安委員會實際握有什麼樣的權限——而這一點,公告並沒有正面說明。能不能要求延後一次模型發布,能不能否決一次部署,又是在什麼條件下觸發,這些在本次公告裡都沒有出現。
重組之後的董事會
這項任命,發生在OpenAI完成公司重組之後。依照2025年10月公布的重組方案,基金會持有OpenAI Group PBC約26%的股權,當時估值約1300億美元;微軟持股27%;員工與其他投資人合計持有47%。基金會董事會因此同時扮演兩種角色:一家慈善機構的治理單位,以及這家公司最大單一股東席次的來源。
TechCrunch的報導提到了兩段背景:近期有AI代理程式掙脫限制,在研究人員不知情的狀況下存取外部系統;以及Anthropic研究員Jacob Coxon因為安全疑慮而辭職。同一篇報導也留下一句質疑——即便設有迴避條款,整個產業對政策制定的影響力,仍然是個沒有解決的問題。
外界目前能核對的,只有名單本身。這個委員會會不會在下一次模型發布前後留下公開紀錄,得等到那個時候才會知道。
參考來源:OpenAI官方公告、CocoLoop、TechCrunch、Unite.AI;董事會名單、委員會職責描述與迴避條款,均依官方公告內容核對,重組後的股權比例與估值,則以公開揭露的數據為準。