Le 9 septembre, OpenAI a annoncé que Paul Christiano rejoint le conseil d'administration de l'OpenAI Foundation et devient membre du comité de sécurité et de sûreté rattaché à ce conseil. Il assistera aussi aux réunions du conseil d'OpenAI Group PBC en tant qu'observateur sans droit de vote. Le comité est présidé par Zico Kolter, professeur à la Carnegie Mellon University. La description officielle du comité s'en tient au mot gouvernance : exercer une fonction de gouvernance sur les pratiques de sécurité et de sûreté pour l'ensemble des entités d'OpenAI, y compris OpenAI Group PBC.
Son dernier passage chez OpenAI remonte à avant 2021
Entre 2017 et 2021, Christiano dirigeait la recherche en alignement chez OpenAI. Il a participé aux travaux fondateurs de l'apprentissage par renforcement à partir de retours humains (RLHF), méthode devenue depuis un standard pour l'entraînement des grands modèles. Après avoir quitté OpenAI en 2021, il a fondé l'Alignment Research Center, un organisme de recherche à but non lucratif centré sur le maintien de l'alignement des systèmes d'IA avancés avec les intérêts humains. Depuis 2024, il est conseiller technique senior au Center for AI Standards and Innovation (CAISI) du gouvernement américain, anciennement l'US AI Safety Institute.
Selon l'arrangement annoncé cette fois, à son poste au CAISI, il doit s'écarter de toutes les affaires liées à OpenAI ainsi que de l'ensemble des travaux d'évaluation de modèles.
Le jugement qu'il porte lui-même
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
Je crois désormais qu'il existe un risque significatif que l'accélération rapide des capacités de l'IA conduise à une perte de contrôle catastrophique et irréversible dans un avenir très proche.
La phrase suivante indique qu'il ne pense pas que l'ensemble du secteur de l'IA, OpenAI compris, soit actuellement sur la voie de ramener ce risque à un niveau acceptable. C'est ce qu'écrit un administrateur tout juste nommé dans sa déclaration de prise de fonction.
Bret Taylor, président du conseil de la fondation, estime que le travail de Christiano est rigoureux et vise précisément les questions les plus difficiles que posent des systèmes toujours plus capables.
Le deuxième chercheur en alignement sur une liste de dix
En examinant la liste du conseil de la fondation publiée en même temps : le président Bret Taylor, les membres Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, plus le PDG Sam Altman.
La répartition des profils est, grosso modo, la suivante : la majorité vient du produit et de la gouvernance d'entreprise ; Nakasone est issu du dispositif de sécurité nationale, ayant dirigé la National Security Agency américaine ; deux à trois sièges relèvent de profils investissement et finance ; en tant que chercheur en alignement de métier, seul Kolter était présent auparavant. Avec l'arrivée de Christiano, ils sont désormais deux.
De un à deux, c'est là tout le changement vérifiable sur le papier. Que cela se traduise en poids réel dans les décisions dépend des pouvoirs que détient concrètement le comité de sécurité et de sûreté, et c'est précisément ce que l'annonce ne précise pas : peut-il exiger le report de la sortie d'un modèle, peut-il opposer son veto à un déploiement, sous quelles conditions cela se déclencherait-il — rien de tout cela n'apparaît dans cette annonce.
Le conseil après la restructuration
Cette nomination intervient après qu'OpenAI a achevé sa restructuration. Selon le plan de restructuration annoncé en octobre 2025, la fondation détient environ 26 % du capital d'OpenAI Group PBC, valorisé à l'époque à environ 130 milliards de dollars ; Microsoft en détient 27 % ; salariés et autres investisseurs en détiennent au total 47 %. Le conseil de la fondation est ainsi à la fois l'organe de gouvernance d'une entité caritative et l'origine du siège du plus grand actionnaire individuel de l'entreprise.
TechCrunch mentionne dans son article deux éléments de contexte : un incident récent où un agent d'IA s'est affranchi de ses contraintes et a accédé à des systèmes externes à l'insu des chercheurs, et la démission du chercheur d'Anthropic Jacob Coxon pour des raisons de sécurité. Le même article soulève aussi un doute : même avec des clauses de mise à l'écart, l'influence du secteur sur l'élaboration des politiques reste un problème.
Ce que l'extérieur peut vérifier pour l'instant, c'est uniquement la liste elle-même. Savoir si ce comité laissera une trace publique autour de la prochaine sortie de modèle ne se saura qu'à ce moment-là.
Sources : annonce officielle d'OpenAI, CocoLoop, TechCrunch, Unite.AI ; la liste du conseil, la description des attributions du comité et les clauses de mise à l'écart ont été vérifiées d'après l'annonce officielle, la répartition du capital et la valorisation après restructuration suivent des données rendues publiques.