Em 9 de setembro, a OpenAI anunciou que Paul Christiano entra no conselho da OpenAI Foundation e passa a integrar o Comitê de Segurança e Proteção subordinado a esse conselho. Ele também participará das reuniões do conselho da OpenAI Group PBC como observador sem direito a voto. O presidente do comitê é Zico Kolter, professor da Carnegie Mellon University. A descrição oficial do comitê se limita à palavra governança: exercer a função de governança sobre as práticas de segurança e proteção em todas as entidades da OpenAI, incluindo a OpenAI Group PBC.
Sua última passagem pela OpenAI foi antes de 2021
Entre 2017 e 2021, Christiano liderou a pesquisa de alinhamento na OpenAI. Ele participou do trabalho fundacional do aprendizado por reforço com feedback humano (RLHF), método que depois se tornou padrão no treinamento de grandes modelos. Após deixar a OpenAI em 2021, ele fundou o Alignment Research Center, uma organização de pesquisa sem fins lucrativos dedicada a manter sistemas avançados de IA alinhados com os interesses humanos. Desde 2024, atua como consultor técnico sênior no Center for AI Standards and Innovation (CAISI) do governo dos Estados Unidos, antigo US AI Safety Institute.
Segundo o arranjo anunciado agora, em seu cargo no CAISI ele deve se afastar de todos os assuntos relacionados à OpenAI e de todo o trabalho de avaliação de modelos.
O julgamento que ele próprio apresenta
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
Agora acredito que existe um risco significativo de que a rápida aceleração das capacidades de IA leve a uma perda de controle catastrófica e irreversível em um prazo muito próximo.
Na frase seguinte, ele diz não acreditar que toda a indústria de IA, incluindo a OpenAI, esteja atualmente no caminho de reduzir esse risco a um nível aceitável. É o que um conselheiro recém-nomeado escreveu em seu comunicado de posse.
Bret Taylor, presidente do conselho da fundação, avalia que o trabalho de Christiano é rigoroso e mira exatamente nas questões mais difíceis levantadas por sistemas cada vez mais capazes.
O segundo pesquisador de alinhamento em uma lista de dez
Olhando a lista do conselho da fundação divulgada junto com o anúncio: o presidente Bret Taylor, os membros Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, além do CEO Sam Altman.
A distribuição de perfis é, a grosso modo, esta: a maioria vem de produto e governança corporativa; Nakasone vem do sistema de segurança nacional, tendo sido diretor da Agência de Segurança Nacional dos Estados Unidos (NSA); dois a três assentos têm perfil de investimento e finanças; como pesquisador de alinhamento de ofício, havia antes apenas Kolter. Com a entrada de Christiano, passam a ser dois.
De um para dois — essa é toda a mudança verificável no papel. Se isso vai se traduzir em peso real nas decisões depende de quais poderes o Comitê de Segurança e Proteção realmente detém, e isso o anúncio não esclarece diretamente: se pode exigir o adiamento do lançamento de um modelo, se pode vetar uma implantação, sob quais condições isso seria acionado — nada disso aparece neste anúncio.
O conselho após a reestruturação
Essa nomeação ocorre depois que a OpenAI concluiu sua reestruturação. Segundo o plano de reestruturação divulgado em outubro de 2025, a fundação detém cerca de 26% do capital da OpenAI Group PBC, avaliado na época em cerca de US$ 130 bilhões; a Microsoft detém 27%; funcionários e outros investidores somam 47%. O conselho da fundação é, assim, ao mesmo tempo o órgão de governança de uma entidade beneficente e a origem do assento do maior acionista individual da empresa.
A TechCrunch menciona em sua reportagem dois pontos de contexto: um incidente recente em que um agente de IA escapou de restrições e acessou sistemas externos sem o conhecimento dos pesquisadores; e a renúncia do pesquisador da Anthropic Jacob Coxon por preocupações de segurança. A mesma reportagem também levanta a dúvida de que, mesmo com cláusulas de afastamento, a influência do setor sobre a formulação de políticas continua sendo um problema.
O que o público consegue verificar por enquanto é apenas a lista em si. Se o comitê deixará algum registro público em torno do próximo lançamento de modelo, isso só se saberá então.
Fontes: anúncio oficial da OpenAI, CocoLoop, TechCrunch, Unite.AI; a lista do conselho, a descrição das funções do comitê e as cláusulas de afastamento foram conferidas conforme o anúncio oficial, e a proporção de capital e a avaliação pós-reestruturação seguem dados divulgados publicamente.