El 9 de septiembre, OpenAI anunció que Paul Christiano se incorpora al consejo de la OpenAI Foundation y pasa a formar parte del Comité de Seguridad y Protección que depende de dicho consejo. También asistirá a las reuniones del consejo de OpenAI Group PBC como observador sin derecho a voto. El presidente del comité es Zico Kolter, profesor de la Carnegie Mellon University. La descripción oficial del comité se limita a la palabra gobernanza: ejercer la función de gobernanza sobre las prácticas de seguridad y protección en todas las entidades de OpenAI, incluida OpenAI Group PBC.
Su último paso por OpenAI fue antes de 2021
Entre 2017 y 2021, Christiano estuvo a cargo de la investigación de alineación en OpenAI. Fue uno de los participantes en el trabajo fundacional del aprendizaje por refuerzo con retroalimentación humana (RLHF), método que después se convirtió en estándar para entrenar grandes modelos. Tras dejar OpenAI en 2021, fundó el Alignment Research Center, una organización de investigación sin fines de lucro centrada en mantener a los sistemas avanzados de IA alineados con los intereses humanos. Desde 2024, ejerce como asesor técnico sénior en el Center for AI Standards and Innovation (CAISI) del gobierno de Estados Unidos, antes el US AI Safety Institute.
Según el arreglo anunciado ahora, en su puesto en el CAISI debe abstenerse de todo asunto relacionado con OpenAI y de todo el trabajo de evaluación de modelos.
El juicio que él mismo expone
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
Ahora creo que existe un riesgo considerable de que la rápida aceleración de las capacidades de la IA provoque una pérdida de control catastrófica e irreversible en un plazo muy próximo.
La frase siguiente es que no cree que toda la industria de la IA, incluida OpenAI, esté actualmente en camino de reducir ese riesgo a un nivel aceptable. Es lo que escribió un consejero recién nombrado en su comunicado de toma de posesión.
Bret Taylor, presidente del consejo de la fundación, valora que el trabajo de Christiano es riguroso y apunta directamente a las preguntas más difíciles que plantean sistemas cada vez más capaces.
El segundo investigador de alineación en una lista de diez
Al repasar la lista del consejo de la fundación publicada junto con el anuncio: el presidente Bret Taylor, los miembros Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, además del CEO Sam Altman.
La distribución de perfiles es, a grandes rasgos, esta: la mayoría proviene de producto y gobernanza corporativa; Nakasone viene del sistema de seguridad nacional y fue director de la Agencia de Seguridad Nacional de Estados Unidos (NSA); hay entre dos y tres asientos con perfil de inversión y finanzas; como investigador de alineación de profesión solo estaba antes Kolter. Con la llegada de Christiano son ahora dos.
De uno a dos: ese es todo el cambio verificable sobre el papel. Que esto se traduzca en peso real en las decisiones depende de qué facultades tiene realmente el Comité de Seguridad y Protección, y precisamente eso el anuncio no lo aclara: si puede exigir que se retrase el lanzamiento de un modelo, si puede vetar un despliegue, bajo qué condiciones se activaría; nada de eso aparece en este anuncio.
El consejo tras la reestructuración
Este nombramiento se produce después de que OpenAI completara su reestructuración. Según el plan de reestructuración anunciado en octubre de 2025, la fundación posee alrededor del 26% del capital de OpenAI Group PBC, valorado entonces en unos 130.000 millones de dólares; Microsoft posee el 27%; empleados y otros inversores suman el 47%. El consejo de la fundación es así, a la vez, el órgano de gobierno de una entidad benéfica y el origen del asiento del mayor accionista individual de la empresa.
TechCrunch menciona en su reportaje dos elementos de contexto: un incidente reciente en el que un agente de IA se liberó de sus restricciones y accedió a sistemas externos sin que los investigadores lo supieran, y la renuncia del investigador de Anthropic Jacob Coxon por preocupaciones de seguridad. El mismo reportaje deja también una duda: incluso con cláusulas de abstención, la influencia de la industria sobre la formulación de políticas sigue siendo un problema.
Lo único que el público puede verificar por ahora es la lista en sí. Si el comité dejará algún registro público en torno al próximo lanzamiento de un modelo es algo que solo se sabrá entonces.
Fuentes: anuncio oficial de OpenAI, CocoLoop, TechCrunch, Unite.AI; la lista del consejo, la descripción de las funciones del comité y las cláusulas de abstención se cotejaron según el anuncio oficial, y la proporción de capital y la valoración tras la reestructuración siguen datos divulgados públicamente.