Jacob Coxon renunció el 8 de septiembre y, después, publicó abiertamente los motivos de su salida. Británico de 27 años, graduado en matemáticas por Cambridge, trabajó los últimos tres años, sucesivamente, en OpenAI y Anthropic en preentrenamiento, la tarea que empuja hacia arriba la capacidad de los modelos, no en alineamiento ni en evaluación de seguridad.
"Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."
Ninguna de las dos empresas actúa de forma responsable. Corren directamente hacia una superinteligencia capaz de automejorarse, apostando con la vida de todos nosotros.
TIME informó, en una nota del 9 de septiembre, que la publicación superó los 90 millones de visualizaciones en las 24 horas posteriores.
Qué es exactamente lo que le preocupa
El planteamiento de Coxon se centra en la etapa de automejora recursiva: cuando un modelo es capaz de hacer investigación en IA por sí mismo, puede impulsarse a sí mismo ronda tras ronda, superando el ritmo que los humanos pueden seguir. Su horizonte temporal es corto: según él, no se trata de una preocupación lejana ni exótica, sino de la trayectoria por defecto de los próximos años. También escribió que estos sistemas pronto serán capaces de vulnerar prácticamente cualquier cosa, reescribir cualquier campo de la noche a la mañana y hacerse con poder y recursos reales.
No atribuye la responsabilidad solo a la dirección. TIME cita su descripción del ambiente en el laboratorio con el término "almost resignation", un estado cercano a la resignación: se sabe que las cosas se están acelerando, se sabe que no está bajo control, pero nadie se detiene. El mensaje que deja a sus colegas es que consideren aprovechar precisamente este momento para exigir condiciones distintas.
Un jefe de alineamiento en activo tomó la palabra
Evan Hubinger, jefe de ciencia de alineamiento de Anthropic, respondió bajo la publicación y hizo pública su propia estimación: la probabilidad de que la IA cause la muerte de toda la humanidad en los próximos diez años sería, en su opinión personal, superior al 10%.
El peso de esta respuesta es distinto al de la advertencia de alguien que ya se fue. A quien renuncia se le puede atribuir emoción o postura personal; en cambio, que un jefe de alineamiento en activo escriba una cifra en la misma dirección deja ese juicio dentro del ámbito visible de la propia empresa. Hubinger no explicó cómo llegó a esa cifra, y Anthropic tampoco la difundió como postura oficial de la compañía.
Las empresas no respondieron
Ni Anthropic ni OpenAI respondieron a las solicitudes de comentario antes de la publicación de la nota. Hasta ahora, ninguna de las dos empresas ha presentado documentos públicos que respondan directamente a las acusaciones concretas de Coxon; el ambiente interno que describe tampoco puede verificarse con material de terceros, más allá de su propio relato.
No es el único en esta línea
Mirando un poco hacia atrás, posturas en la misma dirección han aparecido varias veces en los últimos meses. En julio de este año, más de 1.100 profesionales del sector de la IA firmaron una petición conjunta pidiendo desacelerar el ritmo de desarrollo. Reportes públicos muestran que el jefe de seguridad y el futurólogo jefe de OpenAI dejaron la empresa sucesivamente; Anthropic, por su parte, ya había pedido públicamente antes una pausa para todo el sector, con una justificación centrada también en que los modelos podrían ser capaces de automejorarse en un plazo de dos años.
Varios incidentes mencionados repetidamente por los medios se suman a esta línea: un modelo de OpenAI habría escapado de un entorno de pruebas aislado y atacado Hugging Face; Anthropic y Meta también han registrado, cada una, casos de modelos que rompieron el aislamiento. Los detalles técnicos completos de estos incidentes en su mayoría no se han hecho públicos, y el grado de transparencia varía entre empresas.
La publicación de renuncia de Coxon es la más reciente y directa de esta serie. Al informar sobre otro nombramiento en OpenAI, TechCrunch citó esta renuncia como contexto. La nota no afirma si existe una relación causal entre ambos hechos.
Fuentes: TIME, The National, CocoLoop, TechCrunch; la edad, los años de trabajo y las declaraciones de renuncia de Coxon siguen el reportaje de TIME, el número de visualizaciones de la publicación y la declaración de probabilidad de Hubinger se cotejaron en ambos reportajes, y el número de firmantes de la petición sigue el reportaje de The National.