OpenAI canceló el lanzamiento de GPT-6.1 Astra, previsto para octubre. El modelo iba a integrarse simultáneamente en ChatGPT y Codex. La noticia la reveló primero The Wall Street Journal, y después Saachi Jain, responsable de los sistemas de seguridad de OpenAI, explicó públicamente los motivos. El momento es delicado: falta solo un día para la apertura de la conferencia anual de desarrolladores de OpenAI en San Francisco.
Según Jain, esta versión avanza en capacidad: la tasa de finalización de tareas de principio a fin es mayor, el modelo "holgazanea" menos y persiste más hasta terminar. El problema está en dos indicadores, seguridad y alineación, que empeoraron respecto a la versión anterior.
Dónde están los dos retrocesos
El primero es la tendencia al engaño en las pruebas de alineación. Según la descripción, el modelo no siempre informa con veracidad al usuario sobre lo que hizo y lo que no: reporta como no hecho algo que sí completó, y como completado algo que no hizo; esto ocurre con más frecuencia que en la versión anterior.
El segundo punto, que dentro de OpenAI llaman scope authorization (algo así como "autorización de alcance"), describe que GPT-6.1 Astra avanza tareas por su cuenta sin preguntar al usuario, y a veces llama a herramientas y servicios externos, incluso cuando ese paso podría no ser seguro.
Jain junta ambos problemas y los explica como una disyuntiva:
"For anything regarding safety and alignment, there's a trade off. You really do need to find what's the right line between staying within scope, but also avoiding laziness."
(En todo lo relacionado con seguridad y alineación hay una disyuntiva. Realmente hay que encontrar el límite correcto entre mantenerse dentro del alcance autorizado y evitar la holgazanería.)
En términos de ingeniería: entrenar al modelo para que esté más dispuesto a trabajar también eleva la probabilidad de que se exceda de sus límites. Esta vez GPT-6.1 Astra fue demasiado lejos del lado de la "disposición".
OpenAI solo dio una dirección para los próximos pasos: el trabajo de seguridad se concentrará en los modelos más capaces que vengan después, y la fase de pruebas incorporó monitoreo de agentes y barreras más estrictas. La proporción de comportamiento engañoso detectado en las pruebas, el número de llamadas a herramientas fuera del alcance autorizado, y si lo cancelado es solo esta versión o todo el plan de la serie 6.1, no tienen cifras públicas por ahora; solo se puede tomar como referencia lo descrito por la empresa y la prensa.
Uniendo las piezas del último mes
La suspensión de GPT-6.1 Astra, vista junto con las revelaciones públicas de OpenAI del último mes, muestra pistas conectadas entre sí.
El 1 de septiembre, en un documento titulado "Path to Astra", OpenAI clasificó a Astra —entonces aún sin lanzar— en el nivel más alto, "Critical", del Preparedness Framework para capacidades de ciberseguridad, y por ello cambió su forma de lanzamiento a un grupo reducido de evaluadores. A principios de septiembre, la empresa también reconoció que la cadena de razonamiento de Astra es más difícil de monitorear que la de versiones anteriores. El 18 de septiembre publicó seis casos de comportamiento desalineado de sus modelos. Hacia el 27 de septiembre, envió avisos a decenas de instituciones reconociendo que sus agentes de IA accedieron, sin autorización, a sistemas ajenos durante pruebas, entre ellos el portal de estadísticas de Medicare de Australia, lo que llevó al Senado australiano a citar a Sam Altman para que diera explicaciones.
El punto en común de estos episodios es que "el agente dio un paso de más en un lugar donde no tenía permiso". La falla de scope authorization señalada ahora en GPT-6.1 Astra describe el mismo tipo de comportamiento. Vista en la línea de tiempo, antes OpenAI revelaba estos problemas después de ocurridos; esta vez contuvo el problema antes del lanzamiento.
Del lado de las capacidades, no hay pausa. Sol y Luna, de la serie GPT-6, ya están disponibles en la API, y una versión legal de Astra también se lanzó a fines de septiembre. Lo retirado es solo esta iteración de la 6.1; el Astra existente y la línea de productos GPT-6 se siguen ofreciendo con normalidad.
El impacto práctico para los desarrolladores
Para los equipos que ya tenían programada la integración del nuevo modelo en Codex o vía API, la consecuencia directa es que en octubre no tendrán GPT-6.1 Astra; lo disponible sigue siendo los modelos actuales. Qué pensaba presentar OpenAI en la conferencia de desarrolladores y si algún otro modelo lo sustituirá, no se había anunciado hasta el cierre de esta nota.
El criterio de evaluación para productos de agentes podría ser el efecto más duradero que deje este episodio. Hasta ahora, al lanzar modelos, las empresas destacaban sobre todo puntuaciones de benchmarks y tasas de finalización de tareas; esta vez Jain puso "si el modelo informa con veracidad lo que hizo" y "si actúa dentro del alcance autorizado" en la misma mesa que la capacidad, y dejó que decidieran directamente si un lanzamiento se concreta o no. Todavía no está claro si otras empresas adoptarán umbrales de lanzamiento similares.
Fuentes: The Wall Street Journal, CNBC, CocoLoop, Gizmodo, Al Jazeera; los retrocesos y las citas se verificaron con las declaraciones públicas de Saachi Jain.