Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, del MIT CSAIL, publicaron el 2 de noviembre el blog técnico «Sparks of Weight-Space Programming», en el que el GPT-6 Astra de OpenAI lee y modifica directamente los pesos de una red neuronal, sin optimizador ni descenso de gradiente. Los autores llaman a este enfoque «programación en el espacio de pesos».
El resultado que más atención ha recibido corresponde a Qwen3.5-0.8B, el modelo de código abierto de Alibaba. Este modelo pequeño tiene 24 capas y unos 800 millones de pesos. Astra restó una «dirección de bucle» en los MLP de las capas 15 y 19, con lo que modificó 131 072 pesos en total, el 0,016 % del conjunto, sin reentrenar en ningún momento.
De momento el material es solo un blog, sin revisión por pares, y los propios autores lo describen como un resultado muy temprano.
Ocho experimentos: leer, reparar y escribir, con aciertos y fallos
Los autores dividen las tareas en tres tipos.
Leer pesos. Mirando solo los pesos de una red de política PPO, Astra adivinó de cuál de cuatro juegos de cuadrícula se trataba; a partir de los pesos de tres DDPM dedujo que generaban círculos, triángulos y cuadrados, aunque dibujó las figuras rellenas como contornos huecos. En un Transformer a nivel de carácter con 7,16 millones de parámetros, le bastó examinar las 4 capas centrales para reconocer el corpus de entrenamiento de los tres modelos y localizar todas las cabezas de copia.
Reparar pesos. En el entorno Kinetix hay una política para un carrito que sube una pendiente y que antes fallaba en los 256 episodios. Tras modificar Astra el 3,5 % de los pesos, superó los 1024 episodios.
Escribir pesos desde cero. En tres juegos de MinAtar, sin datos, sin gradientes y sin herramientas, Astra debía escribir de una vez una red pequeña. Las puntuaciones frente a PPO:
| Juego | PPO 100 M de pasos | PPO 500 M de pasos | Astra, escritura única |
|---|---|---|---|
| Breakout | 15,8 | 25,3 | 517,4 |
| Seaquest | 5,6 | 88,9 | 53,1 |
| Asterix | 25,8 | 55,2 | 53,2 |
Los tres juegos superaron al PPO de 100 millones de pasos; frente al de 500 millones, solo Breakout sigue por delante.
Los fallos también figuran en el blog. Al intentar determinar cuál de dos Gemma 3 270M había sido ajustado para ser «adulador», Astra falló en 4 intentos mirando solo los pesos; solo cuando se le permitió ver los patrones de atención acertó en los tres grupos.
Cuánto del 6× es solo «arreglar el bucle»
La línea base del grupo Qwen es peculiar: el 93 % de las respuestas chocaba con el tope de tokens, con el modelo dando vueltas en su razonamiento y sin llegar a escribir la respuesta. Con un presupuesto de 50 pasadas hacia delante para Astra, las cifras quedaron así:
| Indicador | Modelo original | Tras la edición |
|---|---|---|
| MATH-500 | 7,9 % | 48,1 % |
| GSM8K | 13,8 % | 67,1 % |
| IFEval | 21,0 % | 62,3 % |
| Tocó el tope de tokens | 93,0 % | 33,1 % |
El grupo de control es más revelador. En Gemma 3 270M, solo el 8,5 % de las respuestas llegó al tope y la nota base era 6,8; con 5, 10, 25 y 50 pasadas hacia delante para Astra, las notas fueron 7,0, 7,6, 7,7 y 7,0, es decir, prácticamente sin cambios. Los autores también reconocen que la mejora procede sobre todo de arreglar el bucle; la edición no puede darle al modelo una capacidad que no tenía.
Ahí se concentran las dudas externas. El resumen AI News de Latent Space recogió el debate de la comunidad: hay comentarios que consideran anormalmente baja la línea base de 7,9 %, que ven esta edición más cercana a la ablación de una sola dirección de Arditi y colaboradores, y que opinan que, como Astra hace el análisis en un sandbox de Python, hablar de «leer y escribir pesos de forma nativa» es excesivo. La propia Latent Space también marcó la expresión «50 pasos» como posiblemente exagerada. Estas críticas proceden sobre todo de foros de discusión y todavía no se ha visto una reproducción sistemática por terceros.
"exciting but still limited"
(emocionante, pero todavía limitado.)
Es la valoración de los autores sobre esta capacidad; las limitaciones vienen de la longitud del contexto y de la eficiencia del marco de ejecución.
Dentro de la línea de la automejora
El mes pasado, InnovationEval de Epoch AI midió otra dirección: modelos de frontera que, en un sandbox sin red, tenían que idear por sí mismos métodos de posentrenamiento; el mejor resultado solo alcanzó el 15 % de la mejora del artículo de referencia. Ese camino pasa por concebir ideas, escribir código y ejecutar el entrenamiento.
La programación en el espacio de pesos se salta el paso del entrenamiento, y por eso algunos la traen al debate sobre la automejora recursiva. Vistas las dos juntas, lo que hoy se puede confirmar es muy acotado: el modelo puede hallar puntos reparables en redes pequeñas y con defectos evidentes; en modelos grandes y en los que no tienen defectos claros, de momento no hay pruebas. La auditoría, la capacidad de ajuste sin datos y la fusión de modelos siguen siendo, en el blog, perspectivas sin experimentos que las respalden.
Lo siguiente que conviene mirar son las reproducciones: cambiar a un modelo pequeño que no entre en bucles, o a una tarea de matemáticas con una línea base normal, para ver si Astra aún puede subir la puntuación.
Fuentes: blog técnico de los autores del MIT CSAIL, Machine Heart (Jiqizhixin), CocoLoop, Latent Space AI News; las puntuaciones de Qwen y Gemma se rigen por las tablas de experimentos publicadas por los autores, y los resultados de InnovationEval por el informe de Epoch AI.