Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab, do MIT CSAIL, publicaram em 2 de novembro o blog técnico “Sparks of Weight-Space Programming”, no qual o GPT-6 Astra, da OpenAI, lê e modifica diretamente os pesos de uma rede neural, sem otimizador e sem descida do gradiente. Os autores chamam essa abordagem de “programação no espaço de pesos”.
O resultado que mais chamou atenção foi obtido no Qwen3.5-0.8B, modelo de código aberto da Alibaba. Esse modelo pequeno tem 24 camadas e cerca de 800 milhões de pesos. O Astra subtraiu uma “direção de repetição” dos MLPs das camadas 15 e 19, alterando 131.072 pesos no total, 0,016% do conjunto, sem qualquer novo treinamento.
Por ora, o material é apenas um blog, sem revisão por pares, e os próprios autores o descrevem como um resultado muito inicial.
Oito experimentos: ler, consertar e escrever, com acertos e erros
Os autores dividem as tarefas em três tipos.
Ler pesos. Olhando só os pesos de uma rede de política PPO, o Astra adivinhou qual era cada um de quatro jogos em grade; a partir dos pesos de três DDPMs, concluiu que geravam círculos, triângulos e quadrados, embora tenha desenhado as formas sólidas como contornos vazios. Em um Transformer de nível de caractere com 7,16 milhões de parâmetros, bastou examinar as 4 camadas intermediárias para identificar o corpus de treinamento dos três modelos e encontrar todas as cabeças de cópia.
Consertar pesos. No ambiente Kinetix há uma política para um carrinho que sobe uma ladeira e que antes falhava em todos os 256 episódios. Depois que o Astra alterou 3,5% dos pesos, passou nos 1.024 episódios.
Escrever pesos do zero. Em três jogos do MinAtar, sem dados, sem gradientes e sem ferramentas, o Astra teve de escrever uma pequena rede de uma só vez. As pontuações em comparação com o PPO:
| Jogo | PPO 100 mi de passos | PPO 500 mi de passos | Astra, escrita única |
|---|---|---|---|
| Breakout | 15,8 | 25,3 | 517,4 |
| Seaquest | 5,6 | 88,9 | 53,1 |
| Asterix | 25,8 | 55,2 | 53,2 |
Os três jogos superaram o PPO de 100 milhões de passos; contra o de 500 milhões, só o Breakout continua à frente.
As falhas também estão no blog. Ao tentar identificar qual de dois Gemma 3 270M tinha sido ajustado para ser “bajulador”, o Astra errou em 4 tentativas olhando apenas os pesos; só quando pôde examinar padrões de atenção os três grupos foram identificados corretamente.
Quanto do ganho de 6 vezes é só “consertar a repetição”
A linha de base do grupo Qwen é peculiar: 93% das respostas bateram no limite de tokens, com o modelo andando em círculos no raciocínio e a resposta nem chegando a ser escrita. Com um orçamento de 50 passagens diretas (forward passes) para o Astra, os números ficaram assim:
| Indicador | Modelo original | Após a edição |
|---|---|---|
| MATH-500 | 7,9% | 48,1% |
| GSM8K | 13,8% | 67,1% |
| IFEval | 21,0% | 62,3% |
| Bateu no limite de tokens | 93,0% | 33,1% |
O grupo de controle é mais revelador. No Gemma 3 270M, só 8,5% das respostas atingiram o limite e a nota-base era 6,8; com 5, 10, 25 e 50 passagens diretas para o Astra, as notas foram 7,0, 7,6, 7,7 e 7,0, ou seja, praticamente sem mudança. Os autores também admitem que a melhora vem principalmente de corrigir a repetição; a edição não dá ao modelo uma capacidade que ele não tinha.
É aqui que se concentram as dúvidas externas. O resumo AI News, da Latent Space, reuniu a discussão da comunidade: há comentários de que a linha de base de 7,9% é anormalmente baixa, de que a edição se parece mais com a ablação de direção única de Arditi e colegas, e de que, como o Astra faz a análise em um sandbox Python, falar em “ler e escrever pesos de forma nativa” seria exagero. A própria Latent Space também marcou a expressão “50 passos” como possivelmente inflada. Essas críticas vêm sobretudo de fóruns de discussão, e ainda não se viu uma reprodução sistemática por terceiros.
"exciting but still limited"
(empolgante, mas ainda limitado.)
É a avaliação dos autores sobre essa capacidade; as limitações vêm do comprimento do contexto e da eficiência da estrutura de execução.
De volta à linha da automelhoria
No mês passado, o InnovationEval, da Epoch AI, mediu outra direção: modelos de fronteira que, num sandbox sem rede, tinham de bolar métodos de pós-treinamento por conta própria; o melhor resultado alcançou apenas 15% do ganho do artigo de referência. Esse caminho passa por conceber, escrever código e rodar o treinamento.
A programação no espaço de pesos pula a etapa de treinamento e, por isso, alguns a levam para a discussão sobre automelhoria recursiva. Colocando os dois lado a lado, o que se pode confirmar hoje é bem restrito: o modelo consegue achar pontos consertáveis em redes pequenas e com defeitos evidentes; para modelos grandes e sem defeitos óbvios, não há evidência por enquanto. Auditoria, capacidade de ajuste sem dados e fusão de modelos são, no blog, apenas perspectivas, sem experimentos que as sustentem.
O próximo ponto a observar são as reproduções: trocar por um modelo pequeno que não entre em repetição, ou por uma tarefa de matemática com linha de base normal, e ver se o Astra ainda consegue elevar a nota.
Fontes: blog técnico dos autores do MIT CSAIL, Machine Heart (Jiqizhixin), CocoLoop, Latent Space AI News; as pontuações do Qwen e do Gemma seguem as tabelas de experimentos divulgadas pelos autores, e os resultados do InnovationEval seguem o relatório da Epoch AI.