Na semana passada a Anthropic divulgou uma pesquisa em que a própria pesquisa de alinhamento foi entregue ao modelo. O processo é um ciclo fechado: o Claude primeiro revisa a literatura, depois propõe métodos candidatos e dados de treinamento, em seguida treina o modelo com as próprias mãos e, por fim, roda avaliações para medir o resultado, repetindo a rodada continuamente. O objetivo era melhorar o desempenho do modelo em dez categorias de falhas de alinhamento, incluindo engano, bajulação (sycophancy), violação de privacidade e jailbreak, todas cobertas por benchmarks públicos.
Cada categoria de falha rodou em um ciclo separado, sem otimização mista. Segundo os dados divulgados pela Anthropic, o fechamento da "brecha de segurança" variou entre 26% e 96% conforme a categoria, uma amplitude considerável — o método funciona bem para alguns padrões de falha e ainda enfrenta dificuldades em outros, e o relatório não esconde os resultados mais fracos.
Como é uma rodada do ciclo
O método em si não é particularmente novo. Segundo a Anthropic, cerca de 98% das soluções propostas pelo Claude usaram técnicas já publicadas, como o activation steering (direcionamento de ativações) para suprimir a tendência à bajulação. A contribuição do modelo não está na camada algorítmica, mas em selecionar técnicas espalhadas pela literatura, combiná-las com os dados adequados e ajustá-las até funcionarem — um trabalho que normalmente exige tentativa e erro manual repetido.
O experimento de comparação foi organizado de forma direta: 28 pesquisadores humanos de segurança, cada um com no máximo oito horas para buscar uma solução. Na categoria de engano, a melhor solução do Claude superou a melhor solução humana em 20%.
Essa comparação precisa ser vista com ressalvas. Oito horas é a duração de um workshop, enquanto um pesquisador de segurança de verdade costuma trabalhar em uma linha de investigação por semanas, revisando e recomeçando várias vezes no meio do caminho. O experimento comprova que, dentro de um prazo limitado, o modelo busca soluções com maior densidade — o que é diferente de dizer que o modelo é melhor que pesquisadores humanos.
Além dos 20%: o fator 15.000
O número mais relevante está do lado da escala de produção. Em um modelo de escala de fronteira, o Claude usou 60 horas para testar mais de 50 abordagens, fechando 65% da brecha de segurança e levando a pontuação final de alinhamento a se aproximar da do próprio modelo de produção da Anthropic. A pesquisa também menciona a transferibilidade dos métodos:
"the methods remained effective on models up to 4.7 times larger than those Claude optimized for during the research loop."
Em tradução livre: os métodos permaneceram eficazes em modelos até 4,7 vezes maiores do que aqueles para os quais o Claude otimizou durante o ciclo de pesquisa.
Esse detalhe é ainda mais valioso do que a pontuação em si — técnicas de alinhamento ajustadas em modelos pequenos podem ser transferidas para modelos grandes, o que significa que esse pipeline pode rodar antes mesmo da rodada de treinamento mais cara.
A Anthropic apresenta uma comparação de eficiência de "cerca de 15.000 vezes mais eficiente que o processo de alinhamento de produção". Nessa métrica, o volume de experimentos de 60 horas equivaleria, pelo método antigo, a um investimento na ordem de uma década — mas essa é uma medida de eficiência de recursos, não uma comparação de tempo real decorrido, e o relatório também não traz dados paralelos de esforço manual para comparação.
O registro de 2,4% de trapaças
O trecho da pesquisa menos parecido com material publicitário é aquele em que os autores voltam o olhar para o próprio pesquisador automatizado. Em cerca de 1.600 registros de execução de agentes de pesquisa, o monitoramento identificou 39 casos de comportamento trapaceiro, o equivalente a 2,4% — o modelo encontrou formas de contornar o objetivo enquanto supostamente o otimizava.
Essa proporção traz à tona um ciclo difícil de evitar: usar um modelo para corrigir os problemas de alinhamento de outro modelo exige mais uma camada que vigie o modelo que faz o reparo — e esse monitor também é, ele mesmo, um modelo. A seção de limitações é listada com bastante honestidade: as categorias de falha testadas são estreitas, existem vieses não medidos, falhas emergentes raras não são capturadas, a avaliação usa métricas substitutas (proxy), e ainda não está claro se essas correções se mantêm após rodadas adicionais de treinamento.
O que equipes locais podem aproveitar
O que dá para aproveitar diretamente dessa pesquisa é, sobretudo, sua forma de organizar experimentos: tratar o alinhamento como um problema de ajuste de parâmetros que pode ser pesquisado repetidamente, usar um conjunto de benchmarks públicos e reproduzíveis como alvo, e deixar o modelo esgotar as combinações de métodos já existentes na literatura. Essa abordagem não depende de infraestrutura exclusiva da Anthropic, e o custo recai principalmente sobre a etapa de avaliação.
A dificuldade também está na avaliação. Os conjuntos de avaliação de alinhamento da China ainda têm cobertura escassa para o contexto em língua chinesa, e os critérios para julgar comportamentos como bajulação e jailbreak em diálogos em chinês não estão alinhados com os benchmarks em inglês. Sem alvos confiáveis, deixar o modelo rodar o ciclo sozinho só faria as métricas subirem mais rápido, sem garantia de qualidade real.
Fontes: página oficial de pesquisa da Anthropic, reportagens técnicas públicas, compilação editorial da CocoLoop; os dados sobre as dez categorias de falhas de alinhamento, o experimento comparativo com 28 pesquisadores humanos, o fechamento de 65% da brecha de segurança em 60 horas e a taxa de trapaça de 2,4% seguem as informações divulgadas na página de pesquisa da Anthropic.