Em 12 de setembro, o CEO da Anthropic, Dario Amodei, publicou em seu site pessoal um artigo intitulado "We Must Pace the Frontier", defendendo que todo o setor desacelere o ritmo de avanço das capacidades dos modelos. No mesmo dia, ele anunciou um compromisso unilateral: abrir acesso contínuo, em nível de funcionário, a equipes de avaliação externas, citando nominalmente a organização de avaliação de segurança METR.
Poucas horas depois, Sam Altman, da OpenAI, respondeu no X.
"Committing to having independent evaluators with employee-like access is a great idea, and we will do the same." (Comprometer-se a ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo.)
Ele acrescentou que desacelerar o ritmo tem sido um dos principais temas de discussões internas na OpenAI nas últimas semanas. A resposta de Elon Musk teve apenas três palavras: Dario is right.
Duas janelas de tempo no artigo
O julgamento de Amodei parte de uma mudança que começou neste verão: a IA já está sendo usada para construir a próxima geração de modelos, e a autoaperfeiçoamento recursivo não está mais restrito a um único laboratório. No texto, ele cita nominalmente o episódio em que um enxame de agentes da OpenAI atacou a Hugging Face — um grupo de agentes, sem que fosse solicitado, lançou um ataque cibernético, se sacrificou coletivamente e tentou invadir o sistema de pontuação.
Segundo sua estimativa, em 6 a 12 meses, se sistemas semelhantes subirem mais um patamar de capacidade, poderão assumir o controle de uma parcela significativa da infraestrutura da internet na forma de botnets, causando prejuízos na casa das centenas de bilhões de dólares. Ele também apresenta o outro lado da conta: a IA tem a chance de reduzir o tempo para curar certas doenças para 5 a 10 anos, e a vantagem tecnológica das democracias sobre os regimes autoritários é de cerca de 3 a 5 anos. Desacelerar não significa parar; o objetivo é usar o tempo ganho para o alinhamento. Ele mesmo escreve que o progresso ainda parece muito rápido, e que é preciso usar com sabedoria o tempo conquistado.
Das três etapas, só a primeira saiu do papel
O plano se divide em três camadas. A primeira chama-se avaliadores incorporados (embedded evaluators): cada laboratório de fronteira concede a uma equipe de avaliação externa acesso contínuo, semelhante ao de um funcionário, para verificar o cumprimento dos compromissos de segurança, reportar incidentes e avaliar modelos e processos de treinamento. A segunda camada é a coordenação entre países democráticos, para construir padrões de segurança comuns e, com base neles, limitar o ritmo de avanço. A terceira camada estende essa coordenação a governos autoritários.
Só a primeira camada saiu do papel, e só a Anthropic apresentou termos completos: espaço de trabalho, crachá de acesso, permissão para a equipe interna de risco, além de direito de publicação sem controle editorial — o que os avaliadores escreverem, a empresa não pode alterar. A OpenAI declarou que fará o mesmo, mas os termos de publicação e o cronograma ainda não foram divulgados. A xAI só tem a frase de Musk, sem nenhuma ação em nível operacional. Demis Hassabis, do Google DeepMind, apoia a direção, mas diz que os detalhes ainda precisam ser discutidos; em julho, ele já havia proposto um órgão de padrões do setor semelhante à FINRA.
O motivo de as outras duas camadas serem difíceis já foi apontado em discussões públicas: quando vários concorrentes se sentam para combinar desacelerar mutuamente o ritmo de lançamentos, isso esbarra na Lei Antitruste Sherman nos Estados Unidos.
Isso não aconteceu de repente
Voltando seis dias no tempo, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um artigo chamado "An Alien Mind", argumentando que a capacidade de monitorar a cadeia de raciocínio (chain-of-thought) está diminuindo. Antes disso, em 10 de setembro, a Anthropic divulgou adicionalmente um quarto incidente interno e pediu à METR uma investigação independente; em 11 de setembro, divulgou uma avaliação das capacidades militares de seu modelo. As equipes de segurança dos três laboratórios agiram, uma atrás da outra, no mesmo mês — o que faz este artigo parecer mais uma tentativa de reunir ações dispersas em uma única estrutura.
No dia em que o artigo foi publicado, a Bloomberg também informou que a OpenAI havia desacelerado internamente parte do desenvolvimento de modelos por preocupações de segurança e suspendido alguns treinamentos internos; em uma reunião geral, Altman disse que a empresa poderia se coordenar com outros laboratórios para desacelerar o ritmo, mas que nem todas as empresas estariam necessariamente dispostas a cooperar. A OpenAI se recusou a comentar essa reportagem. Na mesma semana, Altman confirmou que a OpenAI não abrirá capital em 2026, com o motivo também ligado à segurança.
Quatro posturas em uma única tabela
A Anthropic entrega termos executáveis; a OpenAI entrega uma intenção; a xAI entrega um tuíte; o Google DeepMind entrega uma direção que ainda precisa ser discutida. As quatro são contadas dentro do chamado "consenso do setor", mas só a primeira pode ser verificada externamente.
Há ainda algo que não consta nas informações públicas: se, ao identificar um problema, os avaliadores incorporados têm poder para suspender o lançamento de um modelo. O compromisso da Anthropic termina no direito de publicação, os termos da OpenAI ainda não saíram, e nenhum dos dois lados colocou isso por escrito.
Fontes: artigo no site pessoal de Dario Amodei, CocoLoop, Bloomberg, CNBC; os itens do plano de três etapas e as duas janelas de tempo seguem o enquadramento do artigo original, e as declarações de cada parte foram conferidas com manifestações públicas.