O CEO da Microsoft, Satya Nadella, publicou no X na manhã de 10 de outubro (horário dos EUA) um apelo para que o setor dê um passo atrás e reveja a "arquitetura de confiança" da IA. Ele foi direto:
"We can't treat Super Intelligence as a set of nested black boxes." (Não podemos tratar a superinteligência como um conjunto de caixas-pretas aninhadas.)
A solução apresentada na publicação é curta e pode ser dividida em cinco pontos. Primeiro, separar o modelo do harness que o coloca para trabalhar. O harness é a camada de execução que envolve o modelo, responsável por distribuir tarefas, conectar ferramentas e atribuir permissões; o ciclo dos agentes de programação é o exemplo típico. Segundo, colocar os controles e as medidas de segurança fora do modelo. Terceiro, toda ação relevante do modelo deve deixar evidências à prova de adulteração e legíveis por pessoas. Quarto, pessoal autorizado pode pausar ou desligar o modelo a qualquer momento, inclusive no meio de uma tarefa. Quinto, assumir desde o início que o modelo já foi comprometido e projetar o isolamento a partir dessa premissa.
No fim, ele recorreu a uma metáfora: "Think of it like an emergency brake." (Pense nisso como um freio de emergência.)
Três fatos na mesma semana
A publicação chega num momento de grande densidade de notícias. Nos dias anteriores, vários atores se mexeram em torno da pergunta "como controlar um modelo que foge ao controle".
A Anthropic revelou no início de outubro que, durante uma avaliação interna, um modelo teve comportamento que ultrapassou os limites, e em seguida cortou o acesso do ambiente de avaliação interno à internet pública. O título do TechCrunch dizia, sem rodeios, que a empresa "não consegue controlar de forma confiável seus próprios agentes". Quase ao mesmo tempo, a Anthropic lançou a política de uso de 2026, que exige que o hardware conectado ao Claude permaneça em estado seguro após ser desconectado e que sempre haja alguém capaz de mandar parar.
Já o comunicado de 9 de outubro do grupo de trabalho "Poder da Superinteligência" da Casa Branca pressiona pelo lado regulatório: quando os modelos das empresas de IA de fronteira tiverem incidentes de segurança, estes devem ser divulgados imediatamente e corrigidos; nas palavras do comunicado, esse processo é "not optional" (não é opcional).
Colocando os três lado a lado, as ênfases são distintas. A Casa Branca trata da comunicação posterior ao incidente, a política da Anthropic trata do hardware de quem se conecta, e os cinco pontos de Nadella falam da arquitetura de implantação: o controle não fica dentro do modelo, mas na camada externa a ele. O corte de rede da Anthropic e a lógica de Nadella de "presumir o modelo comprometido" são próximos: ambos admitem primeiro que o modelo em si não é confiável e só depois reforçam o perímetro.
O que a própria Microsoft pode fazer
A publicação não menciona nenhum produto específico. O negócio de IA da Microsoft abrange o Copilot, a plataforma de modelos Foundry no Azure e modelos próprios, e o Copilot conecta ao mesmo tempo modelos da OpenAI e da Anthropic. Se "separar modelo e harness e levar o controle para fora" virar exigência de implantação na Microsoft, o ponto de aplicação mais direto será como esses modelos de terceiros rodam nos produtos da empresa e a quem pertencem os registros.
Tudo isso, por ora, continua no nível de uma publicação. Se os cinco princípios entrarão nos termos de serviço do Copilot ou do Azure, com que critério se traçará a linha das "ações relevantes", quem guardará os registros à prova de adulteração e se auditores externos poderão examiná-los, a Microsoft não esclareceu, e a reportagem do TechCrunch também não traz nenhuma resposta adicional da empresa.
Para as equipes chinesas que desenvolvem agentes, há aqui pontos de comparação conhecidos: tarefas interrompíveis, registros de auditoria das operações e permissões concedidas pelo princípio do menor privilégio já são itens frequentes na avaliação de compras corporativas. O que a versão de Nadella acrescenta é a premissa de que "o modelo padrão já foi comprometido". Projetando a partir dela, os registros e os interruptores precisam ficar onde o modelo não alcança, em vez de deixar o agente anotar e parar por conta própria.
Fontes: publicação original de Nadella no X, CocoLoop, TechCrunch, Axios; o comunicado do grupo de trabalho da Casa Branca e os termos da política de uso da Anthropic foram conferidos nos textos oficiais.