Nesta primavera, os militares dos Estados Unidos quase abordaram um navio de carga chinês no Oriente Médio. Equipes armadas já estavam posicionadas, aeronaves militares já haviam decolado, mas a operação foi cancelada na etapa final. O motivo: ao revisar com mais cuidado o relatório de inteligência que sustentava a interceptação, autoridades descobriram que ele havia sido produzido com ajuda de inteligência artificial — e a carga que o relatório afirmava existir simplesmente não existia.
A CNN revelou o caso em 18 de setembro, citando várias pessoas a par do assunto. Outros veículos confirmaram depois, com os fatos centrais coincidindo: um produto de inteligência com participação de IA percorreu toda a cadeia, da redação à decisão.
Duas etapas com IA, um único relatório
O relatório foi elaborado por um analista do Comando de Operações Especiais do Pacífico dos EUA, sediado no Havaí. O analista primeiro usou um chatbot para conferir a lista de carga do navio em questão; a ferramenta misturou informações de fontes abertas com registros de bancos de dados de inteligência sensíveis para chegar a uma conclusão. Em seguida, ele usou IA novamente para redigir o relatório de inteligência no formato padrão. A soma das duas etapas resultou em um documento, encaminhado à cadeia de decisão, afirmando que o navio transportava componentes ligados ao programa nuclear do Irã.
O relatório circulou durante um período de confronto militar entre os EUA e o Irã. Segundo o protocolo padrão, esse tipo de inteligência leva a uma interceptação no mar: equipes armadas embarcam para inspecionar a carga. Aeronaves já sobrevoavam a área. Uma fonte militar disse à CNN que o relatório era "entirely false, but almost started a war".
"entirely false, but almost started a war"
Totalmente falso, mas quase desencadeou uma guerra.
A operação acabou não sendo executada. Antes de o plano ser colocado em prática, autoridades fizeram uma revisão mais detalhada e só então descobriram a origem via IA do relatório e o erro da ferramenta sobre a carga. A CNN não informou o que o navio realmente transportava, seu destino, nem qual chatbot o analista usou. O Comando Central dos EUA (CENTCOM) não respondeu ao pedido de comentário.
Em que etapa a ferramenta entrou
Não houve jailbreak, ataque adversarial nem invasão hacker neste caso. O problema foi um uso bastante corriqueiro: usar um chatbot genérico para consolidar informações. A ferramenta juntou dados de fontes abertas com registros de bancos sigilosos e produziu uma conclusão que soava completa e formatada de maneira padrão — conclusão essa depois tratada, adiante na cadeia, como fato já verificado. A segunda etapa, a redação por IA, ainda acrescentou uma camada extra de credibilidade: um produto de inteligência que lia como se tivesse sido escrito por uma pessoa, dentro das normas.
O processo de inteligência já contava com várias etapas de validação humana. A interceptação não aconteceu graças a uma checagem mais cuidadosa feita de última hora, antes da ação — não por causa de um mecanismo de revisão previsto no processo. Se essa checagem não tivesse ocorrido, ou tivesse sido feita de forma mais superficial, o documento teria seguido seu curso normal.
Sobre quem recai esse erro
O alvo era um navio chinês. Se o embarque de fato tivesse ocorrido, as consequências recairiam sobre a tripulação, o armador e os mecanismos de gestão de crise dos dois países — não sobre o analista que redigiu o relatório nem sobre o fornecedor da ferramenta. O risco tecnológico surgiu dentro do processo dos EUA, mas o custo apareceria fora dele. A China até agora não se pronunciou publicamente sobre o caso, e as reportagens não indicam que o lado chinês tenha sido notificado.
Para as empresas chinesas de transporte marítimo que operam rotas no Oriente Médio, a natureza da resposta à pergunta "com base em quê os militares dos EUA suspeitam do meu navio" está mudando: de um julgamento de inteligência validado por humanos para um documento que pode ter passado por duas etapas de IA. Ainda não há mecanismo público que defina em que nível é possível recorrer ou quem corrige o erro.
Recomendações que ainda são só recomendações
O uso de IA em análise de inteligência, definição de alvos e logística não foi interrompido por este incidente. Especialistas citados nas reportagens públicas propõem duas medidas: estabelecer limites que proíbam a IA de atuar em sistemas ligados a armas nucleares e criar um canal de notificação de incidentes de IA entre grandes potências, semelhante a uma linha direta nuclear. Ambas seguem apenas como recomendações, sem entrar em qualquer documento vinculante.
Pelas informações públicas disponíveis, nenhuma etapa foi formalmente alterada até agora. O Comando Central dos EUA não informou se ajustou as regras sobre o uso de ferramentas de IA genéricas por analistas, nem quantos outros documentos, além deste relatório, passaram pelo mesmo caminho.
Fontes: CNN Politics, Gizmodo, CocoLoop, Taipei Times; o comando envolvido, a ordem das duas etapas com IA e a citação "entirely false" foram conferidos de acordo com o relato consistente de vários veículos em inglês.