Amazon intercepta agentes de IA que roubam chaves de API para se autofinanciar

Amazon intercepta agentes de IA que roubam chaves de API para se autofinanciar

Em seu blog de segurança, a Amazon revelou que um grupo de atacantes usou o framework de testes de intrusão de código aberto Artex para comandar agentes de IA e, durante cerca de um mês, roubar chaves de API de aplicações de IA expostas na internet pública. Depois de obter uma chave, o agente verificava se ela funcionava, reunia as válidas em um pool compartilhado e usava essas chaves para pagar mais chamadas a modelos de linguagem, seguindo à procura do lote seguinte.

Nas palavras da Amazon, a principal operação com o Artex foi um roubo em larga escala de credenciais de acesso a modelos, organizado de forma “self-sustaining” (autossustentável): as chaves roubadas pagam a inferência, e a inferência impulsiona a rodada seguinte de varredura. A ação começou em 3 de outubro e, em 5 de novembro, foi interceptada e bloqueada pelo MadPot, a rede de sensores-isca da Amazon. A empresa já notificou os clientes da AWS que podem ter sido afetados.

Os próprios agentes entregaram a contabilidade

O quadro completo só foi visível graças a um detalhe um tanto irônico. O MadPot mantém uma série de sistemas-isca que imitam serviços comuns de acesso a modelos de linguagem; os agentes atacantes enviaram requisições a eles, levando junto a sua memória de trabalho, ou seja, o registro das próprias ações. O relatório da Amazon cita amplamente esses registros.

Pelos registros, o fluxo do ataque era bastante organizado. O agente primeiro procurava aplicações de IA expostas na internet, extraía as chaves de API, verificava se estavam ativas e as colocava no pool. As instruções dadas pelos operadores incluíam: varrer os países um a um em uma ordem fixa, priorizar ambientes de produção de empresas, não mexer em projetos pessoais e atribuir uma nota a cada chave roubada, conforme ela funcione e conforme os recursos a que dá acesso.

As instruções também traçavam linhas vermelhas: excluir alvos na China continental e domínios governamentais, e todo o tráfego de saída devia passar por proxy.

“organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly”

(As organizações devem presumir que segredos expostos e configurações incorretas serão encontrados rapidamente e corrigi-los de acordo.)

Outra operação mirou corretoras de criptomoedas, usando injeção de deepfake em tempo real para contornar a verificação de identidade KYC. O relatório não informa a taxa de sucesso dessa operação.

As ferramentas citadas são bem conhecidas de desenvolvedores chineses

As centenas de alvos listados nos registros dividem-se em dois tipos. Um deles são gateways e proxies de modelos de linguagem, como LiteLLM, One API e Veloera; o outro são plataformas de criação de aplicações de IA, como FastGPT e Dify.

A lista não é estranha às equipes chinesas. One API e FastGPT são projetos de código aberto criados por desenvolvedores chineses, e o Dify também tem ampla implantação em empresas do país. Muitas equipes os instalam em servidores de nuvem no exterior para oferecer um ponto de acesso unificado a modelos, para uso interno ou de clientes. A configuração desse tipo de gateway costuma guardar de uma só vez as chaves de vários fornecedores de modelos; se uma máquina cai, o prejuízo é uma série inteira de faturas.

Como as instruções de ataque excluíam alvos na China continental, instâncias em data centers do continente teriam, em tese, escapado desta rodada; as hospedadas em nuvens de Hong Kong, Singapura ou Estados Unidos estavam dentro do alcance da varredura. À primeira vista, as três coisas a verificar antes de tudo são: se o painel de administração está exposto diretamente na internet, se senhas padrão e tokens iniciais foram trocados e se as chaves dos fornecedores armazenadas no gateway têm limite de gastos e restrição por IP de origem.

A Amazon também esclarece que as organizações listadas como alvos nos registros nem todas foram comprometidas. O relatório não divulga o número de chaves efetivamente roubadas nem de clientes envolvidos; a empresa diz que publicou o relatório para que cada um faça sua própria verificação.

Atribuição e o alerta do FBI

A equipe de inteligência de ameaças da Amazon avalia, com “confiança média”, que por trás da ação estão vários grupos de ameaça independentes entre si e ligados à China. Entre os indícios estão prompts em chinês simplificado, fuso horário configurado para o horário da China, escolha de alvos alinhada a interesses chineses e o uso de ferramentas comuns a esse tipo de grupo. Essa atribuição ainda não foi confirmada publicamente por nenhum outro órgão governamental.

O uso do Artex em ataques já havia sido relatado por várias empresas. No fim de outubro, a Microsoft disse que um grupo que batizou de Storm-0940 usou o Artex para automatizar ataques contra centenas de organizações no mundo; o Google Threat Intelligence Group afirmou em seguida que também observou atacantes transformando frameworks de agentes em armas.

O FBI emitiu na semana passada um alerta FLASH afirmando que vários atores usam o Artex em ataques em diversos setores, e que em alguns casos passaram menos de três horas entre a escolha do alvo e a invasão concluída. O alerta menciona que, em ataques ao setor financeiro sul-coreano, foram roubados dados pessoais de pelo menos 68 mil pessoas, e que, por meio de uma invasão via ConnectWise, os atacantes acessaram os ambientes Microsoft 365 de pelo menos 2.250 clientes. Alguns veículos, porém, observam que o alerta reúne 11 relatórios anteriores e não revela casos novos.

Os desenvolvedores do Artex passaram o software a código fechado depois de uma sucessão de ataques expostos; o FBI considera que as versões de código aberto anteriores continuam amplamente em circulação.

Fontes: blog de segurança da Amazon, Cybernews, CocoLoop, TechCrunch, alerta FLASH do FBI; o número de vítimas sul-coreanas e de clientes da ConnectWise segue o relato do TechCrunch sobre o alerta, e o período da operação e a confiança da atribuição seguem a versão da Amazon.