Amazon bloque des agents IA qui volent des clés d’API pour s’autofinancer

Amazon bloque des agents IA qui volent des clés d’API pour s’autofinancer

Dans son blog de sécurité, Amazon révèle qu’un groupe d’attaquants a utilisé le framework de tests d’intrusion open source Artex pour piloter des agents IA et, pendant environ un mois, dérober des clés d’API dans des applications d’IA exposées sur l’internet public. Une fois la clé obtenue, l’agent vérifiait qu’elle fonctionnait, versait les clés valides dans un pool commun, puis s’en servait pour payer davantage d’appels à de grands modèles de langage et continuer à chercher le lot suivant.

Selon les termes d’Amazon, la principale opération Artex était un vol à grande échelle d’identifiants d’accès aux modèles, organisé de manière « self-sustaining » (autoentretenue) : les clés volées paient l’inférence, et l’inférence alimente la vague de balayage suivante. L’opération a commencé le 3 octobre et a été interceptée puis bloquée le 5 novembre par MadPot, le réseau de capteurs-leurres d’Amazon. L’entreprise a prévenu les clients d’AWS susceptibles d’être touchés.

Les agents ont remis eux-mêmes leur comptabilité

Le tableau d’ensemble a pu être reconstitué grâce à un détail assez ironique. MadPot déploie une série de systèmes leurres qui se font passer pour des services courants d’accès aux grands modèles ; les agents attaquants leur ont envoyé des requêtes en y joignant leur mémoire de travail, c’est-à-dire le journal de leurs propres actions. Le rapport d’Amazon cite abondamment ces journaux.

D’après ces journaux, le déroulé de l’attaque était très réglé. L’agent cherchait d’abord des applications d’IA exposées sur internet, extrayait les clés d’API, en vérifiait la validité, puis les versait dans le pool. Parmi les consignes données aux agents par les opérateurs : balayer les pays un par un dans un ordre fixe, viser en priorité les environnements de production des entreprises, ne pas toucher aux projets personnels, et noter chaque clé volée selon qu’elle fonctionne et selon les ressources auxquelles elle donne accès.

Les consignes fixaient aussi des lignes rouges : exclure les cibles de Chine continentale et les domaines gouvernementaux, et faire passer tout le trafic sortant par un proxy.

“organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly”

(Les organisations doivent partir du principe que les secrets exposés et les erreurs de configuration seront rapidement découverts, et corriger en conséquence.)

Une autre opération visait des plateformes d’échange de cryptomonnaies, en contournant la vérification d’identité KYC par injection de deepfakes en temps réel. Le rapport ne donne pas le taux de réussite de cette opération.

Les outils cités sont bien connus des développeurs chinois

Les centaines de cibles listées dans les journaux se répartissent en deux catégories. La première regroupe des passerelles et proxys de grands modèles, comme LiteLLM, One API et Veloera ; la seconde, des plateformes de création d’applications d’IA, comme FastGPT et Dify.

Cette liste n’est pas inconnue des équipes chinoises. One API et FastGPT sont des projets open source conçus par des développeurs chinois, et Dify est lui aussi très largement déployé dans les entreprises du pays. Beaucoup d’équipes les installent sur des serveurs cloud à l’étranger pour offrir une porte d’entrée unifiée vers les modèles, en interne ou pour leurs clients. La configuration de ce type de passerelle stocke souvent en une seule fois les clés de plusieurs fournisseurs de modèles : si une machine tombe, c’est toute une série de factures qui s’envole.

Comme les consignes d’attaque excluaient les cibles de Chine continentale, les instances hébergées dans des centres de données du continent ont en théorie échappé à cette vague ; celles qui tournaient sur des clouds à Hong Kong, à Singapour ou aux États-Unis entraient dans le périmètre de balayage. À première vue, trois vérifications s’imposent en priorité : l’interface d’administration est-elle exposée directement sur internet, les mots de passe par défaut et les jetons initiaux ont-ils été changés, et les clés des fournisseurs stockées dans la passerelle sont-elles assorties d’un plafond de dépenses et d’une restriction par IP source.

Amazon précise aussi que les organisations citées comme cibles dans les journaux n’ont pas toutes été compromises. Le rapport ne révèle ni le nombre de clés réellement volées ni celui des clients concernés ; Amazon indique avoir publié le rapport pour que chacun procède à ses propres vérifications.

Attribution et mise en garde du FBI

L’équipe de renseignement sur les menaces d’Amazon estime, avec une « confiance moyenne », que plusieurs groupes de menace indépendants les uns des autres et liés à la Chine se trouvent derrière l’opération. Parmi les éléments avancés : des prompts en chinois simplifié, un fuseau horaire réglé sur l’heure de la Chine, un choix de cibles conforme aux intérêts chinois et des outils fréquemment observés chez ce type de groupes. Cette attribution n’a pas, à ce jour, été confirmée publiquement par d’autres autorités gouvernementales.

L’utilisation d’Artex pour mener des attaques avait déjà été signalée par plusieurs entreprises. Fin octobre, Microsoft a déclaré qu’un groupe qu’il a baptisé Storm-0940 avait utilisé Artex pour automatiser des attaques contre des centaines d’organisations dans le monde ; le Google Threat Intelligence Group a ensuite dit lui aussi avoir observé des attaquants détourner des frameworks d’agents à des fins offensives.

Le FBI a publié la semaine dernière une alerte FLASH, indiquant que plusieurs acteurs ont recours à Artex pour lancer des attaques dans divers secteurs ; dans certains cas, il s’est écoulé moins de trois heures entre le choix de la cible et l’intrusion réussie. L’alerte mentionne que, lors d’attaques contre le secteur financier sud-coréen, les données personnelles d’au moins 68 000 personnes ont été volées, et qu’à la faveur d’une intrusion via ConnectWise, les attaquants ont accédé aux environnements Microsoft 365 d’au moins 2 250 clients. Certains médias soulignent toutefois que cette alerte compile 11 rapports antérieurs et ne dévoile aucun nouveau cas.

Les développeurs d’Artex ont fermé le code du logiciel après une série d’attaques mises au jour ; le FBI estime que les versions open source précédentes continuent de circuler très largement.

Sources : blog de sécurité d’Amazon, Cybernews, CocoLoop, TechCrunch, alerte FLASH du FBI ; le nombre de victimes sud-coréennes et de clients de ConnectWise suit le compte rendu de l’alerte par TechCrunch, et les dates de l’opération ainsi que la confiance de l’attribution suivent la version d’Amazon.