Im eigenen Sicherheitsblog legt Amazon dar, dass eine Angreifergruppe mit dem quelloffenen Penetrationstest-Framework Artex KI-Agenten gesteuert hat. Rund einen Monat lang haben diese gezielt API-Schlüssel aus KI-Anwendungen gestohlen, die offen im Internet erreichbar waren. Hatte ein Agent einen Schlüssel erbeutet, prüfte er zuerst, ob dieser funktioniert, speiste brauchbare Schlüssel in einen gemeinsamen Pool ein und bezahlte mit ihnen weitere Aufrufe großer Sprachmodelle, um die nächste Charge Schlüssel aufzuspüren.
Amazon zufolge war die größte Artex-Kampagne ein massenhafter Diebstahl von Zugangsdaten für Modelle, organisiert nach dem Prinzip „self-sustaining“ (sich selbst tragend): Die gestohlenen Schlüssel bezahlen die Inferenz, und die Inferenz treibt die nächste Suchrunde an. Die Aktion begann am 3. Oktober und wurde am 5. November von MadPot, Amazons Netz aus Köder-Sensoren, erfasst und blockiert. Amazon hat potenziell betroffene AWS-Kunden benachrichtigt.
Die Agenten lieferten ihr Kassenbuch selbst ab
Das Gesamtbild wurde durch ein etwas ironisches Detail sichtbar. MadPot betreibt eine Reihe von Köder-Systemen, die sich als gängige Zugangsdienste für große Modelle ausgeben. Die Angriffsagenten schickten ihre Anfragen dorthin und gaben dabei ihr Arbeitsgedächtnis mit, also die Aufzeichnung ihrer eigenen Aktionen. Amazons Bericht zitiert ausgiebig aus diesen Protokollen.
Den Aufzeichnungen zufolge lief der Angriff ausgesprochen systematisch ab. Der Agent suchte zunächst im offenen Internet nach exponierten KI-Anwendungen, extrahierte API-Schlüssel, prüfte deren Gültigkeit und nahm sie in den Pool auf. Zu den Anweisungen der Betreiber gehörten: Länder in einer festen Reihenfolge abarbeiten, Produktivumgebungen von Unternehmen bevorzugen, private Projekte auslassen und jeden gestohlenen Schlüssel bewerten, je nachdem, ob er funktioniert und auf welche Ressourcen er Zugriff gewährt.
Die Anweisungen zogen auch rote Linien: Ziele auf dem chinesischen Festland und Regierungsdomains sind auszuschließen, und der gesamte ausgehende Datenverkehr muss über einen Proxy laufen.
“organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly”
(Organisationen sollten davon ausgehen, dass offengelegte Geheimnisse und Fehlkonfigurationen schnell gefunden werden, und entsprechend zügig nachbessern.)
Eine weitere Kampagne richtete sich gegen Kryptobörsen und umging die KYC-Identitätsprüfung mit der Einspeisung von Echtzeit-Deepfakes. Zur Erfolgsquote dieser Aktion macht der Bericht keine Angaben.
Die genannten Werkzeuge kennen Entwickler in China gut
Die mehreren Hundert Ziele in den Protokollen lassen sich in zwei Gruppen teilen. Die eine umfasst LLM-Gateways und -Proxys wie LiteLLM, One API und Veloera, die andere Plattformen zum Bau von KI-Anwendungen wie FastGPT und Dify.
Chinesischen Teams ist diese Liste nicht fremd. One API und FastGPT sind Open-Source-Projekte chinesischer Entwickler, und auch Dify ist in chinesischen Unternehmen weit verbreitet. Viele Teams betreiben sie auf Cloud-Servern im Ausland, um intern oder für Kunden einen einheitlichen Zugang zu Modellen anzubieten. In der Konfiguration solcher Gateways liegen oft gleich die Schlüssel mehrerer Modellanbieter; wird ein Rechner kompromittiert, drohen deshalb gleich mehrere Rechnungen auf einmal.
Da die Anweisungen Ziele auf dem chinesischen Festland ausnahmen, sind Instanzen in Rechenzentren auf dem Festland in dieser Runde theoretisch verschont geblieben; Instanzen in Clouds in Hongkong, Singapur oder den USA lagen dagegen im Suchbereich. Auf den ersten Blick sollten drei Dinge zuerst geprüft werden: ob die Admin-Oberfläche direkt im Internet erreichbar ist, ob Standardpasswörter und Anfangs-Tokens geändert wurden und ob für die im Gateway hinterlegten Schlüssel der Modellanbieter Ausgabenlimits und Beschränkungen auf Quell-IPs gesetzt sind.
Amazon betont zudem, dass die in den Protokollen als Ziel genannten Organisationen nicht alle kompromittiert wurden. Der Bericht nennt weder die Zahl der tatsächlich gestohlenen Schlüssel noch die der betroffenen Kunden; Amazon erklärt, es veröffentliche den Bericht, damit jeder selbst nachprüfen kann.
Zuordnung und die Warnung des FBI
Amazons Bedrohungsanalyse-Team geht mit „mittlerer Konfidenz“ davon aus, dass mehrere voneinander unabhängige, mit China verbundene Bedrohungsgruppen dahinterstecken. Als Anhaltspunkte nennt es unter anderem Prompts in vereinfachtem Chinesisch, eine auf chinesische Zeit eingestellte Zeitzone, eine Zielauswahl im Einklang mit chinesischen Interessen und Werkzeuge, die bei solchen Gruppen häufig zu sehen sind. Diese Zuordnung ist bislang von keiner anderen Regierungsstelle öffentlich bestätigt worden.
Dass Artex für Angriffe missbraucht wird, haben zuvor schon mehrere Unternehmen gemeldet. Microsoft erklärte Ende Oktober, eine von ihm als Storm-0940 bezeichnete Gruppe habe mit Artex Angriffe auf Hunderte Organisationen weltweit automatisiert; die Google Threat Intelligence Group sagte danach ebenfalls, sie beobachte, wie Angreifer Agenten-Frameworks als Waffe einsetzen.
Das FBI hat vergangene Woche eine FLASH-Warnung herausgegeben, wonach mehrere Angreifer in verschiedenen Branchen Artex für Attacken nutzen; in einigen Fällen dauerte es von der Zielauswahl bis zum erfolgreichen Eindringen weniger als drei Stunden. Die Warnung erwähnt, dass bei einem Angriff auf den südkoreanischen Finanzsektor die persönlichen Daten von mindestens 68.000 Menschen gestohlen wurden und Angreifer über einen Einbruch bei ConnectWise in die Microsoft-365-Umgebungen von mindestens 2.250 Kunden gelangten. Medien weisen allerdings darauf hin, dass die Warnung elf frühere Berichte zusammenfasst und keine neuen Fälle offenlegt.
Die Entwickler von Artex haben die Software nach einer Reihe von Angriffsenthüllungen auf Closed Source umgestellt; das FBI geht davon aus, dass die früheren Open-Source-Versionen weiterhin weit verbreitet sind.
Quellen: Amazon-Sicherheitsblog, Cybernews, CocoLoop, TechCrunch, FBI-FLASH-Warnung; die Zahl der südkoreanischen Opfer und der ConnectWise-Kunden folgt der Wiedergabe der Warnung durch TechCrunch, Zeitraum der Aktion und Konfidenz der Zuordnung folgen Amazons Darstellung.