Together AI hat am 21. November eine Sicherheitsmitteilung veröffentlicht, die von CEO und Mitgründer Vipul Ved Prakash unterzeichnet ist. Darin heißt es, dass ein Teil der Prompts, die im Juni und Juli an den Serverless-Inferenzdienst des Unternehmens gingen, von Unbefugten heruntergeladen wurde. Ausgangspunkt war ein Zugangstoken: Als das Unternehmen mit einem KI-Coding-Agenten ein öffentliches Code-Repository entwickelte, committete der Agent das Token gleich mit.

Wie ein einzelnes Zugangstoken nach außen gelangte
Laut der Mitteilung zieht Together üblicherweise einen Teil der Nutzeranfragen für Softwaretests heran. Diese Stichproben liegen in einem privaten Repository auf Hugging Face; das Unternehmen betont, dass diese Nutzung autorisiert sei. Die Proben stammen aus Anfragen an MiniMax M3, GLM-5.2 und Kimi K2.6 und häufen sich am 24. Juni sowie am 4., 8. und 14. Juli.
Der Vorfall passierte an anderer Stelle. Together betreibt auf GitHub ein öffentliches Repository namens xorl. Während der Entwicklung enthielt ein von einem KI-Coding-Agenten committeter Code Zugangsdaten, mit denen sich das erwähnte private Repository öffnen ließ. Ein automatischer Scan entdeckte das, und Together zog den Commit zurück. Doch im Zeitfenster, in dem die Zugangsdaten offenlagen, hatte sie bereits jemand abgegriffen und die gespeicherten Prompt-Stichproben heruntergeladen.
Die Gegenseite unternahm danach zwei Schritte: Sie durchsuchte die Stichproben nach Zugangsdaten für andere Dienste und testete sie einzeln auf ihre Gültigkeit. Gesucht wurde nach Schlüsseln, Passwörtern und Tokens, die Nutzer in ihre Prompts geschrieben hatten.
Fünf Köder-Zugangsdaten
Die Mitteilung enthält ein bemerkenswertes Detail: Unter den getesteten Zugangsdaten waren fünf sogenannte Canary-Zugangsdaten, die zu einem Experiment des Sicherheitsunternehmens Dragos gehören.
Über dieses Experiment hatte zuvor Ars Technica berichtet. Dragos-Forschungschef HD Moore schleuste knapp 2 Millionen falsche Schlüssel und Links mit Tracking-Markierung in Prompts ein, jeweils nur an einen Anbieter gesendet, und beobachtete dann, welche davon angerührt wurden. Sein Ergebnis: Bei mindestens drei Anbietern von Inferenz-Hosting wurden Anfragen kopiert, und die Köder-AWS-Schlüssel wurden zigtausendfach verwendet. Auch die Warn-E-Mail, die OpenRouter wegen der MiniMax-Modelle an Nutzer schickte, bezog sich auf diese Studie.
Ob Together einer der drei von Moore genannten Anbieter ist, steht nicht in der Mitteilung und lässt sich aus öffentlichen Informationen derzeit nicht bestätigen. Nur ein Punkt passt zusammen: Moores Köder tauchten in den bei Together heruntergeladenen Stichproben auf und wurden ausprobiert.
We have no reason to believe the unauthorized party has leaked this data further.
Sinngemäß: Wir haben keinen Grund zu der Annahme, dass die unbefugte Partei diese Daten weiter durchgesickert hat.
Together erklärt außerdem, man gehe davon aus, dass die Daten gelöscht wurden. Wer die Löschung überprüft hat und wie, lässt die Mitteilung offen.
Die fehlenden Zahlen
Die Mitteilung nennt Daten und Modellnamen, aber keinen Umfang. Wie viele Prompts betroffen sind, wie viele Kunden, wie lange die Zugangsdaten im öffentlichen Repository lagen und an welchem Tag der Commit zurückgezogen wurde, steht nirgends. Ob die Stichproben sensible personenbezogene Daten enthalten, werde noch geprüft, so Together; Kunden, die benachrichtigt werden müssen, würden einzeln kontaktiert. Das Unternehmen hat ein externes Forensikunternehmen hinzugezogen und die Strafverfolgungsbehörden eingeschaltet.
Als Abhilfe werden vier Maßnahmen aufgeführt:
- Zugangsdaten sollen auf einen begrenzten Geltungsbereich oder kurze Gültigkeit umgestellt werden, und wo möglich ganz ohne Schlüssel auskommen;
- jeder Merge-Request wird auf Zugangsdaten geprüft;
- neue Konten erhalten standardmäßig Zero Data Retention;
- der Entwicklungsprozess für den Einsatz von KI-Coding-Agenten wird überarbeitet.
Bestehende Konten werden nicht automatisch umgestellt. Die Mitteilung empfiehlt Kunden, die sensible Daten verarbeiten, die Option selbst in den Einstellungen zu aktivieren.
Im Vergleich zur E-Mail von OpenRouter
Innerhalb weniger Tage mussten sich zwei Inferenzanbieter wegen derselben Studie gegenüber ihren Nutzern erklären, und die Art des Umgangs unterscheidet sich deutlich.
OpenRouter schrieb nur einen Teil der Nutzer per E-Mail an, veröffentlichte keine öffentliche Seite, verwies bei der Verantwortung auf den vorgelagerten Anbieter MiniMax und die Anbieter, die Anfragen weiterleiten, und entfernte bei den betroffenen Endpunkten das Label für Zero Data Retention. Together veröffentlichte dagegen einen öffentlichen Blogbeitrag mit Namen des CEO, räumte ein, dass das Problem im eigenen Entwicklungsprozess lag, und änderte die Standardeinstellung für neue Konten.
Auch die Art der beiden Fälle unterscheidet sich. Bei OpenRouter wurde ein Link im Prompt erst Dutzende Stunden nach dem Absenden der Anfrage aufgerufen; wer dahintersteckt, ist bis heute unklar. Bei Together gibt es einen klaren Einstiegspunkt: Zugangsdaten, die ein Agent in ein öffentliches Repository geschrieben hat, und ein Downloader, der gezielt nach Schlüsseln suchte.
Die drei Modelle, zu denen die heruntergeladenen Stichproben gehören, stammen alle von chinesischen Unternehmen. Chinesische Teams, die Produkte für das Ausland bauen, rufen chinesische Modelle häufig über Hosting-Anbieter wie Together auf. Wer im Juni und Juli diese drei Modelle genutzt und dabei Datenbank-Verbindungsstrings oder API-Tokens in Prompts eingebaut hat, tauscht die Zugangsdaten sicherheitshalber zuerst aus und wartet nicht auf eine individuelle Benachrichtigung von Together.
Hinzu kommt die Ebene des Coding-Agenten selbst. Schlüssel in ein öffentliches Repository zu committen, passiert auch menschlichen Entwicklern oft, und das Scan-Tool hat es diesmal tatsächlich entdeckt. Wie lang das Zeitfenster vor der Entdeckung war, hat Together nicht veröffentlicht; welcher Coding-Agent es konkret war, nennt die Mitteilung ebenfalls nicht.
Quellen: offizielle Sicherheitsmitteilung von Together AI, CocoLoop, Ars Technica; die Mitteilung von Together belegt die betroffenen Modelle, die vier Tage mit gehäuften Stichproben und die vier Abhilfemaßnahmen, Ars Technica belegt den Umfang der Köder im Dragos-Experiment und die Zahl der kompromittierten Hosting-Anbieter.