La plateforme d'inférence de modèles open source Fireworks a confirmé lundi avoir subi une nouvelle vague d'intrusion, au cours de laquelle des informations de facturation, des poids de modèles et des jeux de données de certains clients ont fuité. Selon la presse, l'entreprise avait déjà informé la semaine dernière plusieurs grands clients, dont Harvey, de cet incident plus grave que celui d'octobre ; elle enquête désormais avec Unit 42, la division de Palo Alto Networks spécialisée en cybersécurité.
Un porte-parole de Fireworks a déclaré que l'entreprise « prend cet incident très au sérieux », qu'elle est en contact direct avec ses clients et qu'elle travaille avec Unit 42 pour analyser le problème et renforcer ses systèmes. Un porte-parole de Harvey, spécialiste de l'IA juridique, a indiqué que l'incident n'avait pas touché les données des clients de Harvey.
Notion, Vercel et Cursor utilisent les services de Fireworks. On ignore pour l'instant si elles, ou les données de leurs utilisateurs finaux, ont été affectées ; aucune des trois n'a pris position publiquement.
Le deuxième incident en un mois
Si l'on met les dates bout à bout, c'est le deuxième incident subi par Fireworks en un mois.
Le 6 octobre, Fireworks a découvert que quelqu'un avait utilisé des identifiants internes de l'entreprise pour lire les variables d'environnement de tâches d'évaluation dans un « nombre limité » de comptes clients, notamment des clés d'API et des jetons de tiers stockés comme secrets. Le soir du 9 octobre, elle a publié un avis de sécurité ; le lendemain, elle a révoqué un lot de clés d'API d'utilisateurs et fait pivoter les jetons des comptes de service. L'avis de l'époque était très clair :
“we have not detected evidence of unauthorized access to customer models, datasets, training data”
(Nous n'avons détecté aucun élément prouvant un accès non autorisé aux modèles, jeux de données ou données d'entraînement des clients.)
Un mois plus tard, les poids de modèles et les jeux de données apparaissent sur la liste de ce qui a fuité. Fireworks dit ne pas pouvoir déterminer pour l'instant si les deux incidents sont liés. La page de son avis d'octobre en est restée à la mise à jour du 10 octobre, avec le statut « surveillance continue », et n'avait pas été complétée au moment de la rédaction avec l'incident de novembre.
Pas une seule plateforme concernée
Lors de l'intrusion d'octobre, Fireworks n'était pas seule. Dans son rapport du 30 octobre, la société de sécurité cloud Wiz a qualifié cette vague d'« Octobre noir » des plateformes pour développeurs d'IA : la liste initiale comptait 9 plateformes, dont Fireworks, Railway, Warp et Lightning AI ; à la mise à jour du 10 novembre, le chiffre était passé à 16 plateformes ayant divulgué des incidents de sécurité, parmi lesquelles Brev, filiale de NVIDIA.
Le point commun relevé par Wiz : les attaquants fouillent les variables d'environnement à la recherche de clés, en particulier celles qui permettent d'appeler des services d'IA. Une fois la clé obtenue, ils envoient d'abord une requête pour vérifier qu'elle fonctionne, puis l'utilisent à grande échelle via un pool de proxys, et enfin la monétisent par des circuits de revente. Dans le secteur, on appelle cette pratique de détournement de quotas de modèles de langage le détournement de LLM (LLM hijacking). Dans un cas cité par Wiz, une clé ayant fuité a été appelée environ 800 000 fois en 30 heures environ ; dans un autre, 1,7 million d'appels en 13 heures environ, et au tarif public, les deux cas cumulés pourraient dépasser 100 000 dollars.
Selon la presse, Unit 42 estime que l'attaque contre Fireworks est liée à un groupe de cybercriminels spécialisé dans le détournement de LLM. Cette affirmation ne figure pour l'instant que dans des reprises médiatiques ; Unit 42 n'a publié aucun rapport public et n'a pas nommé le groupe en question.
Une levée de fonds qui tombe en pleine crise de sécurité
Le calendrier est particulièrement malheureux pour Fireworks. Fondée en 2022, l'entreprise avait atteint en juillet un chiffre d'affaires annualisé de 1 milliard de dollars pour une valorisation de 17,5 milliards ; selon des sources proches du dossier, elle comptait lancer cette semaine un nouveau tour de table visant une valorisation d'au moins 30 milliards de dollars.
Toujours selon ces sources, certains grands clients, qui dépensent plusieurs millions de dollars par an sur la plateforme, envisagent de partir. Fireworks n'a pas répondu sur un éventuel report de la levée ni sur le nombre de clients qui migreront réellement ; ces informations ne peuvent pas être vérifiées pour le moment.
Pour les utilisateurs, la recommandation de l'avis d'octobre de Fireworks reste valable : supprimer une clé stockée dans Fireworks ne l'invalide pas. Il faut se rendre chez le fournisseur concerné pour faire pivoter les identifiants tiers, puis vérifier les journaux d'accès de ces identifiants.
Sources : Sina Finance, avis de sécurité de Fireworks, CocoLoop, rapport de recherche en sécurité de Wiz ; ont été vérifiés l'étendue des fuites lors des deux incidents, le nombre de plateformes touchées et le nombre d'appels réalisés avec des clés détournées ; les chiffres de revenus et de valorisation suivent ceux rapportés par la presse.