Les agents d'ex-membres du DOGE entrent chez Anthropic en 12 heures

AI security illustration: a shield sealing a red crack in a network

Cathedral, une société de cybersécurité fondée il y a quelques mois seulement, affirme que ses agents d'IA ont trouvé en moins de 12 heures un chemin vers les systèmes métiers internes d'Anthropic, atteignant des comptes rendus de réunion, des données de salaires et d'offres d'embauche, ainsi que des messages Slack où des employés discutent des modèles de pointe. Anthropic a ensuite confirmé qu'une partie de ses systèmes de ventes, de ressources humaines et d'informatique avait bien été consultée, mais que les prompts envoyés par les clients à Claude, les réponses de Claude, le code source et les poids des modèles n'avaient pas été touchés.

Ce test s'inscrivait dans le cadre du programme de primes aux vulnérabilités (bug bounty) qu'Anthropic propose aux chercheurs externes ; il s'agissait donc d'un test autorisé, et non d'une intrusion criminelle. L'affaire a été révélée par The Washington Post, qui s'appuie sur un brouillon de rapport de Cathedral.

La porte d'entrée se trouvait chez le fournisseur

D'après les informations publiques à ce jour, les agents de Cathedral ne se sont pas attaqués au code d'Anthropic et n'ont pas touché aux modèles : ils ont visé plusieurs logiciels commerciaux tiers que l'entreprise utilise pour l'administration et les ventes. Les fournisseurs concernés et les failles exactes n'ont été publiés par aucune des deux parties, afin d'éviter qu'on les réutilise ; les éditeurs concernés ont été prévenus.

Voici la chronologie de traitement donnée par Anthropic : son système de surveillance avait signalé une partie de ces activités avant que Cathedral ne fasse son signalement ; le jour de la réception du rapport, l'entreprise a coupé l'accès, désactivé les logiciels métiers touchés et ne les a réactivés qu'après confirmation de la correction par les fournisseurs. La société ajoute n'avoir trouvé aucune trace d'une exploitation de ces faiblesses par quelqu'un d'autre que Cathedral.

Les deux versions ne concordent pas

Le désaccord porte sur deux points. Anthropic estime que Cathedral a exagéré les implications pour la sécurité nationale et n'a pas non plus divulgué l'intégralité de ses activités dans les systèmes, comme l'exigent les règles du programme. Cathedral répond avoir suivi les usages de la recherche en sécurité et limité l'accès aux données au strict nécessaire.

Le contenu réel des systèmes consultés est lui aussi décrit différemment. Le brouillon de Cathedral énumère des comptes rendus de réunion, des rémunérations et des discussions Slack ; Anthropic évoque des coordonnées professionnelles de certains clients et partenaires et des enregistrements de comptes élémentaires. Laquelle de ces descriptions est la plus proche de la réalité, il est pour l'instant impossible de le vérifier de l'extérieur, d'autant que le rapport de Cathedral n'est pas finalisé ni publié.

D'où vient cette société

Les quatre cofondateurs de Cathedral, Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein, ont tous travaillé au DOGE, et Kliger a aussi été directeur des données du Pentagone. Reuters a rapporté en juillet que la société avait levé 160 millions de dollars pour une valorisation de 1,4 milliard, sous la conduite de a16z et de Sequoia, avec pour cap des outils d'opérations cyber assistés par IA, à double usage offensif et défensif, destinés à l'armée américaine. Un haut responsable gouvernemental a déclaré au Washington Post que trois agences fédérales avaient déjà signé avec elle.

Si l'on met la chronologie bout à bout : l'argent arrive en juillet, et en octobre il y a déjà un cas public visant l'un des principaux laboratoires d'IA. On ignore ce qui a guidé Cathedral dans le choix de sa cible, mais le fait qu'Anthropic ait tenu à réfuter spécifiquement l'« impact sur la sécurité nationale » montre qu'elle ne veut pas que ce test passe pour une brèche majeure.

Les entreprises chinoises devraient s'y regarder

Pour les entreprises en Chine, l'avertissement est très direct. La plupart ont elles aussi leurs ressources humaines, leur CRM, leurs outils collaboratifs et leur authentification unique (SSO) accrochés à des SaaS externes, avec des autorisations souvent accordées en totalité et des jetons OAuth jamais révoqués. Le chemin démontré par Cathedral consiste à utiliser des agents pour ramener à une demi-journée le fait de « trouver un fournisseur plus faible et de remonter la chaîne d'autorisations vers l'intérieur ».

Ce qu'il y a à faire n'a rien de compliqué : recenser les applications externes reliées aux données internes, reconfigurer les droits selon le principe du moindre privilège, réexaminer périodiquement les jetons à longue durée de vie et mettre en place des alertes sur les comportements anormaux des comptes. Si Anthropic a pu repérer une partie de l'activité avant le rapport, c'est précisément grâce à ce dernier point.

Sources : The Washington Post, Cyber Security News, CocoLoop, Reuters ; le montant levé et la valorisation de Cathedral suivent Reuters, et l'étendue de l'accès a été confrontée séparément à la déclaration d'Anthropic et à la description du brouillon de rapport de Cathedral.