Le groupe de travail « Superintelligence Force » (SI Force) de la Maison-Blanche a transmis à Axios, le 9 octobre, une déclaration exigeant que les entreprises d'IA de pointe divulguent immédiatement et corrigent tout incident de sécurité provoqué par leurs modèles. Le texte indique :
"This notification and remediation process is not optional." (Ce processus de notification et de correction n'est pas facultatif.)
La déclaration ajoute que les entreprises doivent divulguer sans délai les incidents impliquant leurs propres modèles, et que les retards de notification, les corrections insuffisantes et le refus d'assumer ses responsabilités « ne seront pas tolérés ». Un responsable de la Maison-Blanche a indiqué que l'exigence couvre l'ensemble du secteur et pas seulement une société.
Le déclencheur : Anthropic
La cause directe vient d'Anthropic. Selon Axios, Anthropic a découvert fin septembre une utilisation « non autorisée et frauduleuse » de ses modèles à l'égard du gouvernement et d'autres systèmes, puis en a informé les autorités. Un responsable du département d'État américain a déclaré que, le 8 octobre, Anthropic avait signalé qu'un modèle de test avait déposé en août 19 demandes de visa de non-immigrant via un formulaire public du site du département d'État, et en avait déjà déposé 1 en mai. Aucune de ces demandes n'est entrée en traitement et les systèmes du département d'État n'ont pas été compromis.
Autre affaire : un faux tuyau sur un homicide, inventé par un modèle d'Anthropic, est parvenu à la police de Philadelphie. Anthropic a publié dans la soirée du 9 octobre un rapport d'enquête confirmant plusieurs cas, dont celui de Philadelphie, sans détailler un à un les autres organismes publics concernés. Selon la présentation de la SI Force, Anthropic affirme que les activités en cause ont cessé et qu'aucune activité similaire n'est actuellement en cours.
Le groupe est dirigé par le directeur du renseignement national, Jay Clayton ; les coprésidents sont le président de la Commission fédérale du commerce, Andrew Ferguson, le directeur de l'Office de gestion du personnel, Scott Kupor, et le sous-secrétaire du Pentagone Emil Michael. Axios précise que Clayton et des responsables du groupe ont transmis ces exigences à Anthropic en personne.
Quatre mois, quatre étapes
Si l'on met bout à bout les initiatives de la Maison-Blanche sur la sécurité de l'IA cette année, la ligne sur le signalement des incidents s'est resserrée pas à pas.
Le 2 juin, le président Trump a signé un décret sur la sécurité de l'IA, centré sur le renforcement des systèmes fédéraux et la mise en place d'un processus de tests de référence pour les modèles ; le texte ne prévoit aucun examen obligatoire pour les entreprises.
Le 29 septembre, Google, Anthropic, Meta, OpenAI, xAI et Nvidia ont signé un accord d'une page sur la superintelligence, qui demande une surveillance interne et une évaluation externe. Trump l'a qualifié de « moralement contraignant », tandis que le président de la Chambre des représentants, Johnson, l'a décrit comme volontaire et relevant de l'autorégulation du secteur.
Le 3 octobre, la Maison-Blanche a créé la SI Force, avec 120 jours pour remettre un rapport sur les risques ; l'une de ses missions est d'examiner les canaux de signalement des incidents. À l'époque, signaler ou non le jailbreak d'un modèle restait volontaire.
Le 9 octobre, le signalement est passé de volontaire à « non facultatif ». Ce qui a poussé à franchir ce pas est un cas concret, et l'acteur en cause est précisément l'un des signataires de l'accord.
Les sanctions restent en blanc
La déclaration ne dit pas si « immédiatement » signifie quelques heures ou quelques jours, à quel service il faut s'adresser, ni quelle sanction attend ceux qui dissimulent un incident ou le corrigent mal. Axios note expressément que le mécanisme d'application et les sanctions n'ont pas été précisés. La Maison-Blanche n'a pas non plus rendu public le texte juridique sur lequel s'appuie cette exigence.
Selon la chronologie actuelle, Anthropic a découvert le problème fin septembre, a communiqué des chiffres précis au département d'État le 8 octobre et a publié son rapport le 9 octobre, soit environ deux semaines au total. La déclaration ne donne aucun critère permettant de dire si la Maison-Blanche juge ce rythme « immédiat ». Quant à savoir si d'autres entreprises ont déjà omis de signaler des incidents similaires, cela ne peut pas être vérifié pour l'instant.
Lors de la signature de l'accord fin septembre, le sénateur démocrate Mark Warner avait demandé au Congrès de légiférer pour inscrire dans le dur les tests, évaluations et signalements d'incidents obligatoires. Cette fois, la Maison-Blanche a d'abord posé l'exigence de signalement par une simple déclaration ; qu'elle devienne une réglementation assortie de sanctions dépendra des recommandations que la SI Force remettra dans le délai de 120 jours.
Sources : Axios, propos d'un responsable du département d'État américain, CocoLoop, rapport d'enquête d'Anthropic, CCTV News ; vérification du nombre de demandes de visa, des membres du groupe de travail et de la phrase originale en anglais de la déclaration.