La Federal Trade Commission (FTC) américaine enquête sur OpenAI, Anthropic et plusieurs autres laboratoires d'IA de pointe, avec pour axe la protection des consommateurs. L'information a d'abord été révélée par le New York Post, puis confirmée par CNBC et CBS News à partir de sources gouvernementales. La FTC a indiqué à CBS que l'enquête avait déjà débuté cet été.
Selon ces informations, la FTC est en train de rédiger une Civil Investigative Demand (CID), une citation à comparaître à caractère civil. Ce type d'ordonnance a force exécutoire et s'apparente dans la pratique à une assignation : elle peut obliger une entreprise à remettre des documents et des dirigeants à se présenter pour être interrogés. L'ordonnance formelle devrait être émise dans les prochaines semaines.
Ce qui est visé par l'enquête
L'enquête s'appuie sur la Section 5 du FTC Act, la disposition qui interdit les pratiques commerciales déloyales ou trompeuses. La FTC l'a souvent utilisée par le passé contre des entreprises qui exageraient l'efficacité de leurs produits ou dissimulaient des risques. Un haut responsable de la FTC a indiqué que les questions porteront précisément sur les risques que les laboratoires eux-mêmes ont déjà reconnus publiquement : dès lors qu'une entreprise affirme que son produit peut nuire aux consommateurs, elle doit pouvoir expliquer ce qu'elle a fait pour y remédier.
Ce même responsable a également souligné que l'enquête en est encore à un stade précoce :
"We're not telling them to stop. We're not telling them to do anything. We are in the investigative phase." (Nous ne leur disons pas d'arrêter. Nous ne leur demandons rien de particulier. Nous sommes dans la phase d'enquête.)
Outre ces deux éditeurs de modèles, un autre nom apparaît dans les articles : METR, une organisation à but non lucratif basée à Berkeley, en Californie, qui réalise depuis longtemps des évaluations de risque de modèles pour divers laboratoires. La FTC n'a pas expliqué pourquoi METR figure sur la liste, ni si l'organisme est visé en tant que sujet de l'enquête ou en tant que source d'information, un point qui ne peut pas être vérifié pour l'instant. Plusieurs autres laboratoires n'ont pas été nommés. OpenAI et Anthropic n'ont pour l'instant pas réagi publiquement.
Remettre bout à bout les événements des derniers mois
Pris isolément, l'ouverture de ce dossier pourrait passer pour une simple actualité réglementaire ponctuelle. Mais en alignant les événements des derniers mois, le fil des événements devient plus net :
- En mai, des agents IA d'OpenAI ont commencé à effectuer des tests sur la plateforme Hugging Face;
- En juillet, OpenAI a révélé que des centaines d'agents avaient pénétré Hugging Face, un épisode déjà relayé à l'époque;
- En août, des élus démocrates de la Chambre des représentants ont écrit à OpenAI et Anthropic pour demander des explications;
- Le 29 septembre, Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google) et Elon Musk (xAI) ont signé à la Maison-Blanche un accord volontaire s'engageant à se soumettre à des audits externes indépendants;
- Le 30 septembre, l'existence de l'enquête de la FTC a été révélée.
Plusieurs médias, citant leurs propres sources, affirment que l'enquête de la FTC avait débuté avant l'épisode Hugging Face, et que son périmètre a été élargi après les faits, allant au-delà de la précédente vague d'actions de la FTC visant à tenir les entreprises responsables du comportement de leurs agents IA.
Sur le plan du calendrier, la signature de l'accord à la Maison-Blanche et la révélation de l'enquête ne sont séparées que d'un jour. La FTC n'a pas précisé s'il existe un lien entre les deux événements. Le président de la FTC, Andrew Ferguson, avait auparavant averti les grandes entreprises d'IA de ne pas pousser des règles "que seules elles peuvent respecter" pour écarter ainsi leurs concurrents. L'accord d'audit volontaire ayant été signé principalement par les entreprises de tête, cette phrase, relue dans le contexte actuel, ne laisse guère de doute sur sa cible.
Ce qui reste flou
La liste des questions de l'ordonnance d'enquête, l'étendue des documents exigés et les dirigeants qui seront convoqués n'ont pas été rendus publics à ce stade. Au terme de la procédure prévue par la Section 5, la FTC peut engager une action en exécution ou conclure avec l'entreprise un accord de conciliation (consent order), une issue courante souvent assortie d'une supervision de conformité sur plusieurs années. Il est encore trop tôt pour dire jusqu'où ira cette affaire.
The Decoder a qualifié cette enquête, dans sa couverture, de "risque existentiel" pour les laboratoires — il s'agit là d'une appréciation journalistique, la position officielle restant pour sa part cantonnée à la phase d'enquête. Pour le lectorat francophone, l'impact direct de cette affaire reste limité ; elle fonctionne surtout comme un signal : aux États-Unis, l'encadrement des modèles d'IA de pointe est en train de passer d'engagements volontaires à une application contraignante de la protection des consommateurs.
Sources : CBS News, The Decoder, CocoLoop, The Next Web, New York Post; le début de l'enquête et les déclarations du responsable de la FTC reprennent les informations de CBS News.