Un document du département de la Défense américain obtenu par la presse indique que l'acheteur a exigé d'OpenAI une version spéciale du modèle, dotée d'un "taux de refus minimal" face aux instructions émises par le Pentagone. Le document porte le numéro P00003 et correspond à un contrat plafonné à 200 millions de dollars sur une durée de deux ans ; la version signée le 6 février est un accord d'extension, celle signée le 27 février concerne le déploiement réseau.
Le taux de refus est un indicateur mesurable dans le déploiement d'un modèle : la proportion d'instructions que le modèle reçoit et juge contraires à la politique de sécurité, et qu'il refuse donc d'exécuter. Réduire ce taux au minimum revient à retirer purement et simplement cette couche de politique de sécurité du système.
Trois versions qui ne concordent pas
Le porte-parole d'OpenAI, Nate Evans, a répondu que l'entreprise n'avait jamais accepté de clause contractuelle exigeant un "taux de refus minimal", et que le contrat officiellement signé ne contient pas ce passage. Le porte-parole du Pentagone, Jacob Bliss, a déclaré que cette formulation n'existe dans aucun contrat actuellement en vigueur entre le département de la Défense et OpenAI.
Les deux parties qualifient ce document de brouillon. Selon les informations rapportées, les avocats du Pentagone avaient auparavant confirmé qu'il s'agissait de la version officielle, avant de revenir sur leurs propos. Pour l'heure, aucun tiers n'est en mesure de vérifier quelle version constitue le texte définitif.
Heidy Khlaaf, scientifique en chef de l'AI Now Institute, a livré son analyse de cette formulation :
"'Minimal refusal rate' likely means the model used has few or no safety guardrails at all."
Un "taux de refus minimal" signifie probablement que le modèle utilisé ne dispose que de peu, voire d'aucun garde-fou de sécurité.
Une autre entreprise sur la même ligne d'acquisition
Sur cette même ligne d'acquisition d'IA du département de la Défense, une autre entreprise se trouve dans une position exactement inverse. Anthropic a refusé de céder totalement sur le périmètre des usages militaires et, après l'échec des négociations avec le Pentagone, a été classée comme risque pour la chaîne d'approvisionnement, sa technologie étant interdite dans les agences fédérales ; après que l'entreprise a porté plainte, un tribunal fédéral de district de San Francisco a jugé cette classification illégale, estimant que le département de la Défense avait voulu en faire un exemple public.
En mettant ces deux faits côte à côte, la préférence de l'acheteur sur cette ligne apparaît clairement : ceux qui exécutent les ordres passent devant, ceux qui refusent passent derrière. Reste à savoir si cette préférence s'est réellement traduite noir sur blanc dans une clause contractuelle, ce qui constitue précisément le cœur de la controverse actuelle.
Ce qui n'a pas encore été rendu public
Le texte intégral du contrat de 200 millions de dollars n'a pas été publié. On ignore quels livrables il comprend, dans quels types de scénarios le modèle est déployé, et qui contrôle les sorties. OpenAI n'a pas répondu directement à la question de savoir si l'entreprise avait déjà réalisé une quelconque version sur mesure pour le département de la Défense ; celui-ci n'a pas non plus expliqué qui, à l'origine, a inséré dans le document l'expression "taux de refus minimal".
Si ce type de clause venait à être confirmé, les répercussions ne se limiteraient pas à une seule entreprise. Les exigences techniques des marchés militaires ont tendance à se propager le long de la liste des fournisseurs, et un critère de réception une fois inscrit dans un contrat public peut facilement devenir l'objectif technique par défaut de toute la chaîne. Pour l'instant, ce n'est encore qu'une ligne dans un document dont la paternité reste incertaine.
Sources : The Intercept, AI Now Institute, CocoLoop, ITHome ; le plafond de 200 millions de dollars, la durée de deux ans, le numéro de document P00003 et la nature des deux documents signés sont rapportés d'après le texte des documents obtenus par la presse ; les citations des réponses des trois parties ont été vérifiées à partir des déclarations publiques de chacune.