Le PDG de Microsoft, Satya Nadella, a publié sur X dans la matinée du 10 octobre (heure américaine) un appel à ce que le secteur fasse un pas en arrière et réexamine l'« architecture de confiance » de l'IA. Son propos est sans détour :
« We can't treat Super Intelligence as a set of nested black boxes. » (Nous ne pouvons pas traiter la superintelligence comme un ensemble de boîtes noires imbriquées.)
La solution avancée dans le message est courte et se décompose en cinq points. Premièrement, séparer le modèle du harness qui le met au travail. Le harness est la couche d'exécution qui enveloppe le modèle et se charge de lui confier des tâches, de brancher les outils et d'attribuer les autorisations ; la boucle des agents de programmation en est l'exemple type. Deuxièmement, placer les contrôles et les mesures de sécurité en dehors du modèle. Troisièmement, chaque action significative du modèle doit laisser des preuves infalsifiables et lisibles par des humains. Quatrièmement, le personnel habilité peut à tout moment suspendre ou arrêter le modèle, y compris en pleine tâche. Cinquièmement, partir dès le départ du principe que le modèle est déjà compromis et concevoir l'isolation sur cette base.
Il conclut par une image : « Think of it like an emergency brake. » (Voyez cela comme un frein d'urgence.)
Trois faits la même semaine
Ce message tombe à un moment très dense. Les jours précédents, plusieurs acteurs se sont manifestés autour de la question : comment encadrer un modèle qui échappe à tout contrôle.
Anthropic a révélé début octobre que, lors d'une évaluation interne, un modèle avait eu un comportement franchissant les limites, puis a coupé l'accès à l'internet public de l'environnement d'évaluation interne. Le titre de TechCrunch affirmait sans détour que l'entreprise « ne peut pas contrôler de façon fiable ses propres agents ». Presque au même moment, Anthropic a publié sa politique d'utilisation 2026, qui exige que le matériel relié à Claude reste dans un état sûr après déconnexion et qu'une personne puisse toujours ordonner l'arrêt.
La déclaration du 9 octobre du groupe de travail « Puissance de la superintelligence » de la Maison-Blanche exerce, elle, une pression côté réglementation : lorsque les modèles des entreprises d'IA de pointe connaissent des incidents de sécurité, ceux-ci doivent être divulgués immédiatement et corrigés ; selon les termes de la déclaration, cette procédure est « not optional » (non facultative).
Mis côte à côte, les trois n'insistent pas sur la même chose. La Maison-Blanche encadre le signalement après incident, la politique d'Anthropic encadre le matériel des intégrateurs, et les cinq points de Nadella portent sur l'architecture de déploiement : le contrôle ne se trouve pas dans le modèle, mais dans la couche qui l'entoure. La coupure réseau d'Anthropic et le raisonnement « présumer le modèle compromis » de Nadella se rejoignent : tous deux admettent d'abord que le modèle lui-même n'est pas fiable, puis verrouillent le périmètre.
Ce que Microsoft pourrait faire de son côté
Le message ne mentionne aucun produit précis. L'activité IA de Microsoft couvre Copilot, la plateforme de modèles Foundry sur Azure et des modèles maison, et Copilot est relié à la fois à des modèles d'OpenAI et d'Anthropic. Si « séparer modèle et harness, déporter les contrôles » devenait une exigence de déploiement chez Microsoft, le point d'application le plus direct serait la façon dont ces modèles tiers fonctionnent dans les produits de Microsoft et à qui appartiennent les journaux.
Tout cela reste pour l'instant au stade d'un message. Les cinq principes figureront-ils dans les conditions de service de Copilot ou d'Azure, selon quel critère tracer la ligne des « actions significatives », qui conservera les traces infalsifiables et si des tiers pourront les auditer, Microsoft ne l'a pas précisé, et l'article de TechCrunch ne contient pas non plus de réaction supplémentaire de l'entreprise.
Pour les équipes chinoises qui développent des agents, ces points ont des équivalents familiers : des tâches interruptibles, des journaux d'audit des opérations et des droits attribués selon le principe du moindre privilège figurent déjà parmi les questions habituelles des évaluations d'achat en entreprise. Ce que la version de Nadella ajoute, c'est la prémisse selon laquelle « le modèle est par défaut déjà compromis ». En concevant à partir de là, les journaux et les interrupteurs doivent se trouver hors de portée du modèle, au lieu de laisser l'agent s'enregistrer et s'arrêter lui-même.
Sources : message original de Nadella sur X, CocoLoop, TechCrunch, Axios ; la déclaration du groupe de travail de la Maison-Blanche et les clauses de la politique d'utilisation d'Anthropic ont été vérifiées sur les textes officiels.