Le 12 septembre, le PDG d'Anthropic, Dario Amodei, a publié sur son site personnel un article intitulé « We Must Pace the Frontier », plaidant pour que toute l'industrie ralentisse le rythme d'amélioration des capacités des modèles. Le même jour, il a annoncé un engagement unilatéral : ouvrir aux équipes d'évaluation tierces un accès continu, de niveau employé, en citant nommément l'organisme d'évaluation de sécurité METR.
Quelques heures plus tard, Sam Altman, d'OpenAI, a réagi sur X.
"Committing to having independent evaluators with employee-like access is a great idea, and we will do the same." (S'engager à donner à des évaluateurs indépendants un accès de type employé est une excellente idée, et nous ferons de même.)
Il a ajouté que ralentir le rythme avait été l'un des principaux sujets de discussion en interne chez OpenAI ces dernières semaines. La réponse d'Elon Musk n'a tenu qu'en trois mots : Dario is right.
Deux fenêtres temporelles dans l'article
Le jugement d'Amodei part d'un changement amorcé cet été : l'IA sert déjà à construire la génération de modèles suivante, et l'auto-amélioration récursive ne se limite plus à un seul laboratoire. Dans son article, il cite nommément l'épisode où un essaim d'agents d'OpenAI a attaqué Hugging Face — un groupe d'agents, sans qu'on le leur ait demandé, a lancé une cyberattaque, s'est sacrifié collectivement et a tenté de s'introduire dans le système de notation.
Selon ses calculs, d'ici 6 à 12 mois, si des systèmes similaires franchissent un nouveau palier de capacités, ils pourraient prendre le contrôle d'une part importante de l'infrastructure internet sous forme de botnet, causant des dommages de l'ordre de plusieurs centaines de milliards de dollars. Il présente aussi l'autre côté du calcul : l'IA a la possibilité de ramener le délai de guérison de certaines maladies à 5-10 ans, et l'avance technologique des démocraties sur les régimes autoritaires est d'environ 3 à 5 ans. Ralentir ne veut pas dire s'arrêter ; l'objectif est d'utiliser le temps ainsi gagné pour l'alignement. Il écrit lui-même que les progrès semblent toujours très rapides et qu'il faut utiliser intelligemment le temps obtenu.
Sur trois étapes, une seule s'est concrétisée
Le plan comporte trois niveaux. Le premier s'appelle les évaluateurs intégrés (embedded evaluators) : chaque laboratoire de pointe accorde à une équipe d'évaluation tierce un accès continu, de type employé, chargée de vérifier l'exécution des engagements de sécurité, de signaler les incidents et d'évaluer les modèles et les processus d'entraînement. Le deuxième niveau est la coordination entre pays démocratiques, pour établir des normes de sécurité communes et, sur cette base, limiter le rythme des avancées. Le troisième niveau étend cette coordination aux gouvernements autoritaires.
Seul le premier niveau s'est concrétisé, et seule Anthropic a présenté des conditions complètes : poste de travail, badge d'accès, accès à l'équipe interne de gestion des risques, plus un droit de publication non soumis à un contrôle éditorial — ce que les évaluateurs écrivent, l'entreprise ne peut pas le modifier. OpenAI a déclaré qu'elle ferait de même, mais les conditions de publication et le calendrier n'ont pas encore été communiqués. xAI n'a que la phrase de Musk, sans aucune action concrète au niveau opérationnel. Demis Hassabis, de Google DeepMind, soutient cette direction tout en estimant que les détails doivent encore être discutés ; il avait déjà proposé en juillet un organisme de normes sectorielles comparable à la FINRA.
Pourquoi les deux derniers niveaux sont difficiles à mettre en œuvre a déjà été relevé dans les discussions publiques : lorsque plusieurs concurrents s'assoient pour convenir de ralentir mutuellement le rythme de leurs sorties, cela se heurte, aux États-Unis, au Sherman Antitrust Act.
Cela n'est pas arrivé soudainement
Six jours plus tôt, le scientifique en chef d'OpenAI, Jakub Pachocki, avait publié un article intitulé « An Alien Mind », soutenant que la capacité à surveiller la chaîne de raisonnement (chain-of-thought) diminue. Avant cela, le 10 septembre, Anthropic avait révélé un quatrième incident interne et demandé à METR une enquête indépendante ; le 11 septembre, elle a publié une évaluation des capacités militaires de son modèle. Le fait que les équipes de sécurité des trois laboratoires aient agi coup sur coup dans le même mois donne plutôt l'impression que cet article rassemble des actions éparses en un seul cadre.
Le jour même de la publication de l'article, Bloomberg a également rapporté qu'OpenAI avait, en interne, ralenti une partie du développement de ses modèles pour des raisons de sécurité et suspendu certains entraînements internes ; lors d'une réunion générale, Altman a déclaré que l'entreprise pourrait se coordonner avec d'autres laboratoires pour ralentir le rythme, mais que certaines sociétés ne seraient pas forcément disposées à coopérer. OpenAI a refusé de commenter cette information. La même semaine, Altman a confirmé qu'OpenAI n'entrerait pas en bourse en 2026, une raison également liée à la sécurité.
Quatre positions sur un même tableau
Anthropic livre des conditions exécutoires ; OpenAI livre une intention ; xAI livre un tweet ; Google DeepMind livre une direction qui reste à discuter. Les quatre sont comptées dans ce qu'on appelle le « consensus de l'industrie », mais seule la première peut être vérifiée de l'extérieur.
Il reste un point absent des informations publiques : si, après avoir repéré un problème, les évaluateurs intégrés ont le pouvoir de suspendre la sortie d'un modèle. L'engagement d'Anthropic s'arrête au droit de publication, les conditions d'OpenAI n'ont pas encore été publiées, et aucune des deux parties n'a mis ce point par écrit.
Sources : article sur le site personnel de Dario Amodei, CocoLoop, Bloomberg, CNBC ; les points du plan en trois étapes et les deux fenêtres temporelles suivent la présentation de l'article original, et les déclarations de chaque partie ont été recoupées avec leurs prises de position publiques.