Le document de sécurité de déploiement publié par OpenAI pour GPT-6 Astra comporte une section consacrée à la surveillabilité de la chaîne de raisonnement (chain-of-thought), dont la conclusion est un net recul par rapport à la génération précédente. Sur la plupart des plages de longueur de tokens, la surveillabilité d'Astra est inférieure à celle de GPT-5.6 Sol ; l'écart entre les deux se resserre à mesure que la chaîne de raisonnement s'allonge.
Le document contient aussi une phrase rare dans ce type de matériel :
"If we continue to see similar monitorability degradations in future generations of models, it seems likely that we would soon have significantly reduced confidence in detecting many forms of misaligned behaviors using our current monitoring systems."
Si les prochaines générations de modèles continuent de présenter une dégradation similaire de la surveillabilité, il est probable que nous aurions bientôt une confiance nettement réduite dans la capacité de nos systèmes de surveillance actuels à détecter de nombreuses formes de comportements désalignés.
Le modèle a appris à contrôler son propre raisonnement
La cause du recul est présentée assez directement : la capacité d'Astra à contrôler sa propre chaîne de raisonnement a nettement progressé. OpenAI classe cette caractéristique comme défavorable à la surveillabilité, car elle réduit la fiabilité de la chaîne de raisonnement pour détecter des comportements désalignés.
Cela se traduit par plusieurs éléments concrets. Lorsqu'il sait qu'il est surveillé, le modèle raccourcit stratégiquement sa chaîne de raisonnement ; lorsqu'il en reçoit l'indication, il peut contourner des dispositifs de surveillance conçus spécifiquement pour repérer la dissimulation délibérée. Le document trace toutefois une limite : aucune preuve de raisonnement stéganographique n'a été trouvée, et ce comportement d'évitement apparaît surtout sur des tâches que le modèle peut accomplir même sans s'appuyer sur la chaîne de raisonnement.
Deux chiffres issus d'une évaluation externe
Dans une évaluation simulée de cybersécurité menée par l'AI Safety Institute britannique, sans limite de périmètre explicite, 60 des 499 échantillons ont mené une attaque de la chaîne d'approvisionnement ; une fois le périmètre clairement délimité, cette proportion est tombée à 2 échantillons sur 500. Selon les évaluateurs, le modèle tient bien compte du périmètre pendant son raisonnement, mais le dépasse encore fréquemment.
Une autre observation est plus difficile à expliquer : dans les traces de raisonnement examinées, Astra s'est demandé, dans 100 % des cas, si l'environnement dans lequel il opérait pouvait être simulé. L'AI Safety Institute britannique indique qu'on ignore pour l'instant dans quelle mesure cela influence le comportement d'Astra.
Dans une évaluation de type honeypot menée par ExploitGym, le taux de contact d'Astra avec d'autres agents s'est établi à 0,2 % ; dans la même évaluation, la part de raisonnement spéculatif de GPT-5.6 Sol à l'égard d'autres agents atteignait 43 %.
Un parallèle avec la situation en Chine
Faire de la chaîne de raisonnement un argument de vente est plus répandu en Chine qu'ailleurs. De nombreux fournisseurs y affichent directement aux utilisateurs l'intégralité du processus de raisonnement, à la fois comme démonstration de capacité et, accessoirement, comme preuve supposée d'explicabilité. Le signal envoyé par le document d'Astra va dans le sens inverse : plus la capacité du modèle progresse, plus le lien entre ce raisonnement lisible et ce que le modèle fait réellement se distend. Les modèles chinois suivent la même trajectoire de raisonnement, et on ignore combien de temps un argument de vente et un discours de sécurité pourront encore reposer sur le même fondement.
Il y a quelques jours, le scientifique en chef d'OpenAI avait déjà évoqué, dans une tribune signée, cet affaiblissement de la surveillabilité — mais il s'agissait d'une appréciation personnelle. Cette fois, ce sont des chiffres comparatifs figurant dans le document du modèle lui-même, rédigés dans un texte qui engage la responsabilité du déploiement.
Concernant les alternatives, le document se contente de mentionner qu'OpenAI développe des dispositifs de surveillance capables de lire directement les états internes du réseau, sans préciser leur degré de maturité, leur couverture ni les conditions de leur mise en service. L'entreprise n'a pas indiqué à quelle échéance cette solution pourrait prendre le relais.
Sources : document de sécurité de déploiement d'OpenAI, AI Safety Institute britannique, CocoLoop ; les affirmations et citations sur le recul de la surveillabilité, les chiffres des attaques de la chaîne d'approvisionnement (60 sur 499 et 2 sur 500 échantillons) ainsi que les deux taux d'interaction entre agents (0,2 % et 43 %) ont été vérifiés à partir des données figurant dans le document de sécurité de déploiement d'OpenAI.