OpenAI a confié le "premier regard" d'une partie de son équipe de sécurité au modèle : les nouvelles alertes sont désormais triées d'abord par l'IA, les humains n'intervenant que sur les décisions à fort impact. Le 17 août, Greg Brockman a rendu ce dispositif public dans un article consacré à la sécurité, en formulant une proposition plus précise : les équipes de sécurité ne devraient pas se contenter d'utiliser l'IA pour trouver davantage de vulnérabilités, mais aussi pour raccourcir le chemin vers la correction des failles réelles.
Il ne s'agit pas d'une fonctionnalité logicielle lancée isolément. C'est plutôt une prise de position publique d'OpenAI sur le rythme de l'automatisation dans l'attaque comme dans la défense : les modèles savent déjà relier vulnérabilités, mauvaises configurations et relations d'identité disposant de droits excessifs pour former des chemins d'attaque complets ; si les équipes défensives continuent à avancer au rythme classique des tickets, l'accumulation de tâches se transformera en risque avant même que les capacités n'aient pu progresser.
Le triage des alertes automatisé en premier
Selon OpenAI, "presque toutes" les alertes de sécurité initiales passent aujourd'hui d'abord par un système intelligent de triage avant d'impliquer des humains. L'entreprise relie aussi de plus en plus les résultats de détection à des réponses automatisées aux limites bien définies, tout en laissant les décisions à fort impact entre les mains des humains.
La citation originale est : "The goal is to ensure we can detect and respond to security issues at machine speed." Autrement dit, il s'agit d'accélérer le tri répétitif, une tâche adaptée aux machines, tout en laissant l'extension des droits, les changements en production et le jugement sur les incidents entre les mains des équipes de sécurité.
L'exemple personnel donné dans l'article illustre également la méthode de travail qu'OpenAI cherche à promouvoir : Brockman a fait examiner son site statique personnel par GPT-5.6 Sol, la version accessible au public, qui a trouvé 13 problèmes en environ 15 minutes ; le modèle a ensuite aidé à corriger, en une heure environ, des problèmes liés au DNS, au TLS, aux dépendances et à la migration du déploiement. Ce cas provient du dirigeant de l'entreprise lui-même et ne doit pas être considéré comme une référence de performance générale, mais il illustre la tendance à comprimer "détection, vérification et correction" dans un seul et même flux de travail.
D'abord scanner le tronçon le plus étroit
OpenAI ne recommande pas aux entreprises de construire directement un centre d'opérations de sécurité sans supervision humaine. Le chemin proposé reste prudent : d'abord un scan en lecture seule d'un dépôt de code, puis laisser le modèle lire les alertes déjà closes ; une fois le processus jugé fiable, on passe à la revue des pull requests, au triage des alertes en direct, puis à la fermeture automatique des faux positifs dans un périmètre clairement défini.
Cet ordre mérite attention. Le point le plus susceptible de poser problème dans l'automatisation de la sécurité n'est généralement pas la capacité du modèle à détecter des anomalies, mais les droits auxquels ces anomalies se trouvent reliées. L'article revient à plusieurs reprises sur des contrôles classiques comme le principe du moindre privilège, l'isolation réseau, la surveillance et les déploiements sécurisés ; une fois l'IA intégrée au processus, ces contrôles ne perdent pas leur utilité - ils deviennent au contraire encore plus nécessaires à clarifier.
Pour les équipes de développement, l'indicateur vérifiable aujourd'hui ne devrait pas se limiter au "nombre de problèmes trouvés par le modèle". Il est plus utile de suivre le temps écoulé entre la découverte et la confirmation d'un problème prioritaire, de vérifier si les correctifs s'accompagnent de tests de non-régression, et si les actions automatisées restent toujours dans les limites des droits accordés. La nouvelle prise de position d'OpenAI met ces indicateurs d'ingénierie au premier plan du discours sur les produits de sécurité IA.
Sources : article de sécurité d'OpenAI ; CocoLoop ; vérification du triage des alertes par IA, de la limite des décisions humaines et du cas du site personnel.