Thibault Sottiaux (Tibo), responsable de Codex chez OpenAI, a annoncé sur X tard dans la soirée du 11 octobre que, lorsqu’on utilise GPT-6.1 Sol dans Codex et ChatGPT Work, la longueur de contexte par défaut passe de 272 000 tokens à 500 000 tokens. Selon ses propres termes, soit une hausse d’environ 80 %.
C’est le septième jour du programme « 28 jours de mises à jour consécutives » de l’équipe Codex. Le programme a été dévoilé le 4 octobre ; sa règle est que, chaque jour, soit une amélioration utile à la plupart des utilisateurs est mise en ligne, soit les quotas de tout le monde sont réinitialisés.
Ce qui change
Sottiaux ne donne qu’une raison : réduire le nombre de fois où la compaction du contexte (compaction) se déclenche. Dans les tâches longues, l’agent de Codex ne cesse d’empiler dans le contexte du contenu de fichiers, des sorties de commandes et des journaux d’appels d’outils. Quand la fenêtre est pleine, le système doit compresser l’ancien contenu pour continuer. Le prix à payer est la perte de détails : l’agent peut oublier la signature d’une fonction lue plus tôt ou tel message d’erreur.
"It was carefully tested and is the new sweet spot for most of our users."
(La valeur a été testée avec soin et constitue le nouveau juste milieu pour la plupart de nos utilisateurs.)
La nouvelle valeur par défaut peut être relevée ou abaissée manuellement. Dans son message, il indique un plafond de 1 million ; la page du modèle d’OpenAI donne pour GPT-6.1 Sol une fenêtre complète de 1,05 million de tokens, avec une sortie maximale de 128 000. Il a ajouté « We will go higher in the future », sans préciser de calendrier.
Selon certains articles, cet ajustement n’entraîne pas de surcoût pour les abonnés. Le message de Sottiaux ne parle pas de prix, et la question de savoir si une fenêtre par défaut plus grande fera fondre plus vite l’usage hebdomadaire n’a pas non plus été tranchée publiquement par OpenAI pour l’instant ; il faudra se fier aux précisions officielles ultérieures sur la consommation.
D’où vient ce 272 000
L’ancienne valeur par défaut de 272 000 n’avait rien d’arbitraire. La page du modèle d’OpenAI précise que, lorsque l’entrée d’une requête API vers GPT-6.1 Sol dépasse 272 000 tokens, l’ensemble de l’entrée et de l’entrée mise en cache est facturé au double, et la sortie à 1,5 fois. Selon un calcul approximatif sur le tarif standard de 2 dollars par million de tokens en entrée et 10 dollars en sortie, une fois cette ligne franchie on passe à environ 4 dollars en entrée et environ 15 dollars en sortie.
La valeur par défaut coïncide exactement avec le seuil de majoration, ce qui conduit certaines analyses à supposer que l’ancien réglage visait à protéger les utilisateurs du coût des contextes longs. Sottiaux ne l’a pas confirmé. Les abonnés paient au quota plutôt qu’au token, et la façon dont les deux logiques se convertissent est invisible de l’extérieur.
Relier les derniers jalons
La gestion du contexte de Codex bouge sans cesse depuis deux mois :
- Début septembre, le dépôt openai/codex a fusionné plusieurs pull requests allant dans le sens suivant : quand la session est pleine, on ne génère plus de résumé mais on ouvre une nouvelle fenêtre, avec un outil de recherche dans l’historique pour que le modèle relise lui-même les anciens enregistrements ;
- Le 30 septembre, un utilisateur a ouvert un ticket sur GitHub indiquant que, dans la version de bureau de Codex, un nouveau fil auquel on ne répond que « OK » affichait déjà pour GPT-6.1 Sol une occupation du contexte d’environ 208 000 / 258 000, contre environ 40 000 pour GPT-6 Sol dans le même scénario. L’auteur du signalement reconnaissait lui-même ne pas pouvoir dire si les tokens en trop étaient réellement envoyés au modèle ou si l’affichage des statistiques était erroné. Le ticket a été marqué comme terminé et fermé le 8 octobre, et la page ne contient aucune réponse d’un employé d’OpenAI ;
- Le 11 octobre, la fenêtre par défaut est passée à 500 000.
Mis côte à côte, ces trois éléments montrent que Codex modifie le mécanisme de compaction tout en agrandissant la fenêtre, deux voies qui visent le même symptôme : l’agent qui « oublie » en cours de tâche longue. L’existence d’un lien direct entre cet ajustement et ce signalement n’a pas été commentée officiellement. Si un nouveau fil qui engloutit plus de deux cent mille tokens dès le départ reste d’actualité, les 258 000 d’espace utilisable d’avant étaient presque épuisés dès le démarrage ; avec 500 000, la marge sera bien plus confortable.
Pour les développeurs de Chine continentale, Codex nécessite un compte ChatGPT payant. Ce changement ne concerne que GPT-6.1 Sol dans les deux points d’entrée Codex et Work ; les projets qui appellent directement l’API ne sont pas touchés, la longueur du contexte reste décidée par l’émetteur de la requête, et le seuil de tarification n’a pas bougé non plus.
Sources : annonce de Thibault Sottiaux sur un réseau social, page du modèle GPT-6.1 Sol d’OpenAI, CocoLoop, FourWeekMBA ; le ticket du dépôt openai/codex a permis de vérifier les chiffres d’occupation du contexte des nouveaux fils, et la page du modèle de vérifier la limite de la fenêtre et les multiplicateurs de tarification du contexte long.