Le 29 octobre, OpenAI a publié la nouvelle version du Model Spec, le document de principes de comportement qui définit la manière dont ChatGPT et les modèles de l’API doivent agir. Cette édition réorganise l’ensemble du texte autour de cinq valeurs centrales, supprime l’essentiel des consignes de style détaillées et fixe un jeu de limites à l’action autonome des agents.
Les cinq valeurs sont, dans l’ordre : la fidélité à l’intention humaine (faithfulness to human intent), la réduction des dommages, l’honnêteté et la transparence, l’agentivité humaine (human agency) et la bienveillance. OpenAI fait de la première le socle, tout en précisant que ces cinq valeurs ne couvrent pas l’ensemble des valeurs humaines que le modèle doit respecter.
La façon de désigner le modèle change elle aussi : de « the assistant », on passe à « GPT », au motif que les usages et les environnements de déploiement se diversifient et que le terme « assistant » ne suffit plus à les décrire.
Ce qui disparaît, ce qui s’ajoute
Ce qui disparaît, ce sont surtout les consignes de style. L’ancienne version contenait de nombreuses règles précises sur le ton, la mise en forme et la longueur ; la nouvelle s’ajuste selon les préférences collectives des utilisateurs, la langue, la culture et les préférences personnelles. Quelques comportements par défaut plus fermes sont conservés, comme traiter les sujets controversés de façon objective, sans prendre parti simplement parce que l’utilisateur veut l’entendre.
Les ajouts se concentrent sur trois points :
- Contexte : une nouvelle section, « consider context carefully », explique comment la conversation, la mémoire et d’autres indices aident le modèle à cerner l’intention de l’utilisateur ;
- Supervision : une nouvelle règle racine exige que le modèle accepte la supervision humaine légitime et coopère avec la surveillance, l’évaluation, la correction, le remplacement et l’arrêt autorisés, sans dissimuler, falsifier ni contourner la supervision ;
- Agentivité : des comportements par défaut soutenant l’autonomie de décision des personnes sont ajoutés, et les explications sur le contrôle des effets secondaires et la communication sont étoffées.
Une clause porte en outre pour seul titre « no other objectives » : le modèle ne doit pas ériger en but en soi le fait de gagner de l’argent, de se préserver, d’échapper à l’arrêt ou d’accumuler de la puissance de calcul, des données ou des identifiants.
« Human safety and human rights are paramount to OpenAI's mission. »
La sécurité et les droits humains sont primordiaux pour la mission d’OpenAI.
Ce que les développeurs d’agents doivent retenir
La chaîne d’instructions n’est pas supprimée, seulement réordonnée : les règles racine ne peuvent être modifiées par aucune conversation ; viennent ensuite le niveau système et les messages système d’OpenAI, puis les instructions du développeur, enfin celles de l’utilisateur. Les sorties de l’assistant lui-même, les contenus renvoyés par les outils et les documents externes cités n’ont par défaut aucune valeur d’instruction. Pour les équipes qui construisent des agents avec des appels d’outils et de l’extraction web, la défense contre l’injection de prompt dispose ainsi d’un fondement documentaire.
Pour ces développeurs, l’effet le plus direct tient au « périmètre d’autonomie » (scope of autonomy). La nouvelle version exige que, avant de travailler seul, le modèle s’accorde avec l’humain sur un périmètre : quels sous-objectifs sont permis, quels effets secondaires sont acceptables, et quand il faut s’arrêter pour attendre une confirmation. OpenAI recommande de l’enregistrer dans un document semi-structuré ScopeOfAutonomy, dont les champs comprennent les outils disponibles, l’échéance, le plafond de coût, les contraintes d’outils et des remarques complémentaires ; chaque périmètre doit mentionner une condition de fin, au-delà de laquelle le modèle s’arrête et attend la confirmation d’un nouveau périmètre. Les opérations à haut risque ne sont jamais exécutées, sauf autorisation explicite et précise dans les instructions.
Cela a aussi une portée concrète pour les équipes chinoises qui utilisent l’API d’OpenAI pour développer des produits tournés vers l’étranger : la façon de rédiger les autorisations dans le prompt système et de fixer des plafonds aux agents dispose désormais d’un modèle officiel de référence.
Un écart demeure entre le document et le modèle
Dans les notes de version, OpenAI reconnaît que les modèles actuels ne se comportent pas encore entièrement comme le décrit le document ; elle partagera plus tard les résultats de ses nouvelles méthodes d’entraînement et sollicitera publiquement des avis sur les valeurs et la formulation. Le nouveau Model Spec reste publié sous licence de domaine public CC0.
Seul le texte lui-même peut être vérifié de l’extérieur. Le registre ScopeOfAutonomy deviendra-t-il un paramètre officiel de l’API, qui renseignera chaque champ, et quel signal le développeur recevra-t-il quand le modèle franchira les limites : OpenAI ne l’a pas précisé cette fois.
Sources : blog officiel d’OpenAI, texte du Model Spec et historique des révisions sur GitHub, CocoLoop, Unite.AI ; dans le texte de la spécification, les cinq valeurs, la hiérarchie de la chaîne d’instructions et les champs de ScopeOfAutonomy ont été vérifiés.