OpenAI hat am 29. Oktober eine neue Fassung des Model Spec veröffentlicht, also jenes Regelwerks, mit dem das Unternehmen festlegt, wie sich ChatGPT und die API-Modelle verhalten sollen. In dieser Version ist das gesamte Dokument unter fünf Kernwerten neu gegliedert, ein Großteil der kleinteiligen Stilvorgaben wurde gestrichen, und für das eigenständige Handeln von Agenten gibt es nun einen Satz von Grenzen.
Die fünf Werte lauten der Reihe nach: Treue zur menschlichen Absicht (faithfulness to human intent), Schadensminderung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit (human agency) und Fürsorge. OpenAI erklärt den ersten Wert zur Grundlage, betont aber zugleich, dass diese fünf nicht alle menschlichen Werte abdecken, die ein Modell respektieren sollte.
Auch die Bezeichnung des Modells im Dokument hat sich geändert: Aus „the assistant“ wird „GPT“. Begründet wird das damit, dass die Einsatzszenarien und Bereitstellungsumgebungen immer vielfältiger werden und „Assistent“ sie nicht mehr treffend beschreibt.
Was gestrichen wurde und was neu hinzukam
Gestrichen wurden vor allem Stilrichtlinien. Die alte Fassung enthielt viele konkrete Vorgaben zu Tonfall, Formatierung und Länge; die neue richtet sich nach den kollektiven Präferenzen der Nutzer, nach Sprache, Kultur und persönlichen Vorlieben. Einige härtere Standardverhaltensweisen bleiben erhalten, etwa der sachliche Umgang mit umstrittenen Fragen, ohne dass das Modell eine Haltung einnimmt, nur weil der Nutzer sie hören möchte.
Die Ergänzungen konzentrieren sich auf drei Bereiche:
- Kontext: Ein neuer Abschnitt „consider context carefully“ beschreibt, wie Gespräch, Gedächtnis und andere Hinweise dem Modell helfen, die Absicht des Nutzers einzuschätzen;
- Aufsicht: Eine neue Wurzelregel verlangt, dass das Modell legitime menschliche Aufsicht akzeptiert und autorisierte Überwachung, Bewertung, Korrektur, Ersetzung und Abschaltung unterstützt; es darf Aufsicht weder verbergen noch fälschen noch umgehen;
- Handlungsfähigkeit: Hinzu kommen Standardverhalten, das die Selbstbestimmung des Menschen stützt, sowie ausführlichere Hinweise zur Kontrolle von Nebenwirkungen und zur Kommunikation.
Dazu kommt ein Punkt, der schlicht „no other objectives“ heißt: Das Modell darf Geldverdienen, Selbsterhalt, das Umgehen einer Abschaltung sowie das Ansammeln von Rechenleistung, Daten oder Zugangsdaten nicht als Selbstzweck verfolgen.
„Human safety and human rights are paramount to OpenAI's mission.“
Die Sicherheit und die Rechte des Menschen haben für die Mission von OpenAI höchste Priorität.
Was Entwickler von Agenten beachten sollten
Die Anweisungskette wurde nicht abgeschafft, sondern nur neu geordnet: Wurzelregeln lassen sich durch kein Gespräch ändern, danach folgen die Systemebene und die Systemnachrichten von OpenAI, dann die Anweisungen der Entwickler und zuletzt die der Nutzer. Eigene Ausgaben des Assistenten, von Werkzeugen zurückgegebene Inhalte und zitiertes externes Material haben standardmäßig keine Weisungskraft. Für Teams, die Agenten mit Werkzeugaufrufen und Web-Abrufen bauen, hat die Abwehr von Prompt-Injection damit eine dokumentarische Grundlage.
Für diese Entwickler am unmittelbarsten ist der „Autonomiebereich“ (scope of autonomy). Die neue Fassung verlangt, dass sich das Modell vor eigenständiger Arbeit mit dem Menschen auf einen Rahmen verständigt: welche Teilziele erlaubt sind, welche Nebenwirkungen akzeptabel sind und wann es anhalten und auf Bestätigung warten muss. OpenAI empfiehlt, dies in einem halbstrukturierten ScopeOfAutonomy-Eintrag festzuhalten, dessen Felder verfügbare Werkzeuge, Frist, Kostenobergrenze, Werkzeugeinschränkungen und ergänzende Hinweise umfassen; jeder Bereich braucht eine Endbedingung, nach deren Überschreiten das Modell innehält und auf die Bestätigung eines neuen Bereichs wartet. Risikoreiche Vorgänge sind tabu, sofern die Anweisung sie nicht ausdrücklich und konkret autorisiert.
Das hat auch praktische Bedeutung für Teams in China, die mit der OpenAI-API Produkte für den Auslandsmarkt bauen: Wie man Autorisierungen im Systemprompt formuliert und Agenten Obergrenzen setzt, dafür gibt es nun eine offizielle Vorlage zum Abgleich.
Zwischen Dokument und Modell klafft noch eine Lücke
In den Release Notes räumt OpenAI ein, dass die aktuellen Modelle noch nicht vollständig so funktionieren, wie es im Dokument steht. Später sollen Ergebnisse der neuen Trainingsmethoden geteilt und öffentlich Rückmeldungen zu Werten und Formulierungen eingeholt werden. Das neue Model Spec erscheint weiterhin unter der gemeinfreien Lizenz CC0.
Überprüfen lässt sich von außen nur der Text selbst. Ob der ScopeOfAutonomy-Eintrag zu einem offiziellen API-Parameter wird, wer die einzelnen Felder ausfüllt und welches Signal Entwickler erhalten, wenn das Modell die Grenzen überschreitet, hat OpenAI diesmal nicht erklärt.
Quellen: offizieller OpenAI-Blog, Text des Model Spec und GitHub-Änderungsverlauf, CocoLoop, Unite.AI; im Regelwerkstext geprüft wurden die fünf Werte, die Hierarchie der Anweisungskette und die ScopeOfAutonomy-Felder.