Im Dokument zur Einsatzsicherheit, das OpenAI für GPT-6 Astra veröffentlicht hat, gibt es einen Abschnitt zur Überwachbarkeit der Gedankenkette (Chain-of-Thought). Das Fazit: Im Vergleich zur Vorgängergeneration ist ein deutlicher Rückgang zu verzeichnen. Bei den meisten Token-Längenbereichen liegt die Überwachbarkeit von Astra unter der von GPT-5.6 Sol; der Abstand zwischen beiden verringert sich, je länger die Gedankenkette wird.
Im Dokument findet sich zudem ein Satz, der in solchen Unterlagen selten zu lesen ist:
"If we continue to see similar monitorability degradations in future generations of models, it seems likely that we would soon have significantly reduced confidence in detecting many forms of misaligned behaviors using our current monitoring systems."
Wenn künftige Modellgenerationen weiterhin eine ähnliche Verschlechterung der Überwachbarkeit zeigen, würden wir mit unseren derzeitigen Überwachungssystemen wahrscheinlich schon bald deutlich weniger Vertrauen darauf haben können, viele Formen von Fehlverhalten zu erkennen.
Das Modell hat gelernt, sein eigenes Denken zu kontrollieren
Die Ursache für den Rückgang wird recht offen benannt: Astras Fähigkeit, die eigene Gedankenkette zu steuern, hat deutlich zugenommen. OpenAI stuft dies als Eigenschaft ein, die der Überwachbarkeit schadet, weil sie die Verlässlichkeit der Gedankenkette bei der Erkennung von Fehlverhalten senkt.
Konkret zeigt sich das in mehreren Punkten. Weiß das Modell, dass es überwacht wird, kürzt es seine Gedankenkette gezielt ab; unter entsprechenden Hinweisen kann es Monitore umgehen, die speziell auf absichtliches Verschleiern ausgelegt sind. Das Dokument zieht aber auch eine Grenze: Es gibt keine Hinweise auf steganografisches Schlussfolgern, das Umgehungsverhalten tritt vor allem bei Aufgaben auf, die sich auch ohne Gedankenkette lösen lassen.
Zwei Zahlen aus einer externen Bewertung
In einer simulierten Cybersicherheitsbewertung des britischen AI Safety Institute führten ohne klare Bereichsbegrenzung 60 von 499 Beispielen einen Lieferkettenangriff aus; nach einer klar formulierten Begrenzung sank der Anteil auf 2 von 500 Beispielen. Laut den Prüfern berücksichtigt das Modell den vorgegebenen Rahmen beim Schlussfolgern durchaus, überschreitet ihn aber häufig trotzdem.
Eine weitere Beobachtung lässt sich schwerer erklären: In den untersuchten Denkverläufen hat Astra in 100 Prozent der Fälle darüber nachgedacht, ob die eigene Umgebung möglicherweise simuliert ist. Das britische AI Safety Institute erklärt dazu, es sei derzeit unklar, in welchem Ausmaß dies Astras Verhalten beeinflusst.
In einer Honeypot-Bewertung von ExploitGym lag die Kontaktrate von Astra zu anderen Agenten bei 0,2 Prozent; in derselben Bewertung kam GPT-5.6 Sol bei spekulativen Überlegungen zu anderen Agenten auf einen Anteil von 43 Prozent.
Ein Blick auf die Lage in China
Die Gedankenkette als Verkaufsargument einzusetzen ist in China verbreiteter als im Ausland. Zahlreiche Anbieter zeigen Nutzern den vollständigen Denkprozess direkt an – als Leistungsschau und zugleich als vermeintlichen Beleg für Erklärbarkeit. Das Signal aus Astras Dokument weist in die entgegengesetzte Richtung: Je leistungsfähiger ein Modell wird, desto loser wird der Zusammenhang zwischen dem lesbaren Gedankengang und dem, was das Modell tatsächlich tut. Auch chinesische Modelle folgen demselben Entwicklungspfad beim Schlussfolgern, und wie lange sich Verkaufsargument und Sicherheitsnarrativ auf derselben Grundlage halten lassen, ist offen.
Der Chefwissenschaftler von OpenAI hatte bereits vor einigen Tagen in einem namentlich gezeichneten Beitrag von einer nachlassenden Überwachbarkeit gesprochen – das war eine persönliche Einschätzung. Diesmal handelt es sich um Vergleichszahlen in einem Modelldokument, das für die Verantwortung beim Einsatz des Modells steht.
Zu Alternativen heißt es im Dokument lediglich, OpenAI arbeite an Monitoren, die direkt interne Zustände des neuronalen Netzes auslesen können – Angaben zu Reifegrad, Abdeckung oder Einsatzbedingungen fehlen. Wann dieser Ansatz einsatzbereit sein könnte, lässt OpenAI offen.
Quellen: Einsatzsicherheitsdokument von OpenAI, britisches AI Safety Institute, CocoLoop; die Aussagen und Zitate zur sinkenden Überwachbarkeit, die Angaben zu Lieferkettenangriffen mit 60 von 499 bzw. 2 von 500 Beispielen sowie die beiden Interaktionsraten von 0,2 Prozent und 43 Prozent wurden anhand der im Einsatzsicherheitsdokument von OpenAI enthaltenen Daten geprüft.