Claude API erlaubt Wechsel der Denktiefe mitten im Gespräch

AI coding illustration: a robotic arm fitting a red block into a structure

Anthropic hat in der Entwicklerdokumentation von Claude eine neue Beta-Funktion ergänzt: Effort pro Nachricht. Entwickler können mitten in einer mehrstufigen Unterhaltung eine spezielle System-Nachricht einfügen und damit die Denktiefe der folgenden Antworten von high auf low senken oder umgekehrt anheben. Die Effort-Einstellung auf oberster Ebene der Anfrage bleibt dabei unberührt, sodass der bereits zwischengespeicherte Gesprächsanfang weiterhin getroffen wird.

Die Schreibweise in der Dokumentation ist kurz. Im messages-Array kommt eine Nachricht mit role system und einem leeren Array als content hinzu, die den neuen Wert von output_config.effort enthält; im Request-Header wird mid-conversation-output-config-2026-07-01 mitgeschickt. Im Beispiel steht der Effort auf oberster Ebene auf high, und das Modell plant zunächst mit hoher Stufe eine dreistufige Migration von SQLite zu PostgreSQL. Danach folgt eine System-Nachricht mit Stufe low; der Nutzer bittet nur darum, den Plan auf einen Satz zu verdichten, und diese Runde wird mit niedriger Stufe beantwortet.

Ab welcher Runde die neue Stufe gilt

Wann die Änderung greift, hängt davon ab, wo die Nachricht steht. Die Regeln sind recht detailliert:

  • Steht sie direkt hinter einer user-Nachricht mit neuer Eingabe, verwendet Claude die neue Stufe für die Antwort in dieser Runde;
  • Steht sie an anderer Stelle, etwa zwischen einer assistant-Antwort und der nächsten user-Nachricht, gilt die neue Stufe ab der nächsten user-Nachricht mit neuer Eingabe;
  • Eine user-Nachricht, die nur ein tool_result enthält, zählt nicht als neue Eingabe; mehrere Tool-Aufrufe hin und her lösen also keinen Wechsel aus.

Die neue Stufe bleibt gültig, bis eine spätere Nachricht sie erneut ändert. Die Dokumentation weist ausdrücklich darauf hin, dass diese Nachricht am Ende des bereits gesendeten Inhalts stehen und in allen folgenden Anfragen unverändert mitgeführt werden muss. Sie darf weder vor bereits gesendete Runden eingeschoben noch nachträglich verschoben oder gelöscht werden. Bei Modellen mit Unterstützung für Preserved Thinking (erhaltenes Denken) machen all diese Änderungen die Denkblöcke in den assistant-Runden nach dieser Nachricht ungültig.

Auch die Fehlerfälle sind klar aufgelistet. Wer ohne Beta-Header output_config in eine System-Nachricht schreibt, erhält von der Schnittstelle einen 400-Fehler mit dem Hinweis Extra inputs are not permitted; mit Beta-Header, aber bei einem nicht unterstützten Modell wie Claude Fable 5, ebenfalls einen 400. Auch wenn Sonnet 5.5 mit dem Denkmodus between_tools läuft oder bei Haiku 5.5 das Denken abgeschaltet ist, lässt sich die Stufe nicht mitten im Gespräch ändern; die Dokumentation empfiehlt in beiden Fällen stattdessen adaptives Denken.

Wie man bisher umschaltete und was entfällt

Effort war bislang ein Parameter auf Anfrageebene und stand ganz oben in der Anfrage. Wer dieselbe Unterhaltung zu Beginn gründlich durchdenken und später schnell beantworten lassen wollte, konnte nur den obersten Wert zwischen zwei Anfragen ändern. Die Dokumentation urteilt über diese Vorgehensweise recht direkt: Sobald der oberste Wert geändert wird, beginnt der Prompt-Cache von vorn, und der zuvor aufgebaute lange Kontext wird wie ein Cache-Fehlschlag abgerechnet.

"A per-message change leaves everything before it unchanged, so the cached prefix still matches." (Eine Änderung pro Nachricht lässt alles davor unverändert, sodass der zwischengespeicherte Präfix weiterhin passt.)

Die Dokumentation nennt außerdem ein leicht zu übersehendes Detail: Bei Claude Fable 5.1 steuert eine Änderung des obersten Werts das Modell ohnehin nur unzuverlässig, weil die vorherigen Antworten noch nach der alten Stufe geschrieben wurden und das Modell dazu neigt, seinem früheren Stil treu zu bleiben. Der Wechsel pro Nachricht schreibt den Hinweis „ab hier umschalten“ in die Unterhaltung selbst, sodass das Modell diesen Punkt sehen kann.

Am nützlichsten ist das für lange laufende Agent-Schleifen. Ein Coding-Agent liest die Codebasis zunächst mit hoher Stufe und legt den Änderungsplan fest; die folgenden Dutzenden Runden für Ausführung und Bestätigung laufen mit niedriger Stufe, während der Kontextpräfix konstant bleibt und die Cache-Trefferquote unberührt bleibt. Früher musste man sich zwischen flexibler Stufe und günstigem Cache entscheiden, jetzt bekommt man beides.

Auch Kundenservice- und Frage-Antwort-Anwendungen können profitieren. Zu Beginn schildert der Nutzer eine komplexe Störung, und das Modell diagnostiziert mit hoher Stufe; ist das Problem eingegrenzt und fragt der Nutzer nur noch nach, „wo genau im zweiten Schritt geklickt wird“, antwortet das Modell mit niedriger Stufe deutlich schneller. Umgekehrt kann eine Anwendung die Stufe kurzzeitig anheben, wenn mitten im Smalltalk plötzlich ein Vertrag Klausel für Klausel geprüft werden soll. Solche Wechsel bedeuteten bisher entweder den Verzicht auf den Cache oder den Verzicht auf den Wechsel.

Unterstützte Modelle und Plattformen

Bei den Modellen stehen Fable 5.2, Mythos 5.2, Fable 5.1, Mythos 5.1, Opus 5.5, Opus 5, Sonnet 5.5 und Haiku 5.5 auf der Beta-Liste; die abgedeckten Cloud-Plattformen unterscheiden sich je nach Modell. Bei den Plattformen sind die Claude API, Amazon Bedrock, Claude Platform on AWS, die beiden Betriebsarten auf Google Cloud und Microsoft Foundry als Beta gekennzeichnet. Wer die Bedrock-InvokeModel-Schnittstelle nutzt, muss den Beta-Wert in das Array anthropic_beta im Request-Body schreiben, nicht in einen Header.

Managed Agents unterstützen die Funktion vorerst nicht; als Alternative nennt die Dokumentation, die Modelleinstellung des Agents auf Sitzungsebene zu überschreiben. Die Funktion befindet sich noch in der Beta-Phase. Das Datum im Namen des Beta-Headers ist eine Versionskennung der Schnittstelle, und ob sich die Schreibweise mit dem Start der finalen Version ändert, lässt die Dokumentation offen.

Quellen: Seite „Per-message effort“ in der Claude-Entwicklerdokumentation (geprüft: Name des Beta-Headers, Modell- und Plattformliste, Regeln zur Wirkungsstelle, Fehlermeldungen), CocoLoop, Erläuterung des Parameters effort in der Claude-Entwicklerdokumentation.