OpenAI hat dem Hintergrundmodus der Responses API zwei Fristen für die Fertigstellung spendiert. Entwickler setzen in der Anfrage background: true und wählen über background_options.completion_window entweder 2h oder 8h; die Token-Preise des Modells liegen dann um 30 % beziehungsweise 40 % unter Standard. Wer den Parameter weglässt, landet standardmäßig bei soonest und zahlt den vollen Preis. Eine Entwicklerseite eines Drittanbieters verzeichnet den 17. November als Starttermin, in der Entwicklerdokumentation von OpenAI sind die Regeln inzwischen vollständig beschrieben.
Den Hintergrundmodus selbst gibt es schon länger: Er macht aus zeitaufwendigen Anfragen asynchrone Vorgänge. Der Client erhält eine Response-ID und kann die Verbindung trennen, das Ergebnis wird später per Webhook oder Polling abgeholt. Neu ist jetzt eine Option nach dem Motto „Wer warten kann, zahlt weniger“. Die Beispiele in der Dokumentation sind alltäglich: Das 2-Stunden-Fenster eignet sich, um die über den Vormittag angesammelten Support-Tickets vor der Triage-Runde am Nachmittag auszuwerten; das 8-Stunden-Fenster, um einen Stapel Dokumente über Nacht prüfen zu lassen und am nächsten Morgen nachzusehen.

Welche Bedingungen für den Rabatt gelten
Der Rabatt ist derzeit eine öffentliche Beta und gilt nur für GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra und GPT-6 Luna. Die Einschränkungen sind recht detailliert beschrieben:
service_tiermuss aufdefaultstehen, also Standard-Verarbeitung; beiautozählt der Rabatt nur, wenn die API tatsächlich Standard gewählt hat;- Anfragen mit 2h und 8h dürfen kein Streaming nutzen;
streamist wegzulassen oder auf false zu setzen; - Beide Stufen teilen sich die Ratenlimits mit der Batch API, Eingabe-Token werden bereits beim Absenden angerechnet;
- Die Frist ist ein Ziel: Nach Annahme der Anfrage bemüht sich die API, innerhalb des Fensters fertig zu werden, und wiederholt bei qualifizierten Kapazitätsfehlern automatisch.
Leicht zu übersehen ist ein Detail: Prompt-Caches, die in den 2h- und 8h-Stufen angelegt werden, lassen sich von normalen Standard-Anfragen nicht wiederverwenden, selbst wenn der Prompt Wort für Wort identisch ist. Schickt eine Anwendung die Hälfte ihres Traffics durch rabattierte Fenster und die andere Hälfte in Echtzeit, wird die Cache-Trefferquote in zwei Hälften zerlegt.
Auch mehrstufige Agentenaufgaben können vom Rabatt profitieren. Folgeanfragen desselben Workflows müssen im selben API-Projekt, mit demselben Modell, demselben Service-Tier, derselben Background-Einstellung, derselben Frist und derselben continuation_id laufen. Diese ID erzeugt die Anwendung selbst, und ihre Wiederverwendung bringt zudem eine höhere Warteschlangenpriorität. Ist die vorherige Antwort bereits abgelaufen, müssen die ursprüngliche Eingabe und alle Ausgabeelemente in der richtigen Reihenfolge erneut eingespielt werden, wobei weder verschlüsselte Reasoning-Elemente noch ursprüngliche Funktionsaufrufe fehlen dürfen.
Flex tritt ab, Batch bleibt
In der Dokumentation steht eine Änderung mit Gewicht: Ab GPT-6.2 Astra und Sol wird bei neuen Modellen keine Flex-Verarbeitung mehr angeboten (service_tier: flex); langlaufende Anfragen sollen stattdessen die Rabattfenster in Kombination mit Standard nutzen. Flex war OpenAIs günstiger Kanal für Anfragen, bei denen es auf ein bisschen mehr Wartezeit nicht ankommt, und dieser Bedarf wird nun von den beiden Fristen des Hintergrundmodus aufgefangen.
Neben der Batch API betrachtet, ist die Aufgabenteilung ziemlich klar. Batch eignet sich, um auf einen Schlag eine große Menge voneinander unabhängiger Anfragen einzureichen, und die Dokumentation empfiehlt, dafür weiter Batch zu nutzen. Die 2h- und 8h-Stufen des Hintergrundmodus zielen auf einzelne lange Aufgaben, besonders auf Agentenläufe, die Werkzeuge aufrufen und in mehreren Schritten arbeiten. Ergebnisse lassen sich per Webhook abholen, und mitten im Lauf kann abgebrochen werden: ein Aufruf von POST /v1/responses/{id}/cancel genügt, wiederholtes Abbrechen ist idempotent.
Eine grobe Überschlagsrechnung: Eine Dokumentenprüfung, die jede Nacht einmal läuft und dabei 100 Millionen Token verbraucht, kostet nach dem Wechsel in die 8-Stunden-Stufe nur noch 60 % der Token-Kosten. Wie viel das in Dollar ausmacht, hängt vom Preis des jeweiligen Modells und vom Verhältnis von Ein- und Ausgabe ab. OpenAI hat für die einzelnen Fenster keine eigene Preisliste ausgewiesen, und im Netz kursierende Preise pro Million Token lassen sich derzeit nicht mit der offiziellen Seite abgleichen, weshalb dieser Beitrag sie nicht verwendet.
Daten werden vorübergehend abgelegt
Teams, die für Compliance zuständig sind, sollten eine Bestimmung beachten: Der Hintergrundmodus speichert Antwortdaten temporär, damit die Anfrage zu Ende laufen und der Client das Ergebnis abholen kann, und zwar auch bei store: false oder wenn die Organisation Zero Data Retention (ZDR) aktiviert hat. Laut OpenAI sind die temporären Daten aller drei Fenster im Ruhezustand verschlüsselt; wie lange sie aufbewahrt werden, nennt die Dokumentation nicht.
Für Kunden im Gesundheits- und Finanzwesen mit ZDR-Vereinbarung ist das ein echter Zielkonflikt: Wer 40 % Rabatt will, muss hinnehmen, dass die Daten kurzzeitig bei OpenAI verbleiben. Auch im Nutzungserlebnis gibt es einen Preis: Die Dokumentation weist darauf hin, dass das erste Token einer Hintergrundantwort langsamer eintreffen kann als bei einer synchronen Anfrage; die Java- und Ruby-Beispiele setzen das Timeout kurzerhand auf 30 Minuten.
Quellen: Leitfaden „Background mode“ in der OpenAI-Entwicklerdokumentation, geprüft für die Rabattsätze der 2h- und 8h-Stufe, die geltenden Modelle, die Flex-Änderung und die Bedingungen zur temporären Speicherung; CocoLoop; OpenAI-Entwicklercommunity.