OpenAI hat angekündigt, dass das Prompt-Caching (Prompt Caching) der API eine neue 12-Stunden-Stufe erhält. Ein Agent kann über einen ganzen Tag hinweg dieselben Systemanweisungen, Tool-Definitionen und denselben Kontext wiederverwenden; liegen zwei Anfragen mehrere Stunden auseinander, wird die Eingabe trotzdem zum günstigen Cache-Tarif abgerechnet. Medienberichten zufolge ist dies der 16. Tag der 28-tägigen Update-Aktion von OpenAI.
Zugleich wurde eine Änderung für die eigenen Produkte bekannt: Tibo, der bei OpenAI für Codex verantwortlich ist, schrieb auf einer Social-Media-Plattform, dass angemeldete Nutzer von Codex und Work dauerhaftes Caching erhalten. Wer zu einer alten Unterhaltung zurückkehre oder mittendrin mehrere Stunden pausiere, zahle beim Weiterschreiben keinerlei Aufpreis, und ein Cache-Treffer sei garantiert. Dieser Teil steht nicht in der Entwicklerdokumentation von OpenAI; die konkrete Umsetzung lässt sich derzeit nicht überprüfen.
Die Regeln laut Dokumentation
Laut der Entwicklerdokumentation von OpenAI gibt es die 12-Stunden-Stufe nur in der Responses API. Sie gilt für GPT-5.6 und spätere Modelle und wird über prompt_cache_options.ttl eingestellt; wählbar sind die Standardvorgabe von 30 Minuten und 12 Stunden.
Die Tarife sind klar benannt:
- Standardstufe 30 Minuten: Das Schreiben in den Cache wird mit dem 1,25-Fachen des normalen Eingabepreises berechnet;
- Stufe 12 Stunden: Das Schreiben kostet das 2,5-Fache;
- Lesen bei einem Cache-Treffer: bei den meisten Modellen das 0,1-Fache des normalen Eingabepreises, bei GPT-6.1 Sol nur das 0,05-Fache.
Die Dokumentation betont ausdrücklich, dass 12 Stunden die „Mindestlebensdauer“ sind: Es wird keine Löschfrist festgelegt, und die maximale Datenaufbewahrungsrichtlinie von OpenAI bleibt unverändert. Ältere Modelle nutzen weiterhin den alten Parameter prompt_cache_retention: Die Speicherstufe verfällt in der Regel nach 5 bis 10 Minuten Inaktivität und hält höchstens eine Stunde; die 24-Stunden-Stufe speichert bis zu einem Tag.
Eine grobe Rechnung
Zur Veranschaulichung ein häufiges Szenario: Ein Agent schickt mit jeder Anfrage ein festes Präfix von 100.000 Token mit und wird innerhalb von 12 Stunden eines Tages alle 2 Stunden geweckt, also sechsmal. Als 1 Einheit gilt unten „100.000 Token einmal zum normalen Eingabepreis“.
| Variante | Rechnung | Summe |
|---|---|---|
| Standardstufe 30 Minuten | Jedes Mal abgelaufen, 6 Schreibvorgänge × 1,25 | 7,5 Einheiten |
| Stufe 12 Stunden | 1 Schreibvorgang × 2,5 + 5 Lesevorgänge × 0,1 | 3,0 Einheiten |
Die Kosten für dieses Präfix sinken um etwa sechs Zehntel. Umgekehrt gilt: Sind die Anfragen ohnehin so dicht, dass innerhalb von 30 Minuten sicher die nächste kommt, trifft die Standardstufe immer, und der um das 1,25-Fache höhere Schreibpreis der 12-Stunden-Stufe wäre umsonst bezahlt. Grob gerechnet amortisiert sich die neue Stufe, sobald innerhalb von 12 Stunden mehr als zwei Pausen von über einer halben Stunde auftreten.
Der Vergleich mit Anthropic
Die Claude API von Anthropic bietet zwei Cache-Stufen mit 5 Minuten und 1 Stunde; der Schreibpreis der Stunden-Stufe liegt beim Doppelten der Basiseingabe. OpenAI dehnt die Lebensdauer nun auf 12 Stunden aus und setzt den Schreibfaktor auf 2,5. Die Haltekosten pro Zeiteinheit sind damit deutlich niedriger. Auch die Zielkunden liegen auf der Hand: zeitgesteuerte Aufgaben, langlaufende Coding-Agenten und Assistenten, die tagsüber geöffnet sind und nur alle paar Stunden angesprochen werden.
Das „dauerhafte Caching“ von Codex und Work folgt dagegen einer anderen Logik. API-Kunden steht es nicht offen; OpenAI trägt die Speicherkosten selbst und erspart Abonnenten dafür, in langen Unterhaltungen durch Kaltstarts ausgebremst zu werden. Wann API-Kunden längere Stufen bekommen, dazu hat OpenAI keinen Zeitplan genannt.
Quellen: Entwicklerdokumentation von OpenAI (Leitfaden zum Prompt-Caching), offizielles Konto OpenAI Developers, CocoLoop, Preisseite von Anthropic; die Tarifmultiplikatoren folgen den in der OpenAI-Dokumentation genannten Angaben, der Kostenvergleich ist eine Schätzung der Redaktion.