OpenAIは、APIのプロンプトキャッシュ（prompt caching）に12時間枠を新設したと発表した。エージェントは同じシステム指示、ツール定義、コンテキストを丸一日にわたって繰り返し使え、2回のリクエストの間が数時間空いても、キャッシュされた入力の低い料金で課金される。報道によれば、今回はOpenAIが28日連続で行っている更新企画の16日目にあたる。
あわせて、自社製品に関する変更も明らかにされた。OpenAI Codexの責任者であるTibo氏はSNS上で、CodexとWorkのログインユーザーは永続キャッシュを利用できると述べた。古い会話に戻ったり、途中で数時間離れたりしても、再開時に追加コストは発生せず、キャッシュヒットも保証されるという。この部分はOpenAIの開発者ドキュメントには記載がなく、具体的な実装方法は現時点では確認できない。
ドキュメントに書かれたルール
OpenAIの開発者ドキュメントによると、12時間枠はResponses APIでのみ提供され、GPT-5.6以降のモデルが対象となる。設定はprompt_cache_options.ttlで行い、選べる値は既定の30分と12時間だ。
料金は次のように明記されている。
- 既定の30分枠では、キャッシュの書き込みは通常の入力価格の1.25倍で課金される。
- 12時間枠では、書き込みは2.5倍で課金される。
- キャッシュヒット後の読み出しは、多くのモデルで通常の入力価格の0.1倍、GPT-6.1 Solでは0.05倍まで下がる。
ドキュメントは、12時間はあくまで「最短の存続時間」であり、削除期限を定めるものではなく、OpenAIのデータ保持の上限ポリシーも変えないと特に断っている。それより前のモデルは従来のパラメータprompt_cache_retentionを使い続ける。メモリ枠は通常、アイドル状態が5～10分続くと失効し、最長でも1時間。24時間枠は最大1日保持される。
ざっと試算してみる
よくあるケースで見積もってみる。あるエージェントが、毎回のリクエストに10万トークンの固定プレフィックスを付け、1日12時間のうち2時間おきに起動して計6回呼び出されるとする。以下では「10万トークンを通常の入力価格で1回課金した額」を1単位とする。
| プラン | 計算 | 合計 |
|---|---|---|
| 既定の30分枠 | 毎回失効済みのため、書き込み6回 × 1.25 | 7.5単位 |
| 12時間枠 | 書き込み1回 × 2.5 + 読み出し5回 × 0.1 | 3.0単位 |
このプレフィックスにかかる費用は6割ほど下がる。逆に、リクエストが30分以内に必ず次が来るほど密であれば、既定枠でも常にヒットするため、12時間枠で余分に払う1.25倍分の書き込み料金は無駄になる。大まかには、12時間のうち30分を超える空きが2回以上あれば、新しい枠は元が取れる計算だ。
Anthropicのやり方との比較
AnthropicのClaude APIには5分と1時間の2種類のキャッシュ枠があり、1時間枠の書き込み価格は基本入力価格の2倍だ。OpenAIは今回、存続時間を12時間に延ばし、書き込み倍率を2.5倍に設定した。単位時間あたりの保持コストは明らかに低くなり、狙う顧客もはっきりしている。定期実行タスク、長時間動き続けるコーディングエージェント、そして日中は起動したまま数時間おきにしか呼ばれないアシスタントだ。
CodexとWorkの「永続キャッシュ」は、また別の論理に基づく。APIの顧客には開放されておらず、保存コストはOpenAI自身が負担する。その見返りとして、サブスクリプションの利用者は長い会話でコールドスタートに待たされなくなる。APIの顧客がより長い枠をいつ使えるようになるのか、OpenAIは時期を示していない。
参考資料：OpenAI開発者ドキュメント（プロンプトキャッシュガイド）、OpenAI Developers公式アカウント、CocoLoop、Anthropic料金ページ。料金の倍率はOpenAIのドキュメントに記載された基準に従い、コスト比較は編集部の試算。