OpenAIは、Responses APIのバックグラウンドモードに2段階の完了期限を加えた。開発者はリクエストで background: true を指定し、background_options.completion_window で 2h か 8h を選ぶ。モデルのトークン料金はStandardと比べてそれぞれ30%、40%安くなる。このパラメーターを省略すると既定の soonest になり、料金は通常どおりだ。サードパーティの開発者サイトは提供開始日を11月17日と記録しており、OpenAIの開発者ドキュメントにもすでにルールが全面的に記載されている。
バックグラウンドモード自体は以前からある。処理に時間のかかるリクエストを非同期にする仕組みで、クライアントはレスポンスIDを受け取れば接続を切ってよく、結果は後からWebhookやポーリングで取得する。今回加わったのは「待てるなら安くなる」という選択肢だ。ドキュメントの例は身近なもので、2時間枠は午前中にたまったカスタマーサポートのチケットを午後のトリアージ会議の前に分析する用途、8時間枠は文書の束を夜間レビューに回して翌朝確認する用途に向くとしている。

割引を受けるための条件
割引は現在公開ベータで、対象は GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra、GPT-6 Luna に限られる。制限はかなり細かく書かれている。
service_tierはdefault(Standard処理)にする必要がある。autoの場合、APIが実際にStandardを選んだときだけ割引が適用される- 2h・8hのリクエストはストリーミング出力に対応せず、
streamは省略するか false にする - この2枠はBatch APIとレート制限を共有し、入力トークンは送信時点で計上される
- 期限は目標値であり、APIはリクエストを受け付けた後、窓内の完了を目指す。対象となる容量エラーが出た場合は自動で再試行する
見落としやすい点が一つある。2h・8h枠で作成されたプロンプトキャッシュは、プロンプトが一字一句同じでも通常のStandardリクエストでは再利用できない。トラフィックの半分を割引枠、半分をリアルタイムで処理するアプリでは、キャッシュヒット率が二つに分かれてしまう。
複数ステップのエージェント処理も割引の対象になる。同じワークフローの後続リクエストでは、同じAPIプロジェクト、同じモデル、同じservice tier、同じbackground設定、同じ完了期限、同じ continuation_id を保つ必要がある。このIDはアプリ側で生成するもので、再利用するとキューの優先度も上がる。前のレスポンスが期限切れになっている場合は、元の入力とすべての出力項目を順番どおりに再送しなければならず、暗号化された推論項目と生の関数呼び出しも欠かせない。
Flexは退場、Batchは存続
ドキュメントには重みのある変更が一つある。GPT-6.2 AstraとSol以降、新モデルの公開時にはFlex処理(service_tier: flex)を提供しない。長時間のリクエストは、Standardと割引枠の組み合わせに切り替える。FlexはOpenAIが「遅くてもかまわない」リクエスト向けに用意していた低価格の経路で、その需要はバックグラウンドモードの2段階の期限に取り込まれる形だ。
Batch APIと並べると、役割分担は比較的はっきりしている。Batchは互いに依存しない大量のリクエストを一度に投入する用途に向き、ドキュメントもその種のタスクには引き続きBatchを勧めている。バックグラウンドモードの2h・8h枠は単発の長いタスク、とくにツールを呼びながら複数ステップで進むエージェントの実行を想定したもので、Webhookで結果を受け取れるほか、POST /v1/responses/{id}/cancel を呼べば途中でキャンセルもできる。キャンセルは何度繰り返しても結果が変わらない(冪等)。
ざっと試算してみよう。毎晩1回、1回あたり1億トークンを消費する文書レビューのジョブを8時間枠に移すと、トークンコストは6割で計算される。ドル換算は各モデルの単価と入出力比率しだいだ。OpenAIは今回、枠ごとの価格表を個別には出しておらず、ネット上に出回っている100万トークンあたりの価格は公式ページと照合できないため、本稿では採用しない。
データは一時的にディスクへ保存される
コンプライアンスを担当するチームは、ある条項に注意したい。バックグラウンドモードはリクエストを完了させ、クライアントが結果を取得できるよう、レスポンスデータを一時的に保存する。store: false を設定していても、組織でゼロデータ保持(ZDR)を有効にしていても、保存される。OpenAIによると、3種類の枠の一時データはいずれも保存時に暗号化されているが、保存期間についてドキュメントに記載はない。
ゼロデータ保持契約を結んでいる医療・金融の顧客にとって、これは現実的なトレードオフになる。4割引を得るには、データがOpenAI側にしばらく留まることを受け入れなければならない。使い勝手の面でも代償がある。ドキュメントは、バックグラウンドのレスポンスは最初のトークンが同期リクエストより遅くなる場合があると注意を促しており、JavaとRubyのサンプルではタイムアウトを30分に設定している。
参考資料:OpenAI開発者ドキュメント Background modeガイド(2h・8hの割引率、対象モデル、Flexの変更、一時保存の条項の確認に使用)、CocoLoop、OpenAI開発者コミュニティ。