OpenAI 為 Responses API 的背景模式加了兩檔完成時限。開發者在請求中設定 background: true,再透過 background_options.completion_window 選擇 2h 或 8h,模型 token 費率分別比 Standard 低 30% 和 40%;不填這個參數,預設走 soonest,照原價計費。第三方開發者網站記錄的上線日期是 11 月 17 日,OpenAI 開發者文件現在已把規則寫齊。
背景模式本身早就有,用途是把耗時較長的請求改成非同步:用戶端拿到 response ID 就可以斷線,之後透過 webhook 或輪詢取回結果。這次新增的是一個「願意等就便宜」的選項。文件舉的例子相當貼近日常:2 小時檔適合在下午的分流會議前,分析上午累積的客服工單;8 小時檔適合把一批文件丟進去過夜審閱,隔天早上再看結果。

折扣要符合哪些條件
折扣目前為公開測試,只涵蓋 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 和 GPT-6 Luna。幾項限制寫得相當細:
service_tier必須設為default,也就是 Standard 處理;設為auto時,只有 API 實際選用 Standard 才算數;- 2h 與 8h 請求不能開啟串流輸出,
stream要省略或設為 false; - 這兩檔與 Batch API 共用同一套速率限制,輸入 token 在提交時就計入;
- 時限是目標值,API 接受請求後會盡量在窗口內完成,遇到符合條件的容量錯誤會自動重試。
有一點容易漏看:2h、8h 檔建立的提示快取,一般 Standard 請求無法重複使用,即使提示內容一字不差也一樣。如果一個應用程式有一半流量走折扣窗口、一半走即時處理,快取命中率就會被拆成兩份。
多步驟的智慧體任務也能享有折扣。同一工作流程的後續請求,必須維持相同的 API 專案、相同的模型、相同的 service tier、background 設定、完成時限,以及相同的 continuation_id。這個 ID 由應用程式自行產生,重複使用還能換來較高的佇列優先權。前一個回應如果已經過期,就得依序重送原始輸入與全部輸出項目,加密的推理項目和原始函式呼叫都不能少。
Flex 退場,Batch 保留
文件中有一項改動分量不輕:從 GPT-6.2 Astra 與 Sol 開始,新模型上線時不再提供 Flex 處理(service_tier: flex),長時間請求改用折扣窗口搭配 Standard。Flex 原本是 OpenAI 為「慢一點沒關係」的請求開的低價通道,這部分需求如今被收進背景模式的兩檔時限裡。
與 Batch API 放在一起看,分工相當清楚。Batch 適合一次提交大量彼此不相依的請求,文件也建議這類任務繼續使用它;背景模式的 2h、8h 檔則面向單一的長任務,尤其是需要呼叫工具、分多步驟執行的智慧體運作,可以用 webhook 取得結果,也能中途取消,呼叫 POST /v1/responses/{id}/cancel 即可,重複取消具冪等性。
粗略估算一下:一項每晚執行一次、每次消耗 1 億 token 的文件審閱任務,改到 8 小時檔後,token 開銷按六折計算。換算成美元要看各模型的單價與輸入輸出比例,OpenAI 這次沒有單獨列出各窗口的價目表,網路上流傳的每百萬 token 報價目前無法與官方頁面核對,本文不採用。
資料會暫時寫入磁碟
負責法遵的團隊要留意一項條款:背景模式會暫時儲存回應資料,用來跑完請求、供用戶端取回結果,即使設定了 store: false,或組織已啟用零資料保留(ZDR),也照樣儲存。OpenAI 表示三檔窗口的暫存資料都做了靜態加密,至於保存多久,文件並未說明。
對簽有零資料保留協議的醫療、金融客戶來說,這是一道實實在在的取捨:想拿四成折扣,就得接受資料在 OpenAI 那邊短暫停留。使用體驗上也有代價,文件提醒背景回應的首個 token 可能比同步請求來得慢,Java 和 Ruby 範例乾脆把逾時設到 30 分鐘。
參考來源:OpenAI 開發者文件 Background mode 指南,用於核對 2h 與 8h 兩檔折扣比例、適用模型、Flex 調整與暫存條款;CocoLoop;OpenAI 開發者社群。