OpenAI 给 Responses API 的后台模式加了两档完成时限。开发者在请求里设 background: true,再通过 background_options.completion_window 选 2h 或 8h,模型 token 费率分别比 Standard 低 30% 和 40%;不填这个参数,默认走 soonest,按原价算。第三方开发者站点记录的上线日子是 11 月 17 日,OpenAI 开发者文档现在已经把规则写全。
后台模式本身早就有,用途是把耗时长的请求改成异步:客户端拿到 response ID 就可以断开,之后靠 webhook 或轮询取结果。这次加的是一个“愿意等就便宜”的选项。文档举的例子很日常:2 小时档适合在下午的分诊会之前分析上午攒下的客服工单,8 小时档适合把一批文档丢进去过夜审阅,第二天早上再看。

折扣要满足哪些条件
折扣目前是公开测试,只覆盖 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 和 GPT-6 Luna。几条限制写得很细:
service_tier要设为default,即 Standard 处理;设成auto时,只有 API 实际选了 Standard 才算数;- 2h 和 8h 请求不能开流式输出,
stream要省略或设为 false; - 这两档和 Batch API 共用一套速率限制,输入 token 在提交时就计入;
- 时限是目标,API 接受请求后尽量在窗口内完成,遇到符合条件的容量错误会自动重试。
有一条容易漏看:2h、8h 档建立的提示缓存,普通 Standard 请求复用不了,哪怕提示一字不差。一个应用如果一半流量走折扣窗口、一半走实时,缓存命中率会被拆成两份。
多步骤的智能体任务也能吃到折扣。同一工作流的后续请求,要保持同一个 API 项目、同一模型、同样的 service tier、background 设置、完成时限和 continuation_id。这个 ID 由应用自己生成,复用它还能换来更高的队列优先级。前一个响应如果已经过期,就得把原始输入和全部输出项按顺序重放,加密推理项和原始函数调用都不能少。
Flex 退场,Batch 留着
文档里有一处改动分量不轻:从 GPT-6.2 Astra 和 Sol 起,新模型上线时不再提供 Flex 处理(service_tier: flex),长时间请求改用折扣窗口配 Standard。Flex 原本是 OpenAI 给“慢一点没关系”的请求开的低价通道,这部分需求现在被收进后台模式的两档时限里。
和 Batch API 放在一起看,分工比较清楚。Batch 适合一次性提交一大批互不依赖的请求,文档也建议这类任务继续用它;后台模式的 2h、8h 档面向单个长任务,尤其是要调工具、分多步走的智能体运行,可以用 webhook 拿结果,也能中途取消,调用 POST /v1/responses/{id}/cancel 即可,重复取消是幂等的。
粗算一下:一个每晚跑一次、每次消耗 1 亿 token 的文档审阅任务,挪到 8 小时档后,token 开销按六折计。换成美元要看具体模型的单价和输入输出比例,OpenAI 这次没有单列各窗口的价目表,网上流传的每百万 token 报价目前没法和官方页面核对,本文不采用。
数据会临时落盘
做合规的团队要留意一条:后台模式会临时存储响应数据,用来跑完请求、供客户端取回结果,即便设置了 store: false,或者组织开了零数据保留(ZDR),也照样存。OpenAI 称三档窗口的临时数据都做了静态加密,至于保存多久,文档没有写。
对签了零数据保留协议的医疗、金融客户,这是一道实打实的取舍:想拿四成折扣,就得接受数据在 OpenAI 那边短暂停留。体验上也有代价,文档提醒后台响应的首 token 可能比同步请求来得慢,Java 和 Ruby 示例干脆把超时设到了 30 分钟。
参考来源:OpenAI 开发者文档 Background mode 指南,核验 2h 与 8h 两档折扣比例、适用模型、Flex 调整和临时存储条款;CocoLoop;OpenAI 开发者社区。