OpenAI가 Responses API의 백그라운드 모드에 완료 기한 두 단계를 추가했다. 개발자는 요청에 background: true를 지정한 뒤 background_options.completion_window로 2h 또는 8h를 고르면 된다. 모델 토큰 요금은 Standard보다 각각 30%, 40% 낮아진다. 이 파라미터를 생략하면 기본값인 soonest로 처리되며 원래 가격이 그대로 적용된다. 서드파티 개발자 사이트는 출시일을 11월 17일로 기록했고, OpenAI 개발자 문서에는 이제 규칙이 모두 정리돼 있다.
백그라운드 모드 자체는 예전부터 있었다. 오래 걸리는 요청을 비동기로 바꾸는 기능으로, 클라이언트는 response ID만 받으면 연결을 끊어도 되고 이후 웹훅이나 폴링으로 결과를 가져온다. 이번에 더해진 것은 “기다릴 수 있다면 더 싸게”라는 선택지다. 문서가 드는 예시는 평범하다. 2시간 단계는 오전에 쌓인 고객지원 티켓을 오후 분류 회의 전에 분석하는 용도에, 8시간 단계는 문서 묶음을 밤새 검토하도록 맡겨 두고 다음 날 아침 확인하는 용도에 어울린다는 것이다.

할인을 받으려면 충족해야 할 조건
할인은 현재 공개 베타이며 GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, GPT-6 Luna에만 적용된다. 제한 조건은 꽤 세세하게 적혀 있다.
service_tier는 Standard 처리를 뜻하는default여야 한다.auto로 두면 API가 실제로 Standard를 선택한 경우에만 할인이 인정된다.- 2h·8h 요청은 스트리밍 출력을 쓸 수 없으며,
stream은 생략하거나 false로 둬야 한다. - 이 두 단계는 Batch API와 속도 제한을 공유하고, 입력 토큰은 제출 시점에 바로 집계된다.
- 기한은 목표치다. API는 요청을 받아들인 뒤 가능한 한 창 안에 끝내려 하며, 해당 조건에 맞는 용량 오류가 나면 자동으로 재시도한다.
놓치기 쉬운 대목이 하나 있다. 2h·8h 단계에서 만들어진 프롬프트 캐시는 프롬프트가 한 글자도 다르지 않더라도 일반 Standard 요청에서 재사용할 수 없다. 트래픽의 절반은 할인 창으로, 절반은 실시간으로 처리하는 애플리케이션이라면 캐시 적중률이 둘로 쪼개진다.
여러 단계를 거치는 에이전트 작업도 할인을 받을 수 있다. 같은 워크플로의 후속 요청은 동일한 API 프로젝트, 동일한 모델, 동일한 service tier, 동일한 background 설정, 동일한 완료 기한, 동일한 continuation_id를 유지해야 한다. 이 ID는 애플리케이션이 직접 생성하며, 재사용하면 대기열 우선순위도 높아진다. 이전 응답이 이미 만료됐다면 원본 입력과 모든 출력 항목을 순서대로 다시 보내야 하고, 암호화된 추론 항목과 원본 함수 호출도 빠뜨려선 안 된다.
Flex는 퇴장, Batch는 유지
문서에서 무게감 있는 변경이 하나 있다. GPT-6.2 Astra와 Sol부터는 새 모델 출시 때 Flex 처리(service_tier: flex)를 더 이상 제공하지 않는다. 오래 걸리는 요청은 Standard에 할인 창을 조합해 쓰라는 것이다. Flex는 OpenAI가 “느려도 괜찮은” 요청을 위해 열어 둔 저가 경로였고, 이제 그 수요가 백그라운드 모드의 두 단계 기한으로 흡수된다.
Batch API와 나란히 놓고 보면 역할 분담은 비교적 분명하다. Batch는 서로 의존하지 않는 대량의 요청을 한꺼번에 제출하는 데 적합하며, 문서도 그런 작업에는 계속 Batch를 쓰라고 권한다. 백그라운드 모드의 2h·8h 단계는 개별 장시간 작업, 특히 도구를 호출하며 여러 단계로 진행되는 에이전트 실행을 겨냥한다. 웹훅으로 결과를 받을 수 있고, POST /v1/responses/{id}/cancel을 호출해 도중에 취소할 수도 있다. 같은 취소를 반복해도 결과는 같다(멱등).
대략 계산해 보자. 매일 밤 한 번, 1회에 1억 토큰을 쓰는 문서 검토 작업을 8시간 단계로 옮기면 토큰 비용은 60%로 계산된다. 달러로 환산하려면 모델별 단가와 입출력 비율을 봐야 한다. OpenAI는 이번에 창별 가격표를 따로 내놓지 않았고, 온라인에 돌아다니는 100만 토큰당 가격은 공식 페이지와 대조할 수 없어 이 기사에서는 쓰지 않는다.
데이터는 임시로 디스크에 저장된다
규정 준수를 맡은 팀이라면 한 가지 조항을 눈여겨봐야 한다. 백그라운드 모드는 요청을 끝까지 처리하고 클라이언트가 결과를 가져갈 수 있도록 응답 데이터를 임시 저장한다. store: false로 설정했거나 조직이 제로 데이터 보존(ZDR)을 켜 두었더라도 마찬가지다. OpenAI는 세 가지 창의 임시 데이터가 모두 저장 시 암호화된다고 밝혔지만, 얼마나 오래 보관하는지는 문서에 나와 있지 않다.
제로 데이터 보존 계약을 맺은 의료·금융 고객에게는 이것이 현실적인 선택의 문제다. 40% 할인을 받으려면 데이터가 OpenAI 쪽에 잠시 머무는 것을 받아들여야 한다. 사용 경험에서도 대가가 있다. 문서는 백그라운드 응답의 첫 토큰이 동기 요청보다 늦게 나올 수 있다고 경고하며, Java와 Ruby 예제는 아예 타임아웃을 30분으로 설정해 두었다.
참고 출처: OpenAI 개발자 문서 Background mode 가이드(2h·8h 할인율, 적용 모델, Flex 조정, 임시 저장 조항 확인에 사용), CocoLoop, OpenAI 개발자 커뮤니티.