Codex, Sol 기본 컨텍스트를 50만 토큰으로 확대

OpenAI Codex 총괄 Thibault Sottiaux(Tibo)는 10월 11일 늦은 밤 X에서, Codex와 ChatGPT Work에서 GPT-6.1 Sol을 쓸 때의 기본 컨텍스트 길이를 27.2만 토큰에서 50만 토큰으로 올린다고 밝혔다. 본인 설명으로는 약 80% 증가다.

이번 조치는 Codex 팀의 "28일 연속 업데이트" 프로젝트 7일째에 해당한다. 10월 4일 공개된 이 프로젝트의 규칙은 매일 대다수 사용자에게 도움이 되는 개선을 하나 내놓거나, 모든 사용자의 사용량 한도를 한 번 초기화하는 것이다.

무엇이 바뀌었나

Sottiaux가 제시한 이유는 하나뿐이다. 컨텍스트 압축(compaction)이 일어나는 횟수를 줄이는 것이다. Codex 에이전트는 긴 작업 중에 파일 내용, 명령 출력, 도구 호출 기록을 컨텍스트에 계속 쌓는다. 윈도우가 가득 차면 시스템이 오래된 내용을 압축해야 작업을 이어갈 수 있는데, 그 대가로 세부 정보가 사라지고 에이전트가 앞서 읽은 함수 시그니처나 오류 메시지를 잊을 수 있다.

"It was carefully tested and is the new sweet spot for most of our users."
(신중하게 테스트한 값이며, 대다수 사용자에게 새로운 최적점이다.)

새 기본값은 사용자가 직접 높이거나 낮출 수 있다. 게시물에 적은 상한은 100만이고, OpenAI 모델 페이지에 나와 있는 GPT-6.1 Sol의 전체 윈도우는 105만 토큰, 최대 출력은 12.8만이다. 그는 "We will go higher in the future"라고 덧붙였지만 시점은 밝히지 않았다.

이번 조정이 구독 사용자에게는 추가 요금이 없다고 전한 보도가 있다. Sottiaux의 게시물 자체는 가격을 언급하지 않았고, 기본 윈도우가 커지면 주간 사용량이 더 빨리 소진되는지에 대해서도 OpenAI는 아직 공개적으로 설명하지 않았다. 향후 공식 사용량 안내를 기준으로 삼아야 한다.

27.2만이라는 숫자는 어디서 왔나

기존 기본값 27.2만은 임의로 정한 값이 아니다. OpenAI 모델 페이지에 따르면 GPT-6.1 Sol에 대한 API 요청의 입력이 27.2만 토큰을 넘으면 입력 전체와 캐시 입력은 2배, 출력은 1.5배로 과금된다. 표준 가격이 100만 토큰당 입력 2달러, 출력 10달러이므로, 이 선을 넘으면 입력은 약 4달러, 출력은 약 15달러가 되는 셈이다.

기본값과 할증 기준선이 정확히 겹치기 때문에, 기존 설정이 사용자를 장문 컨텍스트 비용으로부터 막아 주기 위한 것이었다고 추측하는 분석도 있다. Sottiaux는 이를 확인하지 않았다. 구독 사용자는 토큰 단위가 아니라 사용량 한도 방식으로 이용하므로, 두 체계가 어떻게 환산되는지는 외부에서 알 수 없다.

최근 흐름을 이어 보면

최근 두 달간 Codex의 컨텍스트 관리는 계속 변해 왔다.

  • 9월 초 openai/codex 저장소에 여러 풀 리퀘스트가 병합됐다. 세션이 가득 차도 요약을 생성하지 않고 새 윈도우를 열되, 히스토리 검색 도구를 붙여 모델이 직접 이전 기록을 뒤져 보게 하는 방향이다.
  • 9월 30일 한 사용자가 GitHub에 이슈를 올렸다. Codex 데스크톱 버전에서 새 스레드를 열고 "OK"라고만 답했는데도 GPT-6.1 Sol의 컨텍스트 사용량이 약 20.8만 / 25.8만에 달했고, 같은 상황에서 GPT-6 Sol은 약 4만이었다는 내용이다. 제보자 본인도 늘어난 토큰이 실제로 모델에 전송된 것인지, 집계 표시가 잘못된 것인지는 판단할 수 없다고 밝혔다. 이 이슈는 10월 8일 완료로 표시되어 닫혔고, 페이지에는 OpenAI 직원의 답변이 없다.
  • 10월 11일 기본 윈도우가 50만으로 올랐다.

세 가지를 함께 보면, Codex는 한편으로 압축 방식을 손보고 다른 한편으로 윈도우를 키우고 있으며, 두 길 모두 긴 작업에서 에이전트가 "깜빡한다"는 같은 증상을 겨냥한다. 이번 조정이 그 이슈 보고와 직접 관련이 있는지는 공식적으로 밝혀지지 않았다. 새 스레드가 시작부터 20만 토큰 넘게 소모하는 상황이 여전하다면, 기존 25.8만의 가용 공간은 작업을 시작하자마자 바닥이 보이고, 50만으로 늘면 여유가 훨씬 커진다.

중국 개발자에게 Codex는 ChatGPT 유료 계정이 있어야 쓸 수 있다. 이번 변경은 Codex와 Work 두 진입점의 GPT-6.1 Sol에만 영향을 주며, API를 직접 호출하는 프로젝트는 영향을 받지 않는다. 컨텍스트 길이는 여전히 요청하는 쪽이 정하고, 과금 기준선도 그대로다.

참고 출처: Thibault Sottiaux의 SNS 공지, OpenAI GPT-6.1 Sol 모델 페이지, CocoLoop, FourWeekMBA. openai/codex 저장소의 이슈 보고로 새 스레드 컨텍스트 사용량 수치를, 모델 페이지로 윈도우 상한과 장문 컨텍스트 과금 배율을 확인했다.