Codex 將 Sol 預設上下文調至 50 萬 token

OpenAI Codex 負責人 Thibault Sottiaux(Tibo)10 月 11 日深夜在 X 上宣布,GPT-6.1 Sol 在 Codex 和 ChatGPT Work 裡使用時,預設上下文長度從 27.2 萬 token 提高到 50 萬 token,他自己的說法是增幅約 80%。

這是 Codex 團隊「28 天連續更新」計畫的第 7 天。該計畫 10 月 4 日公布,規則是每天要麼上線一項多數使用者用得上的改進,要麼為所有人做一次額度重置。

改了什麼

Sottiaux 給出的理由只有一條:減少上下文壓縮(compaction)的發生次數。Codex 的代理程式在長任務裡會不斷往上下文塞入檔案內容、指令輸出和工具呼叫記錄,視窗裝滿後,系統得把舊內容壓縮掉才能繼續,代價是細節流失,代理程式可能忘掉前面讀過的某個函式簽章或某則錯誤訊息。

"It was carefully tested and is the new sweet spot for most of our users."
(這個數值經過仔細測試,是多數使用者的新平衡點。)

新預設值可以手動調高或調低。他在貼文裡寫的上限是 100 萬,OpenAI 模型頁列出的 GPT-6.1 Sol 完整視窗為 105 萬 token,最大輸出 12.8 萬。他還補了一句 "We will go higher in the future",沒有給時間表。

有報導提到,這次調整對訂閱用戶不額外收費。Sottiaux 的貼文本身沒有談價格,更大的預設視窗會不會讓每週用量消耗得更快,OpenAI 目前也沒有公開說明,一切以官方後續的用量說明為準。

27.2 萬這個數字從哪來

舊預設值 27.2 萬並非隨手訂的。OpenAI 模型頁寫明,GPT-6.1 Sol 的 API 請求輸入超過 27.2 萬 token 時,整筆輸入和快取輸入按 2 倍計價,輸出按 1.5 倍計價。按標準價每百萬 token 輸入 2 美元、輸出 10 美元粗估,越過這條線後變成輸入約 4 美元、輸出約 15 美元。

預設值和加價門檻剛好重合,有分析據此推測舊設定是在替使用者擋掉長上下文費用。這一點 Sottiaux 並未證實。訂閱用戶走的是額度而非按 token 付費,兩套計算口徑如何換算,外界看不到。

把最近幾個節點串起來

Codex 的上下文管理這兩個月一直在調整:

  • 9 月初,openai/codex 儲存庫合併了幾個 pull request,方向是工作階段裝滿後不再產生摘要,改為開一個新視窗,再搭配歷史檢索工具讓模型自己翻閱舊紀錄;
  • 9 月 30 日,有用戶在 GitHub 提交問題,稱在 Codex 桌面版新開對話串、只回一句「OK」,GPT-6.1 Sol 的上下文佔用就到了約 20.8 萬 / 25.8 萬,同樣情境下 GPT-6 Sol 約 4 萬。回報者自己也說無法判斷多出來的 token 是真的送進了模型,還是統計顯示有誤。該問題 10 月 8 日被標為已完成並關閉,頁面上沒有 OpenAI 員工回覆;
  • 10 月 11 日,預設視窗提高到 50 萬。

三件事放在一起看,Codex 一邊在改壓縮機制,一邊在加大視窗,兩條路都指向同一個症狀:長任務裡代理程式「忘事」。這次調整和那份問題回報之間有沒有直接關係,官方沒有說。如果新對話串一開始就吃掉二十多萬 token 的情況仍然存在,舊的 25.8 萬可用空間幾乎剛開工就見底,換成 50 萬後餘裕會寬鬆許多。

對中國開發者來說,Codex 需要 ChatGPT 付費帳號才能使用,這次改動只影響 Codex 和 Work 兩個入口裡的 GPT-6.1 Sol,直接呼叫 API 的專案不受影響,上下文長度仍由請求方自行決定,計價門檻也沒變。

參考來源:Thibault Sottiaux 社群平台公告、OpenAI GPT-6.1 Sol 模型頁、CocoLoop、FourWeekMBA;openai/codex 儲存庫問題回報用於核對新對話串的上下文佔用數字,模型頁用於核對視窗上限與長上下文計價倍率。