Anthropic 在 Claude 開發者文件中新增了一項 Beta 功能:依訊息調整 effort。開發者可以在多輪對話的中間插入一則特殊的 system 訊息,把後續回答的推理檔位從 high 調到 low,或者反過來;請求頂層的 effort 設定維持不動,已經快取的對話前綴照樣能命中。
文件給出的寫法很短。在 messages 陣列中加入一則 role 為 system、content 為空陣列的訊息,訊息裡放入 output_config.effort 的新值,請求標頭帶上 mid-conversation-output-config-2026-07-01。範例中,頂層 effort 設為 high,模型先以高檔位規劃一次從 SQLite 遷移到 PostgreSQL 的三步方案;隨後插入一則 low 檔位的 system 訊息,使用者只要求它把方案壓縮成一句話,這一輪就依低檔位回答。
新檔位從哪一輪開始算
生效時間取決於這則訊息放在哪裡,規則寫得相當細:
- 緊接在一則帶有新輸入的 user 訊息後面,Claude 對這一輪的回答就使用新檔位;
- 放在其他位置,例如 assistant 回覆與下一則 user 訊息之間,新檔位從下一則帶有新輸入的 user 訊息開始;
- 只裝著 tool_result 的 user 訊息不算新輸入,工具呼叫來回幾輪也不會觸發切換。
新檔位會一直有效,直到後面另一則訊息再次更改。文件特別提醒,這則訊息要放在已送出內容的末尾,之後的請求中也要原樣保留,不能插到已經送過的輪次前面,也不能事後移動或刪除。在支援保留思考(preserved thinking)的模型上,這幾種改動都會讓這則訊息之後 assistant 輪次中的思考區塊失效。
錯誤情況也列得很清楚。沒帶 beta 標頭就在 system 訊息裡寫 output_config,介面會回傳 400,並提示「Extra inputs are not permitted」;帶了 beta 標頭但模型不支援,例如 Claude Fable 5,同樣是 400。Sonnet 5.5 開啟 between_tools 思考模式、Haiku 5.5 關閉思考時,也無法中途改檔,文件建議這兩種情況改用自適應思考(adaptive thinking)。
以前怎麼切,現在省掉了什麼
effort 原本是請求層級的參數,寫在請求頂層。開發者想讓同一段對話前面認真思考、後面快速回答,只能在兩次請求之間更改頂層的值。文件對這種做法的評價很直接:頂層一改,提示快取就從頭計算,前面累積的長上下文要重新按未命中計費。
"A per-message change leaves everything before it unchanged, so the cached prefix still matches."(依訊息改檔,前面的內容一字不動,快取前綴照樣相符。)
文件還提到一個容易被忽略的細節:在 Claude Fable 5.1 上,更改頂層的值對模型的引導本身就不太可靠,因為前面幾輪回覆是依舊檔位寫成的,模型傾向與自己先前的風格保持一致。依訊息切換則把「從這裡開始換檔」寫進對話本身,模型看得到這個節點。
這對長時間運行的 Agent 迴圈最為實用。一個程式開發代理先以高檔位讀完程式碼庫、擬定修改方案,後面幾十輪的執行與確認改用低檔位,上下文前綴始終不變,快取命中率不受影響。過去得在「檔位彈性」與「快取划算」之間二選一,現在兩邊都能兼顧。
客服與問答類應用也用得上。對話開頭使用者描述一個複雜的故障,模型開高檔位做診斷;問題定位之後,使用者只是追問「那第二步具體要點哪裡」,這時降到低檔位回答,回應會快上不少。反過來,在一段閒聊中使用者突然丟進一份合約要逐條審閱,應用可以暫時把檔位拉高。這類切換以前不是放棄快取,就是乾脆不切。
支援範圍
型號方面,Fable 5.2、Mythos 5.2、Fable 5.1、Mythos 5.1、Opus 5.5、Opus 5、Sonnet 5.5、Haiku 5.5 都在 Beta 名單內,各型號涵蓋的雲端平台不完全相同。平台方面,Claude API、Amazon Bedrock、Claude Platform on AWS、Google Cloud 上的兩種託管方式,以及 Microsoft Foundry 都標示為 Beta。使用 Bedrock InvokeModel 介面的開發者,要把 beta 值寫進請求本文的 anthropic_beta 陣列,而不是放在請求標頭。
Managed Agents 暫不支援這項功能,文件給出的替代辦法是在工作階段層級覆寫 Agent 的模型設定。功能仍處於 Beta 階段,beta 標頭名稱中的日期是介面版本識別碼,正式版上線後寫法是否會改變,文件並未說明。
參考來源:Claude 開發者文件 Per-message effort 頁面(核對 beta 標頭名稱、型號與平台清單、生效位置規則及錯誤訊息)、CocoLoop、Claude 開發者文件 effort 參數說明。