擴散模型 Mercury 3 每秒生成破千 token

美國 AI 公司 Inception 10 月 19 日發表擴散式大型語言模型 Mercury 3,宣稱這是目前能力最強的擴散 LLM。模型已在 Inception 自家 API 平台上線,同時接入 OpenRouter、Baseten 與 Vercel。

官方公布的幾組數字如下:在輝達 GPU 上的生成速度為 每秒 1068 tokens;上下文視窗 100 萬 tokens,上一版 Mercury 2.5 為 26 萬;總參數量是初代 Mercury 1 的 40 倍以上,但具體參數並未公布。

速度與價格

Inception 表示,Mercury 3 在一系列基準測試中超越 OpenAI 的 GPT-6 Luna 與 Anthropic 的 Claude Haiku 5.5,速度是這些對照模型的 4 到 8 倍。不過部落格中並未列出逐項分數,只說在標準基準上的智慧水準比 Mercury 1(mini)提升約 3 倍,外部機構的獨立評測尚未出爐。

能落到具體數字的測試有兩項。其一是瀏覽器代理:在 50 個真實的 Mind2Web 網頁導覽任務中,Mercury 3 完成了一半,公司稱「顯著多於 GPT-6.1-Sol」。其二是合作夥伴 Octen AI 的 Sense API,以 Mercury 3 負責生成,生成時間中位數為 0.9 秒,端到端回應時間中位數為 2.2 秒,其中 Octen 自己的搜尋只佔約 80 毫秒。

價格為每百萬 token 輸入 0.20 美元、輸出 0.70 美元。上線期間打五折,即 0.10 與 0.35 美元;快取命中的輸入另有折扣。API 平台提供新用戶 1 億個免費 token。

Inception 在部落格中,把這次發表的意義放在規模化上:

「推動自迴歸模型進步的擴展定律,對擴散模型同樣成立。」(原文:“The scaling laws that drove progress in autoregressive models hold for diffusion too.”)

擴散路線今年有哪些人在做

主流大模型寫字靠自迴歸,一個 token 接著一個 token 往外吐,後一個得等前一個。擴散模型借用的是圖像生成的思路,先鋪出一整段粗稿,再經多輪去噪修正,多個位置同時更新,速度優勢就出在這裡。

今年這條路線明顯升溫。5 月,輝達 Nemotron Labs 發表 Nemotron-Labs-Diffusion,有 3B、8B、14B 三種規格,同一個模型可以在自迴歸與數種擴散解碼方式之間切換。6 月,Google 開源 DiffusionGemma,一次平行生成 256 個 token。今年的 ICML,大獎也頒給了擴散方向的論文。

橫向比較,幾家的取向並不相同。輝達與 Google 釋出的是中小規格的開源模型,偏向研究與終端裝置;Inception 則一直走閉源商用 API,拿速度與價格去搶對延遲敏感的場景,例如程式碼補全、語音助理,以及需要連續呼叫模型幾十次的代理流程。Mercury 3 這次把參數量與上下文一併拉高,是想證明擴散模型做大之後能力也跟得上,不只是「快但笨」。

能不能證明,要看兩件事:獨立排行榜上的分數,以及那幾家把它接進正式環境的平台,幾個月後會不會繼續使用。官方部落格只引用了 Octen 一家客戶的數字,樣本還太少。

上一代 Mercury 2 前幾天才剛被《時代》雜誌選入 2026 年度最佳發明。公開報導先前提到微軟與 SpaceX 都曾接觸 Inception,相關交易的進展目前沒有新的公開資訊。

參考來源:Inception 官方部落格(核實速度、上下文、Mind2Web 完成率與 API 標準價、上線折扣價)、OpenRouter 模型頁面、CocoLoop、Google 與輝達的擴散模型技術說明。