Liquid AI 發表 LFM3 模型家族,共六個 2B 等級的模型,全部從同一個 1.7B 基座分支出來:文字、視覺、音訊、全模態各一個,另有兩個由視覺版與全模態版特化而成的決策模型。權重放在 Hugging Face,標示為開放權重,也可以透過 LFM Playground 和 Liquid 自家的 API 呼叫。
架構上,LFM3 延續了 Liquid 不走純 Transformer 的路線:
"LFM3 combines three operators: gated short convolutions, sliding-window attention (SWA), and global attention."
(LFM3 結合了三種運算子:門控短卷積、滑動視窗注意力與全域注意力。)
短卷積與滑動視窗負責大部分的層,全域注意力只放在少數幾層,這就是它能壓低長上下文記憶體用量的原因。
把成績單拆開來看
文字模型 LFM3-1.7B 的平均基準分數為 49.37。在 Liquid 拿來對照的幾款模型中,自家上一代的 LFM2.5-2.6B 是 31.55,MiniCPM5-2B 是 39.19,參數量大五倍以上的 Qwen3.5-9B 則是 47.24。
單項表現落差明顯。指令遵循 IFEval 達 96.66、工具呼叫 BFCL V4 達 71.39,兩者都很高,而這兩項正是端側代理最常用到的能力。長上下文與硬知識則吃虧:RULER 128K 只有 65.56,Qwen3.5-9B 為 87.11;GPQA Diamond 是 63.37 對 80.40。也就是說,平均分數的領先主要靠指令與工具類題目撐起來,在知識密集的任務上,它仍然是一個 2B 模型。
授權條款的具體名稱,官方部落格可見的部分並未載明,商用條件須以模型卡為準。
算一筆吞吐帳
端側數據是這次的主打。在 llama.cpp、Q4_0 量化、32K 上下文的設定下,Liquid 表示 LFM3 在三款裝置上的解碼速度是次快模型的 1.8 到 2.8 倍,記憶體占用也最低。
伺服器端也給了一個數字:單張 NVIDIA B300,使用 SGLang、BF16、1024 路並行,每天能產出約 36 億個 token。粗略估算,36 億除以 86,400 秒約為每秒 4.2 萬個 token,分攤到 1024 路並行,每路約 40 token/秒,比人閱讀文字的速度快上不少。依這個口徑,一張卡可以同時支撐上千個對話而不卡頓,對拿小模型做大量分類、擷取、路由的團隊更有參考價值。
這組數字是 Liquid 自行測得,沒有第三方重現,測試時使用的提示長度與輸出長度也沒有公布,換一種負載,結果可能差很多。
衝著微調而來
Liquid 這次反覆強調的賣點是「每個模型都能在單張 GPU 上微調」。六個模型共用同一個基座,意味著團隊可以先在文字版上調出業務能力,再遷移到視覺或音訊分支。Liquid 同時提供了本機執行與微調的文件。
對手機、車機、工控這類不方便連網的場景來說,1GB 的體量、256K 的上下文、單卡可調,正是 LFM3 想搶下的位置。能不能搶到,要看社群在真實任務上的微調成果,而不只是這張成績單。
參考來源:Liquid AI 官方部落格、CocoLoop、Hugging Face 模型頁;基準分數、端側解碼倍數與 B300 每日吞吐量均以 Liquid 自行測試的口徑為準,每秒吞吐量為編輯依其每日吞吐量粗略估算。