Liquid AI 发布 LFM3,1.7B 模型均分压过 9B

消费级 AI 题图:长椅上看手机的人身旁飘着对话气泡

Liquid AI 发布 LFM3 模型家族,一共六个 2B 量级的模型,全部从同一个 1.7B 基座分支出来:文本、视觉、音频、全模态各一个,另有两个由视觉版和全模态版特化而来的决策模型。权重放在 Hugging Face,标注为开放权重,也可以通过 LFM Playground 和 Liquid 自己的 API 调用。

架构上,LFM3 延续了 Liquid 不走纯 Transformer 的路子:

“LFM3 combines three operators: gated short convolutions, sliding-window attention (SWA), and global attention.” (LFM3 组合了三种算子:门控短卷积、滑动窗口注意力和全局注意力。)

短卷积和滑窗负责大部分层,全局注意力只放在少数层里,这是它能把长上下文的显存压下来的原因。

成绩单拆开看

文本模型 LFM3-1.7B 的平均基准分 49.37,Liquid 拿来对照的几家里,自家上一代 LFM2.5-2.6B 是 31.55,MiniCPM5-2B 是 39.19,参数大五倍多的 Qwen3.5-9B 是 47.24。

单项分化明显。指令遵循 IFEval 96.66、工具调用 BFCL V4 71.39 都很高,这两项正是端侧代理最常用的能力。长上下文和硬知识则吃亏:RULER 128K 只有 65.56,Qwen3.5-9B 是 87.11;GPQA Diamond 63.37 对 80.40。也就是说,平均分领先主要靠指令和工具类题目撑起来,知识密集的任务上它仍是一个 2B 模型。

许可证的具体名称,官方博客的可见部分没有写明,商用条件要以模型卡为准。

算一笔吞吐账

端侧数据是这次的主打。在 llama.cpp、Q4_0 量化、32K 上下文的设置下,Liquid 称 LFM3 在三款设备上的解码速度是次快模型的 1.8 到 2.8 倍,内存占用最低。

服务端也给了一个数:单张 NVIDIA B300,SGLang、BF16、1024 路并发,每天能吐约 36 亿 token。粗算一下,36 亿除以 86400 秒约等于每秒 4.2 万 token,摊到 1024 路并发上,每路约 40 token/秒,比人读字的速度快不少。按这个口径,一张卡能同时撑起上千个对话不卡顿,这对拿小模型做批量分类、抽取、路由的团队更有参考意义。

这组数字是 Liquid 自测,没有第三方复现,测试用的提示长度和输出长度也没写,换个负载结果可能差得很远。

冲着微调去的

Liquid 这次反复强调的卖点是”每个模型都能在单张 GPU 上微调”。六个模型共用一个基座,意味着团队可以先在文本版上调出业务能力,再迁到视觉或音频分支上。Liquid 同时给了本地运行和微调文档。

对手机、车机、工控这类不方便联网的场景,1GB 体量、256K 上下文、单卡可调,是 LFM3 想抢的那块位置。它能不能抢到,要看社区在真实任务上的微调结果,而不只是这张成绩单。

参考来源:Liquid AI 官方博客、CocoLoop、Hugging Face 模型页;基准分、端侧解码倍数与 B300 日吞吐均以 Liquid 自测口径为准,每秒吞吐为编辑据其日吞吐粗算。