阶跃如期开源Step 5,600B模型8卡可跑

阶跃星辰 10 月 15 日把旗舰模型 Step 5 Preview 的权重放上了 Hugging Face,兑现了 9 月 20 日发布时“10 月 15 日正式开源”的承诺。仓库里目前有 FP8 和 BF16 两套主权重,另有一个 10 月 14 日新建的 NVFP4 仓库,三个仓库都在今天上午完成了更新。

模型卡写了什么

Step 5 Preview 是稀疏 MoE 架构,总参数约 6000 亿(权重文件元数据显示 604B),每个 token 激活约 270 亿参数。上下文窗口最长 100 万 token,最大输出同样标到 100 万 token;输入支持文本和图像,输出为文本。模型卡对它的定位只有一句:

“Step 5 Preview is StepFun’s flagship model for agentic work.” (Step 5 Preview 是阶跃面向智能体任务的旗舰模型。)

许可证是阶跃自己的 StepFun Model License 1.0,官方称是“Apache-2.0 风格”,但附加了署名要求和商用授权条件。具体到多大规模的商用需要单独申请,模型卡摘要里没有写明门槛,需要看许可证全文。

基准成绩只以图表形式放在模型卡里,覆盖编程、智能体任务、专业知识工作和金融几类,正文没有逐项数字。模型卡注明,成绩在 High 推理档位下测得,GDPval-AA 一项引用的是 Artificial Analysis 截至 9 月 20 日的数据。第三方方面,Artificial Analysis 综合智能指数给它 44 分,位列开源模型前三。

对国内团队意味着什么

这次开源最实用的信息,是模型卡给出的部署表:

框架精度硬件
vLLM / SGLangFP81 台 B300(4 卡)或 1 台 H200(8 卡)
vLLMBF161 台 B300(8 卡)或 2 台 H200(16 卡)
Transformers 离线FP81 台 H200(8 卡)

对国内企业来说,B300 基本拿不到,H200 的对华供应今年也是一波三折,实际能用的路线多半是 8 卡 H200 跑 FP8。模型卡给出的部署表只列了英伟达的 H200 和 B300,国产加速卡能否适配、性能折损多少,阶跃还没有给出官方方案。

模型卡还提醒了两点容易踩的坑:一是 100 万 token 的长请求,即使在上表的配置下也可能放不下 KV 缓存;二是在 FP8 权重上加 --dtype bfloat16 参数,并不会把量化权重转回 BF16,想跑 BF16 必须下载 BF16 那套权重。Transformers 的 BF16 分片加载流程,官方标注为尚未完整验证。

粗算一下,FP8 下 6000 亿参数光权重就要 600GB 左右,8 张 141GB 的 H200 合计约 1.1TB 显存,剩下的空间留给 KV 缓存。想在自己机房里跑完整版的团队,起步门槛就是这样一台服务器。

从发布到开源这 25 天

9 月 20 日发布时,阶跃主打的是成本:公司称 Step 5 Preview 的单任务成本约为 Claude Opus 5 的八分之一。此后它先通过阶跃自家产品和 API 开放,10 月上旬在 OpenRouter 的 Trending 榜冲到全球第一。

权重放出之后,评价会从“API 好不好用”变成“自己部署划不划算”。社区会不会很快做出 GGUF 等低比特版本,让单机或小集群也能跑起来,决定了这次开源能覆盖多少中小团队。阶跃同步发了技术博客,训练数据规模、强化学习配方这类细节公开到什么程度,还要等社区逐条对照。

参考来源:阶跃星辰 Hugging Face 模型卡、CocoLoop、科创板日报、爱范儿;参数规模、部署硬件与许可证条款以模型卡为准,智能指数分数以 Artificial Analysis 口径为准。