StepFun mở mã nguồn Step 5, mô hình 600B chạy được trên 8 GPU

Ngày 15/10, StepFun (Bước Nhảy Vọt, tên tiếng Trung là 阶跃星辰) đã đưa trọng số của mô hình chủ lực Step 5 Preview lên Hugging Face, thực hiện lời hứa “mở mã nguồn chính thức vào ngày 15/10” đưa ra khi ra mắt hôm 20/9. Hiện kho lưu trữ có hai bộ trọng số chính là FP8 và BF16, cùng một kho NVFP4 mới lập ngày 14/10; cả ba kho đều được cập nhật vào sáng nay.

Thẻ mô hình nói gì

Step 5 Preview dùng kiến trúc MoE thưa, tổng số tham số khoảng 600 tỷ (siêu dữ liệu tệp trọng số cho thấy 604B), mỗi token kích hoạt khoảng 27 tỷ tham số. Cửa sổ ngữ cảnh tối đa 1 triệu token, đầu ra tối đa cũng được ghi là 1 triệu token; đầu vào hỗ trợ văn bản và hình ảnh, đầu ra là văn bản. Thẻ mô hình chỉ có một câu định vị:

“Step 5 Preview is StepFun's flagship model for agentic work.”
(Step 5 Preview là mô hình chủ lực của StepFun dành cho các tác vụ agent.)

Giấy phép là StepFun Model License 1.0 do chính StepFun soạn, được hãng mô tả là “kiểu Apache-2.0”, nhưng kèm yêu cầu ghi nguồn và điều kiện cấp phép thương mại. Quy mô thương mại hóa đến mức nào thì phải xin phép riêng; phần tóm tắt trong thẻ mô hình không nêu ngưỡng cụ thể, cần đọc toàn văn giấy phép.

Kết quả benchmark chỉ được đặt dưới dạng biểu đồ trong thẻ mô hình, bao gồm lập trình, tác vụ agent, công việc tri thức chuyên môn và tài chính; phần văn bản không liệt kê số liệu từng mục. Thẻ mô hình ghi chú rằng điểm số được đo ở mức suy luận High, riêng hạng mục GDPval-AA trích dẫn dữ liệu của Artificial Analysis tính đến ngày 20/9. Về phía bên thứ ba, chỉ số trí tuệ tổng hợp của Artificial Analysis chấm cho mô hình 44 điểm, nằm trong top 3 các mô hình mã nguồn mở.

Ý nghĩa với các nhóm kỹ thuật Trung Quốc

Thông tin thiết thực nhất của đợt mở mã nguồn này là bảng triển khai trong thẻ mô hình:

FrameworkĐộ chính xácPhần cứng
vLLM / SGLangFP81 máy B300 (4 GPU) hoặc 1 máy H200 (8 GPU)
vLLMBF161 máy B300 (8 GPU) hoặc 2 máy H200 (16 GPU)
Transformers (ngoại tuyến)FP81 máy H200 (8 GPU)

Với doanh nghiệp trong nước, B300 gần như không mua được, còn nguồn cung H200 cho thị trường Trung Quốc năm nay cũng nhiều lần thay đổi thất thường, nên lộ trình khả thi nhất thường là chạy FP8 trên 8 GPU H200. Bảng triển khai trong thẻ mô hình chỉ liệt kê H200 và B300 của Nvidia; việc các card tăng tốc nội địa có tương thích được hay không và hiệu năng hao hụt bao nhiêu thì StepFun chưa đưa ra phương án chính thức.

Thẻ mô hình cũng nhắc hai chỗ dễ vấp. Thứ nhất, với yêu cầu dài 1 triệu token, ngay cả ở các cấu hình trong bảng trên, bộ nhớ KV cache vẫn có thể không đủ. Thứ hai, thêm tham số --dtype bfloat16 vào trọng số FP8 không chuyển trọng số đã lượng tử hóa về BF16; muốn chạy BF16 thì phải tải bộ trọng số BF16. Quy trình nạp phân mảnh BF16 bằng Transformers được chính thức đánh dấu là chưa được kiểm chứng đầy đủ.

Tính nhẩm: ở FP8, riêng trọng số của 600 tỷ tham số đã chiếm khoảng 600GB, trong khi 8 GPU H200 với 141GB mỗi card có tổng bộ nhớ khoảng 1,1TB, phần còn lại dành cho KV cache. Với những nhóm muốn chạy bản đầy đủ trong phòng máy của mình, mức đầu tư tối thiểu chính là một máy chủ như vậy.

25 ngày từ ra mắt đến mở mã nguồn

Khi ra mắt hôm 20/9, StepFun nhấn mạnh vào chi phí: hãng cho biết chi phí mỗi tác vụ của Step 5 Preview chỉ bằng khoảng một phần tám so với Claude Opus 5. Sau đó mô hình được mở trước qua các sản phẩm và API của StepFun, và hồi đầu tháng 10 đã leo lên vị trí số một toàn cầu trên bảng Trending của OpenRouter.

Khi trọng số đã được công bố, tiêu chí đánh giá sẽ chuyển từ “API dùng có tốt không” sang “tự triển khai có đáng tiền không”. Cộng đồng có sớm làm ra các phiên bản lượng tử hóa bit thấp như GGUF để máy đơn hoặc cụm nhỏ cũng chạy được hay không sẽ quyết định đợt mở mã nguồn này chạm tới bao nhiêu nhóm vừa và nhỏ. StepFun đồng thời đăng một bài blog kỹ thuật; những chi tiết như quy mô dữ liệu huấn luyện hay công thức học tăng cường được công khai đến đâu thì còn phải chờ cộng đồng đối chiếu từng mục.

Nguồn tham khảo: thẻ mô hình Hugging Face của StepFun, CocoLoop, STAR Market Daily, iFanr; quy mô tham số, phần cứng triển khai và điều khoản giấy phép lấy theo thẻ mô hình, điểm chỉ số trí tuệ lấy theo cách tính của Artificial Analysis.