Ngày 23/10, MiniMax thông báo công bố trọng số mô hình M3.1 Flash, đồng thời đưa lên Hugging Face và cộng đồng ModelScope. Theo công bố chính thức, mô hình có tổng khoảng 428B tham số và kích hoạt 23B cho mỗi token.
Mô hình này đã được đưa vào API dưới dạng bản xem trước từ cuối tháng 9, thời điểm đó trên Hugging Face chưa có trọng số tương ứng. Theo model card, đây là một mô hình chuyên gia hỗn hợp (MoE) đa phương thức gốc, nhận đầu vào là văn bản, hình ảnh và video, đầu ra là văn bản, tập trung vào lập trình, tác vụ tác tử, điều khiển máy tính và an ninh mạng.
Model card nói gì
Về kiến trúc có ba thay đổi. Thứ nhất, cơ chế chú ý thưa (MSA) do MiniMax tự phát triển được áp dụng xuyên suốt toàn mô hình, thay cho chú ý đầy đủ ở ba tầng đầu trước đây. Thứ hai, cả các chuyên gia được định tuyến lẫn đường chú ý đều được huấn luyện nhận biết lượng tử hóa. Thứ ba, kèm theo trọng số là một đầu nháp DSpark dùng để tăng tốc giải mã suy đoán.
Cửa sổ ngữ cảnh dài nhất là 1 triệu token; model card lưu ý riêng rằng độ dài thực dùng được phụ thuộc vào dung lượng bộ nhớ GPU và cấu hình triển khai. Mức độ suy luận được điều chỉnh qua tham số reasoning_effort với năm mức: low, medium, high, xhigh và max. Tham số lấy mẫu khuyến nghị là temperature 1.0 và top_p 0.95.
Về triển khai, hãng hỗ trợ SGLang, vLLM và TokenSpeed, cung cấp image cho SGLang và Docker Model Runner, còn kịch bản nhiều loại chip đi qua FlagOS. Model card không nêu loại GPU và số lượng card được khuyến nghị.
Giấy phép được ghi là minimax-community; điều kiện thương mại cụ thể nằm trong tệp LICENSE của kho mã. Các nhóm định dùng mô hình cho sản phẩm cần đọc kỹ điều khoản trước.
Model card còn một điểm chưa khớp: siêu dữ liệu Safetensors mà trang Hugging Face đọc ra cho thấy số tham số khoảng 220B, chênh gần một nửa so với con số 428B mà hãng nêu. Ước đoán sơ bộ là chênh lệch này liên quan đến định dạng lưu trữ sau lượng tử hóa; hiện MiniMax chưa giải thích về việc này.
So với ai
Các kết quả mà hãng chọn đưa ra tập trung vào benchmark về tác tử và an ninh:
| Benchmark | M3.1 Flash | Opus 5 theo model card |
|---|---|---|
| BankerToolBench | 76,2 | 76,2 |
| DeepSWE v1.1 | 73,7 | — |
| OSWorld 2.0 | 61,7 | 70,6 |
| Terminal Bench 4.0 | 38,1 | 51,8 |
| CyberGym | 82,2 | — |
Ở BankerToolBench, mô hình ngang điểm với Opus 5; ở OSWorld 2.0 thấp hơn khoảng 9 điểm, ở Terminal Bench 4.0 thấp hơn 13,7 điểm. Các kết quả công bố khác gồm Agents' Last Exam 29,6, HLE (không dùng công cụ) 43,4, BabyVision (có dùng công cụ) 91,0 và CharXiv RQ 82,5. Đây đều là kết quả do MiniMax tự đo bằng trọng số chính thức; model card nhắc rằng điểm của các bản lượng tử hóa do bên thứ ba thực hiện có thể khác, và hiện chưa có đánh giá độc lập.
Nhìn từ các hạng mục so sánh mà hãng chọn, một mô hình trọng số mở với 23B tham số kích hoạt vẫn còn khoảng cách so với các mô hình đầu bảng đóng ở những tác vụ chuỗi dài như thao tác terminal và điều khiển máy tính, còn ở mảng hẹp như gọi công cụ tài chính thì đã ngang bằng.
Từ M3 đến M3.1 Flash
Theo thông tin công khai, MiniMax-M3 ra mắt ngày 1/6 với cùng quy mô 428B tổng tham số và 23B kích hoạt, khi đó đã lấy ngữ cảnh một triệu token và chú ý thưa làm điểm bán. M3.1 Flash giữ nguyên quy mô tham số; thay đổi nằm ở việc thay tầng chú ý, huấn luyện nhận biết lượng tử hóa và đầu giải mã suy đoán, hướng tới cùng kích cỡ nhưng chạy tiết kiệm hơn.
Dòng thời gian cũng cho thấy nhịp phát hành: bản xem trước cuối tháng 9, tạo kho trên Hugging Face ngày 17/10, khoảng ngày 19/10 các dịch vụ định tuyến của bên thứ ba mở giao diện có hậu tố ngày tháng, và ngày 23/10 trọng số được công bố. Tính đến lúc đăng bài, lượt tải của kho này chỉ hơn một nghìn.
Với lập trình viên Trung Quốc, việc ModelScope đăng song song giúp tránh phải kéo hàng trăm GB trọng số từ nước ngoài. Rào cản khi tự triển khai nằm ở phần cứng: với 428B tham số, dù ước lượng thô theo 4 bit thì riêng trọng số đã cần hơn hai trăm GB bộ nhớ GPU, chưa kể bộ đệm KV cho ngữ cảnh dài, và phải có nhiều card 80GB mới chứa nổi. Với các nhóm vừa và nhỏ, cách dùng thực tế hơn vẫn là gọi API.
Nguồn tham khảo: thông báo chính thức của MiniMax, model card trên Hugging Face, CocoLoop, OpenRouter; đã đối chiếu quy mô tham số, độ dài ngữ cảnh, tên giấy phép và điểm benchmark trong model card.