Ngày 15/10, Meta đã công bố trọng số của Muse Spark Open. Mô hình được đăng trên Hugging Face và cấp phép theo Muse Model License. Đây là lần đầu tiên dòng Muse Spark mở trọng số: tổng cộng 816 tỷ tham số, mỗi token kích hoạt 42 tỷ, cửa sổ ngữ cảnh 1 triệu token, hỗ trợ sẵn đầu vào hình ảnh, âm thanh và âm thanh kèm video. Trên blog chính thức của PyTorch, Meta gọi đây là «the most capable US open-weight model to date» (mô hình trọng số mở mạnh nhất của Mỹ cho đến nay).
Bản mở dùng chung mô hình nền với Muse Spark 1.3, được phát hành cùng ngày; điểm khác nằm ở khâu hậu huấn luyện. Bản mở được bổ sung một vòng hậu huấn luyện về an toàn, theo Meta là để mô hình khó bị lạm dụng hơn khi triển khai riêng lẻ, không có lớp bảo vệ ở cấp hệ thống. Theo đánh giá dựa trên Superintelligence Scaling Framework của chính Meta, mô hình đã đạt ngưỡng phát hành; báo cáo đánh giá đầy đủ chưa được công bố, phía Meta chỉ nói là «sắp ra mắt».
Tập trung vào lập trình và tác tử AI
Meta định vị mô hình rất hẹp: các tác vụ lập trình và tác tử. Dữ liệu huấn luyện gồm tái cấu trúc nhiều tệp, phiên gỡ lỗi và các tác vụ chạy trong thời gian dài; Meta nhấn mạnh độ chính xác ngay lần thử đầu tiên và sự ổn định khi gọi công cụ. Về phía tác tử, mô hình được huấn luyện để xử lý các chuỗi tác vụ dài trải qua nhiều trang web, có thể tách ra các tác tử con để phân công, còn việc điều khiển máy tính trên máy tính để bàn, điện thoại và trình duyệt được huấn luyện thống nhất. Trước khi bắt tay vào làm, mô hình còn xuất riêng một đoạn giải thích về việc nó định làm gì.
Blog nghiên cứu của Meta có mục Key Benchmarks, nhưng phần văn bản không liệt kê bất kỳ điểm số nào; kết quả trên các bảng xếp hạng của bên thứ ba vẫn phải chờ. Arena đã đưa mô hình vào Agent Arena, nhưng điểm đánh giá chưa được công bố.
Hai chiếc Mac có chạy nổi không
Giải pháp máy tính để bàn mà Meta đưa ra là hai chiếc Mac Studio M5 Ultra, mỗi máy có tối đa 512 GB bộ nhớ hợp nhất, kết hợp với phiên bản MLX mới nhất. Cùng ngày, nhóm nghiên cứu học máy của Apple công bố kết quả đo thực tế: sau khi lượng tử hóa NVFP4, trọng số nặng khoảng 493 GB, cộng thêm bộ nhớ trung gian trong quá trình suy luận thì một máy không chứa nổi; hai máy dùng song song pipeline đạt 15,74 token mỗi giây, chuyển sang song song tensor đạt 24,99, bốn máy song song tensor đạt 36,73, với ngữ cảnh kiểm thử là 8192. Các máy giao tiếp qua trình điều khiển RDMA Thunderbolt 5 được macOS 26.2 đưa vào, giữa mỗi cặp máy dùng hai sợi cáp.
Trên đám mây thì nhanh hơn. SGLang và vLLM hỗ trợ ngay từ ngày đầu, còn Together AI, Modal và OpenRouter đều đã cho thuê mô hình. Giá serverless của Together là 1,25 USD cho mỗi triệu token đầu vào, 4,25 USD cho token đầu ra và 0,15 USD cho đầu vào được lưu đệm, miễn phí có thời hạn đến trưa ngày 18/10 theo giờ Thái Bình Dương.
Meta cũng nhân dịp này quảng bá bộ công cụ PyTorch của mình. Mô hình đi kèm các kernel viết bằng Helion, gồm RoPE, RMSNorm và lượng tử hóa, v.v.; Meta cho biết trên NVIDIA GB300 chúng nhanh hơn 1,03 đến 3,95 lần so với các kernel viết tay bằng CUDA và CuTe DSL. Cùng bộ kernel này khi chuyển thẳng sang AMD MI350 giúp thông lượng đầu cuối tăng khoảng 3%. Việc tinh chỉnh có thể dùng TorchTitan, hỗ trợ SFT nhiều vòng, LoRA và học tăng cường.
Từ mã nguồn đóng sang mở
Nhìn lại toàn bộ lộ trình của Meta: khi ra mắt, Muse Spark là mô hình mã nguồn đóng đầu tiên của Meta, tách khỏi con đường của thời Llama; phiên bản 1.2 hồi tháng 8 đi kèm sản phẩm lập trình Muse Code; trước đó Meta còn phát hành Muse Glimmer, một mô hình dày kích thước nhỏ nhắm đến thiết bị đầu cuối. Giờ đây chính Spark cũng được mở trọng số, và dòng mô hình của Meta trở thành hai nhánh song song: bản đóng được cập nhật liên tục và bản mở, cùng một nền tảng, chỉ khác một lớp hậu huấn luyện về an toàn.
Cách sắp xếp này giúp Meta lo được cả hai đầu. Bản đóng tiếp tục thu phí trong các sản phẩm Muse và API, còn bản mở đi giành nhà phát triển và sự hỗ trợ ngay từ đầu của các nhà cung cấp dịch vụ suy luận; từ SGLang, vLLM đến nhiều nhà cung cấp đám mây đều theo kịp ngay ngày đầu, và bước này Meta đã làm được.
Giấy phép vẫn là một ẩn số. Meta chỉ viết là «điều khoản thương mại có giới hạn» và cho biết nhiều nhà phát triển có thể dùng miễn phí; blog không nêu rõ ngưỡng thương mại, cũng không nói liệu có tiếp tục cách làm của giấy phép Llama là giới hạn theo số người dùng hoạt động hằng tháng hay không. Toàn văn điều khoản lấy theo trang Hugging Face; doanh nghiệp muốn dùng thương mại thì phải đọc kỹ giấy phép này trước.
Nguồn tham khảo: blog chính thức của PyTorch, blog nghiên cứu của Meta, CocoLoop, blog nghiên cứu học máy của Apple, Together AI; trang giá của Together dùng để đối chiếu mức giá mỗi triệu token và thời gian miễn phí, kết quả đo của Apple dùng để đối chiếu dung lượng sau lượng tử hóa và số token mỗi giây.