Meituan ra mắt LongCat-2.5, chưa công bố trọng số

AI coding illustration: a robotic arm fitting a red block into a structure

Nhóm LongCat của Meituan đã phát hành LongCat-2.5 vào ngày 1/11. So với bản xem trước ra mắt ngày 25/9, lần này có thêm báo cáo kỹ thuật đầy đủ và bảng đánh giá. Người dùng đã có thể thử trên trang chủ, API cũng đã được tích hợp, nhưng phiên bản mã nguồn mở chưa được công bố; lối vào GitHub và HuggingFace trên trang đều hiển thị "sắp ra mắt". Điều này khác với LongCat-2.0 hồi cuối tháng 6, vốn được mở mã nguồn ngay khi phát hành.

Quy mô mô hình không đổi: tổng 1,6 nghìn tỷ tham số, mỗi token kích hoạt khoảng 48 tỷ. Thay đổi nằm ở hướng năng lực: một là đa phương thức gốc, hai là lập trình tác tử cho các tác vụ đường dài.

Tăng vọt so với bản 2.0, lúc cao lúc thấp so với nhóm đầu

Bảng chính thức liệt kê hơn 30 bài đánh giá; dưới đây là một vài bài tiêu biểu:

Bài đánh giáLongCat-2.5LongCat-2.0GPT-5.6 SolOpus 5GLM-5.3Kimi K3DeepSeek V4.1 Flash
Terminal Bench v4.038.53.037.353.941.812.631.2
Program Bench25.52.523.037.019.017.520.3
DeepSWE v1.164.69.772.768.866.967.574.2
NL2Repo60.540.956.875.358.058.065.4
BrowseComp91.979.990.490.881.091.291.5
3DCodeBench55.4-52.354.353.449.353.3

Có vài tín hiệu khá rõ. Ở các dự án đòi hỏi chạy trọn một công trình trong thời gian dài, mô hình tiến bộ nhiều nhất so với bản 2.0: Terminal Bench v4.0 và Program Bench đều tăng hơn mười lần. Ở BrowseComp, ResearchRubrics, ALE và 3DCodeBench, đây là điểm số cao nhất trong bảng chính thức. Ở phần lớn các bài về viết mã, mô hình vẫn thua Opus 5, và 64,6 điểm của DeepSWE là thấp nhất trong số các đối thủ ở bảng trên.

Khi đọc bảng này cần lưu ý ba điểm. Thứ nhất, các mô hình đối chứng không có dòng GPT-6, Opus 5.5 và Fable 5.1, tức là LongCat-2.5 chưa được đặt cạnh những mô hình mới hơn này. Thứ hai, điểm của đối thủ có dấu sao lấy từ báo cáo công khai, còn điểm không có dấu sao do Meituan tự đo; chính hãng cũng ghi chú là "chỉ mang tính tham khảo". Thứ ba, harness và tham số giữa các bài đánh giá không thống nhất. Hiện chưa thấy kết quả tái lập từ tổ chức độc lập, nên các con số này tạm thời chỉ nên xem là lời tự thuật của Meituan.

Thị giác đi vào mô hình chính như thế nào

Về đa phương thức, cách làm là mã hóa hình ảnh thành các token rời rạc nhiều tầng, để mô hình chính xử lý thị giác và văn bản bằng cùng một dạng token. Bộ tokenizer thị giác được cố định, nên có thể tính trước và lưu đệm ID token, do đó đồ thị tính toán huấn luyện không còn bộ mã hóa thị giác. Nhóm cho biết cách này giúp đơn giản hóa việc đóng gói chuỗi dài và cải thiện cân bằng tải trong huấn luyện phân tán.

Hãng trình bày năng lực này cùng với lập trình, gọi là Visual Coding; các bản demo gồm mô phỏng chất lỏng theo thời gian thực, trưng bày cổ vật 3D và sa bàn đô thị.

Năng lực cho tác vụ đường dài được đẩy lên nhờ học tăng cường. Các bài huấn luyện được tổng hợp từ kho mã công khai trên GitHub và các tình huống mã nội bộ, còn quỹ đạo thất bại của các tác tử thực tế cũng được chuyển thành bài tập huấn luyện có thể tái hiện. Để mô hình không làm ăn gian, môi trường sẽ ngắt mạng, xóa lịch sử git và bộ nhớ đệm tệp, rồi dùng một LLM judge theo dõi quỹ đạo, trừ thêm điểm đối với việc suy nghĩ lặp lại và gọi công cụ lặp lại.

Các con số về sức mạnh tính toán

Báo cáo dành nhiều trang cho các thẻ tăng tốc nội địa, trong đó giới hạn bộ nhớ mỗi thẻ dưới 80GB được nhắc đi nhắc lại. Hai kết quả tối ưu hóa được công bố là:

  • Huấn luyện chuỗi dài: sau khi chuyển sang cấu hình FSDP thiết kế cho siêu nút, thông lượng mỗi thẻ tăng 86% so với đường cơ sở DDP;
  • Suy luận W4A4: cả trọng số chuyên gia lẫn kích hoạt đều được lượng tử hóa xuống 4 bit; theo thử tải trực tuyến, so với đường cơ sở W8A8, thông lượng prefill tăng 43,3%, decode tăng 42,77%, còn TTFT và TPOT lần lượt giảm 15,91% và 19,72%.

Báo cáo không nêu cụ thể đã dùng thẻ của hãng nào, bao nhiêu thẻ, cũng như chi phí huấn luyện. Blog kỹ thuật cũng không liệt kê giá API của bản chính thức; bản xem trước trước đó áp dụng giá ưu đãi có thời hạn, giá mới cần theo thông báo của nền tảng mở. Thời điểm mở mã nguồn cũng chưa được đưa ra; chỉ khi trọng số được công bố, bên ngoài mới có thể tự kiểm chứng bảng đánh giá này.

Nguồn tham khảo: báo cáo kỹ thuật và bảng đánh giá chính thức của LongCat, CocoLoop, ITHome; các điểm số đều theo cách công bố của hãng, điểm của đối thủ một phần lấy từ báo cáo công khai, một phần do Meituan tự đo.