Cohere mã nguồn mở mô hình 218B Command A+

Cohere đã thực hiện một bước đi lớn vào ngày 20 tháng 5, phát hành mô hình chủ lực Command A+ theo giấy phép Apache 2.0, với trọng số được công bố đầy đủ trên Hugging Face. Mô hình sử dụng kiến trúc hỗn hợp chuyên gia (MoE) với tổng số 218 tỷ tham số, chỉ kích hoạt 25 tỷ mỗi lần suy luận. Đây là mô hình chủ lực đầu tiên của Cohere được mã nguồn mở hoàn toàn theo Apache 2.0.

Trong hai năm qua, Cohere đã định vị mình là nhà cung cấp AI doanh nghiệp, phục vụ các khách hàng như Citi, PwC và Oracle. Những khách hàng này yêu cầu khả năng tự chạy, sửa đổi và kiểm soát dữ liệu của họ, khiến mã nguồn mở trở thành giải pháp tối ưu. Bằng cách phát hành Command A+ theo Apache 2.0, Cohere đang đặt cược toàn bộ vào khái niệm AI có chủ quyền.

Yêu cầu phần cứng giảm xuống còn hai H100

Command A+ là mô hình MoE với 218B tham số tổng nhưng chỉ kích hoạt 25B mỗi lần suy luận, nghĩa là chi phí suy luận chỉ tính trên phần được kích hoạt. Ngưỡng triển khai theo Cohere:

  • Một GPU B200 là đủ
  • Hoặc hai GPU H100 (với lượng tử hóa W4A4)
  • Ba mức lượng tử hóa (16-bit BF16, 8-bit FP8, 4-bit W4A4) đều được mã nguồn mở trên Hugging Face

Hai H100 là mức giảm đáng kể so với 4-8 H100 thường cần cho các mô hình lớn chính thống. Cohere tuyên bố lượng tử hóa gần như không mất mát, biến điều này thành ngưỡng quan trọng cho việc mua sắm CNTT doanh nghiệp.

So sánh điểm chuẩn với phiên bản cũ

Điểm chuẩnCommand A Reasoning (cũ)Command A+ (mới)
τ²-Bench Telecom37%85%
Terminal-Bench Hard Code3%25%
MMMU Pro-63%
MathVista-80.6%
Artificial Analysis Intelligence Index-37

Sự nhảy vọt từ 37% lên 85% trên τ²-Bench Telecom và từ 3% lên 25% trên Terminal-Bench Code cho thấy một sự thay đổi kiến trúc lớn cho các tác vụ tác nhân, không chỉ là cập nhật gia tăng. Điểm Artificial Analysis 37 tương đương với các mô hình mã nguồn mở hàng đầu như Llama 4 và Qwen 3.5, nhưng khả năng chạy trên hai H100 là hiếm ở mức hiệu suất này. Token đầu ra mỗi giây nhanh hơn 63% so với phiên bản cũ và độ trễ token đầu tiên giảm 17%, cả hai đều quan trọng cho các kịch bản tác nhân doanh nghiệp.

AI có chủ quyền là gì?

Blog của Cohere cho biết Command A+ được xây dựng cho "cơ sở hạ tầng quan trọng có chủ quyền." Thuật ngữ AI có chủ quyền có nghĩa là trọng số mô hình và dữ liệu có thể chạy hoàn toàn trong trung tâm dữ liệu của tổ chức, không phụ thuộc vào API bên ngoài, không ra khỏi mạng nội bộ và không để bên thứ ba thấy bất kỳ dữ liệu nào. Khách hàng quan tâm đến điều này bao gồm ngân hàng trung ương, bộ quốc phòng, công ty năng lượng/lưới điện, công ty bảo hiểm/quỹ hưu trí lớn và doanh nghiệp châu Âu chịu sự điều chỉnh nghiêm ngặt của GDPR. Đối với những khách hàng này, rào cản lớn nhất trong việc áp dụng AI là dữ liệu rời khỏi cơ sở của họ. Dù API của OpenAI hay Anthropic có rẻ đến đâu, nếu lệnh gọi API phải vượt qua tường lửa, giao dịch sẽ thất bại. Cohere đặt cược vào phân khúc này. Giám đốc điều hành của Fujitsu, Vivek Mahajan, đã xác nhận trong thông báo của Cohere: "Kiến trúc hỗn hợp chuyên gia và hiệu suất tác nhân mạnh mẽ của Command A+ phù hợp với cam kết của chúng tôi trong việc cung cấp các giải pháp AI có chủ quyền sáng tạo." Fujitsu là nhà cung cấp CNTT chính cho chính phủ Nhật Bản, phục vụ các bộ, tổ chức tài chính và cơ sở hạ tầng quan trọng, và sự ủng hộ của họ phản ánh xu hướng nội địa hóa AI mà Nhật Bản gần đây nhấn mạnh.

Trích dẫn gốc: chi tiết quan trọng cho doanh nghiệp

Command A+ bao gồm một tính năng gọi là trích dẫn gốc. Khi mô hình lấy thông tin từ các công cụ hoặc cơ sở dữ liệu bên ngoài, nó tự động bao gồm các khoảng neo liên kết mỗi câu trực tiếp đến tài liệu hoặc hàng cơ sở dữ liệu cụ thể mà nó tham chiếu. Điều này rất quan trọng cho việc hỏi đáp kiến thức nội bộ doanh nghiệp, nơi việc xác minh nguồn gốc câu trả lời là một vấn đề lớn. Trước đây, điều này yêu cầu hệ thống RAG bên ngoài để gắn trích dẫn thủ công. Cohere đã biến dấu vết kiểm toán thành một khả năng gốc, một điểm bán hàng trực tiếp cho các bộ phận pháp lý, tuân thủ và kiểm toán.

Cạnh tranh và định vị thị trường

Command A+ không cạnh tranh với ChatGPT hay Claude để giành thị phần người tiêu dùng; Cohere vốn không đánh trận đó. Thay vào đó, nó nhắm đến thị trường mã nguồn mở doanh nghiệp do Llama của Meta thống trị. Mặc dù Llama 4 là mã nguồn mở, nó có các hạn chế sử dụng thương mại yêu cầu cấp phép riêng cho các doanh nghiệp trên một quy mô nhất định. Command A+ theo Apache 2.0 cho phép mọi quy mô, mọi kịch bản và mọi sử dụng thương mại mà không bị hạn chế. Sự khác biệt này rất quan trọng đối với những người ra quyết định CNTT doanh nghiệp. Liệu chiến lược này có thành công hay không sẽ phụ thuộc vào báo cáo ARR tiếp theo của Cohere. Nhưng tính đến ngày 20 tháng 5 năm 2026, bàn AI mã nguồn mở đã có một người chơi nghiêm túc đặt cược vào AI có chủ quyền.

Nguồn: CocoLoop, Introducing Command A+ (blog chính thức của Cohere), Cohere cracks lossless quantization and native citations with first full Apache 2.0 licensed open model Command A+ (VentureBeat), Cohere Releases Command A+: An Open-Source Enterprise AI Model Built for Sovereign Critical Infrastructure (Business Wire / Yahoo Finance)