Ngày 23/10, Viện Trí tuệ nhân tạo thuộc Viện Hàn lâm Công nghệ Thông tin và Truyền thông Trung Quốc (CAICT) cùng các đơn vị khác công bố “Báo cáo giám sát hiệu năng dịch vụ token của mô hình lớn (2026)”. Nhóm số liệu được chú ý nhất trong báo cáo là về giá: giá chuẩn hóa trung bình của dịch vụ mô hình lớn trong nước đã tăng từ 6,8 NDT trong nửa cuối năm 2025 lên 13,46 NDT kể từ đầu năm 2026, mức tăng gần gấp đôi.
Báo cáo do Viện Trí tuệ nhân tạo của CAICT, Phòng thí nghiệm trọng điểm của Bộ Công nghiệp và Công nghệ Thông tin về đánh giá mô hình lớn AI và phần mềm, phần cứng, cùng Liên minh Phát triển Ngành Trí tuệ nhân tạo Trung Quốc công bố. Dữ liệu lấy từ đợt giám sát từ tháng 1 đến tháng 8/2026, với các chiều gồm tỷ lệ gọi thành công, tốc độ thông lượng, độ trễ token đầu tiên, độ ổn định, giá và cửa sổ ngữ cảnh.
Ba đường xu hướng: giá, tốc độ, độ trễ
Trước hết là giá. Báo cáo cho biết sau hai năm chiến tranh giá, giá trong và ngoài nước năm 2026 đều tăng rõ rệt; các mô hình tiêu biểu nước ngoài ra mắt từ đầu năm 2026 có giá chuẩn hóa trung bình khoảng 117,8 NDT, vẫn cao hơn nhiều so với trong nước.
Tiếp đến là tốc độ. TPS trung bình tháng 8 của các mô hình trong nước (số token đầu ra mỗi giây) là 78,23, so với mức trung bình 38,25 của năm 2025, tức gần gấp đôi. TPS trung bình tháng 8 của các mô hình tiêu biểu nước ngoài là 112,82, so với 51,35 hồi tháng 12 năm ngoái, cũng tăng hơn gấp đôi; nhìn chung trong nước vẫn thua kém một khoảng.
Độ trễ thì ngược lại, dài hơn. Độ trễ token đầu tiên (TTFT) trung bình tháng 8 của các mô hình trong nước là 1,26 giây, so với 0,78 giây trung bình năm 2025; mô hình tiêu biểu nước ngoài đạt 2,08 giây trong tháng 8, trong khi hồi tháng 4 chỉ là 1,04 giây. Báo cáo giải thích:
“TTFT tăng không đơn thuần là sự suy giảm hiệu năng”
Báo cáo quy nguyên nhân cho việc số tham số mô hình lớn hơn, ngữ cảnh dài hơn và lượng gọi tăng lên cùng tác động. Thay đổi về ngữ cảnh khá rõ: trong số các mô hình được giám sát, nhóm có ngữ cảnh 1 triệu token chiếm 47,8%, còn nhóm từ 200K trở lên cộng lại chiếm 95,7%, cao hơn cuối năm 2025 hơn 76 điểm phần trăm.
Tính nhẩm một phép toán
Đặt các nhóm số liệu cạnh nhau, có thể tính nhẩm ra vài tỷ lệ.
- Giá: 13,46 ÷ 6,8 ≈ 1,98 lần; giá trung bình nước ngoài bằng khoảng 117,8 ÷ 13,46 ≈ 8,8 lần trong nước.
- Tốc độ: TPS trong nước tăng khoảng 2,05 lần, gần như song hành với mức tăng giá.
- Độ trễ: độ trễ token đầu tiên trong nước tăng thêm khoảng 0,48 giây, mức tăng quanh 60%.
Nếu ước lượng thô theo “tốc độ đầu ra mua được trên mỗi nhân dân tệ”, năm nay trong nước về cơ bản đi ngang so với năm ngoái: giá tăng gấp đôi, thông lượng cũng tăng gấp đôi. Phần tiền nhà phát triển trả thêm chủ yếu đổi lấy ngữ cảnh dài hơn và mô hình lớn hơn, còn thời gian chờ chữ đầu tiên của mỗi yêu cầu lại lâu hơn. Đây là ước tính chúng tôi làm từ các giá trị trung bình công bố trong báo cáo; chênh lệch giữa các mô hình và các khung giờ rất lớn, không thể áp vào hóa đơn của một nhà cung cấp cụ thể.
Các động thái điều chỉnh giá của nhà cung cấp trong nước năm nay là chú thích cho nhóm số liệu trung bình này. Tencent Cloud đã nhiều lần tăng giá các dịch vụ AI như Hunyuan trong năm; theo báo chí đưa tin, API DeepSeek-V4 áp dụng định giá theo khung giờ từ ngày 17/8, giá đầu ra giờ cao điểm tăng lên 4,5 lần so với trước. Mức giá từng bị ép xuống sát đáy trong thời chiến tranh giá đang được từng hãng nâng trở lại.
Cùng một mô hình, khác nền tảng
Báo cáo còn giám sát riêng hiệu năng của bốn mô hình mã nguồn mở là DeepSeek, Qwen, GLM và Kimi trên nền tảng chính hãng và nền tảng bên thứ ba. Kết luận là cùng một mô hình, TPS giữa các nền tảng có thể chênh nhau tới gần gấp đôi, một số nền tảng bên thứ ba còn chạy nhanh hơn cả chính hãng. Báo cáo cho rằng nguyên nhân chính của sự phân hóa hiệu năng là mỗi bên có cách đánh đổi khác nhau về tăng tốc suy luận, chiến lược tối ưu hóa và kiểm soát chi phí.
Với từng mô hình cụ thể, TPS của DeepSeek-V4-Pro trong tháng 8 đạt gấp 2 lần DeepSeek-V3.2; sau đợt các mô hình chủ chốt đổi thế hệ hồi tháng 5, độ trễ token đầu tiên nhìn chung tăng theo từng giai đoạn, rồi giảm dần về mức trước khi đổi thế hệ khi các tối ưu hóa suy luận được triển khai.
Lượng sử dụng tăng giải thích vì sao các hãng dám tăng giá. Báo cáo cho biết lượng token tiêu thụ trung bình mỗi ngày trong nước tháng 6/2026 vào khoảng 500 nghìn tỷ, gần gấp 4 lần tháng 12/2025.
Có hai điểm về phạm vi số liệu mà độc giả cần lưu ý. Bản tóm tắt công khai không nêu rõ thuật toán và đơn vị tính của “giá chuẩn hóa”, nên ba con số 6,8 NDT, 13,46 NDT và 117,8 NDT chỉ có thể so sánh với nhau theo cùng một cách tính, không nên đối chiếu trực tiếp với bảng giá chính thức của một hãng nào; danh sách các mô hình và nền tảng được giám sát cũng không được liệt kê trong bản tóm tắt, vui lòng xem toàn văn báo cáo.
Nguồn tham khảo: Viện Hàn lâm Công nghệ Thông tin và Truyền thông Trung Quốc (CAICT), CocoLoop, Jiemian News, ITHome, 21st Century Business Herald; đã đối chiếu các giá trị về giá chuẩn hóa trung bình, TPS, độ trễ token đầu tiên và tỷ lệ ngữ cảnh cùng khoảng thời gian thống kê của từng chỉ số.