Một nghiên cứu về bộ token hóa do liên minh CLEAR (Coalition for Language Equity in AI Research) công bố ngày 29/9 đang lan rộng trong hai tuần qua sau khi được Rest of World và một số tờ báo khác đưa tin. Nghiên cứu đo một điều rất cụ thể: cùng một nội dung, khi đổi sang ngôn ngữ khác, mô hình phải cắt ra bao nhiêu token. Các nhà nghiên cứu gọi phần token phát sinh thêm là “thuế token hóa” (tokenizer tax).
CLEAR dùng bộ chuẩn FLORES-200, tức các câu do dịch giả chuyên nghiệp dịch sang khoảng 200 ngôn ngữ, và trên thực tế bao phủ 203 tổ hợp ngôn ngữ – chữ viết. Câu ví dụ trong nghiên cứu là "People should benefit from AI, regardless of the language they speak": tiếng Anh tốn 13 token, tiếng Malayalam 26 token, tiếng Amharic 78 token.
Cùng gọi là mô hình tiên phong, khoảng cách từ 5 đến 17 lần
Chỉ số chính của nghiên cứu là tỷ lệ lớn nhất trên nhỏ nhất: khi một bộ token hóa xử lý ngôn ngữ tốn token nhất, lượng dùng gấp bao nhiêu lần so với ngôn ngữ tiết kiệm nhất của chính nó. Một số kết quả được nêu trong các bài báo:
- Google Gemini và nhóm Gemma: 5,1 lần, tốt nhất trong các mô hình tiên phong đa dụng
- Anthropic Claude: 9,3 lần
- Nhóm Llama 4 Scout của Meta: 9,5 lần
- OpenAI GPT-5: 13,8 lần
- Falcon 3: 17 lần, thấp nhất bảng
Nếu chỉ xét 20 ngôn ngữ phổ biến nhất trên internet, tỷ lệ của đa số bộ token hóa nằm trong khoảng 1,5 đến 3,1 lần, riêng Falcon 3 là 4,5 lần. Việc các tiêu đề báo lúc ghi “1,5 đến 5 lần”, lúc ghi “1,5 đến 3,1 lần” chỉ khác nhau ở chỗ có tính Falcon 3 hay không.
Khoảng cách liên quan đến chữ viết nhiều hơn là số người dùng. Tiếng Asturias có rất ít người nói nhưng được hưởng lợi từ chữ Latinh và nhóm ngữ hệ Rôman. Tiếng Miến Điện, tiếng Tây Tạng, tiếng Khmer, tiếng Lào cùng hai hệ chữ Tifinagh và Ol Chiki đều nằm ở vị trí bất lợi nhất trên gần như mọi mô hình. Những ngôn ngữ có hàng trăm triệu người dùng như tiếng Bengal, Urdu và Punjab cũng bị nêu tên.
Tỷ lệ này đo độ dài mã hóa, không đồng nghĩa với giá thực tế, cũng không phản ánh tỷ lệ hoàn thành tác vụ. Mốc so sánh trong nghiên cứu là ngôn ngữ tiết kiệm nhất của từng bộ token hóa, thường là tiếng Anh hoặc tiếng Trung giản thể. Chính CLEAR cũng thừa nhận độ dài vốn khác nhau giữa các ngôn ngữ, nên đạt tỷ lệ 1:1 có lẽ là không thực tế.
Tính nhẩm chi phí và ngữ cảnh
Nhiều token hơn thì hóa đơn, độ trễ và dung lượng ngữ cảnh đều bị ảnh hưởng. Ngoại suy từ câu ví dụ trên (chỉ là mẫu một câu, chỉ để tham khảo về quy mô): một ứng dụng tiếng Anh tốn 1.000 USD phí đầu vào mỗi tháng, nếu chuyển nội dung sang tiếng Amharic với cùng mô hình, ước tính phải khoảng 6.000 USD. Cửa sổ ngữ cảnh 128.000 token cũng chỉ chứa được lượng văn bản bằng khoảng một phần sáu. Hỏi đáp tài liệu dài và tác tử (agent) sẽ chịu tác động đầu tiên.
Ý kiến phản biện đến từ Dheemanth Reddy, CEO của Maya Research. Ông cho rằng giá mỗi token đang giảm rất nhanh nên áp lực chi phí trực tiếp sẽ nhẹ dần:
"Token prices are falling very quickly, so the direct cost impact should become less severe over time" (Giá token đang giảm rất nhanh, nên tác động chi phí trực tiếp sẽ dần nhẹ đi.)
Ông đồng thời lưu ý rằng chỉ bổ sung dữ liệu huấn luyện thì không giải quyết được vấn đề token hóa; các phòng thí nghiệm phải thiết kế riêng bộ token hóa cho những ngôn ngữ và chữ viết này. Còn việc ngữ cảnh bị nén lại thì giảm giá cũng không giúp được.
Những con số đội ngũ ra nước ngoài và mô hình Trung Quốc cần để mắt
Tiếng Trung giản thể thuộc nhóm hưởng lợi trong nghiên cứu này, nên người dùng trong nước có thể ít cảm nhận khoản thuế này trong sử dụng hằng ngày. Cần lưu ý là các trường hợp ra thị trường nước ngoài. Hoạt động kinh doanh ở Đông Nam Á thường gặp tiếng Miến Điện, tiếng Khmer, tiếng Lào, đúng là mấy ngôn ngữ chịu thiệt nhất.
Thành tích của các mô hình Trung Quốc cũng không mấy đẹp: Qwen 3 có tỷ lệ 10,5, còn Qwen 3.6 mới hơn tăng lên 13,1, cho thấy cập nhật mô hình không tự động mang lại cải thiện. Bộ số này cũng cho thấy khoảng cách không phải là điều kỹ thuật không thể vượt qua: mô hình dịch NLLB-200 của Meta chỉ ở mức 2,7 lần, vì vốn được thiết kế cho đa ngôn ngữ.
CLEAR đưa ra một số kiến nghị: ghi sự bất bình đẳng token theo ngôn ngữ vào thẻ mô hình (model card); thế hệ mô hình sau chủ động bao phủ nhiều ngôn ngữ hơn; do bộ token hóa chỉ đổi được cùng với mô hình mới, các hãng nên chuyển ngay sang tính phí theo ký tự hoặc theo ngôn ngữ; bên mua sắm công yêu cầu nhà cung cấp công bố chi phí theo từng ngôn ngữ. Yêu cầu của Pratyush Choudhury, đồng sáng lập Activate AI, đơn giản hơn: mỗi phòng thí nghiệm lớn công bố một bảng điểm theo ngôn ngữ. Theo các bài báo đã công bố đến nay, tất cả những điều này vẫn chỉ dừng ở mức kiến nghị.
Nguồn tham khảo: Rest of World; CocoLoop; Trending Topics; bản tóm tắt công khai của nghiên cứu CLEAR; tỷ lệ của từng mô hình theo cách tính của CLEAR như các bài báo thuật lại, chưa tiếp cận trực tiếp báo cáo đầy đủ.