Ngày 9/10, Cloudflare phát hành Clef-omni, bổ sung đầu vào âm thanh và video đầy đủ cho dòng “mô hình quyết định” của hãng. Trọng số đã được đăng lên Hugging Face theo giấy phép Apache 2.0, còn bản lưu trữ (hosted) chạy trên Workers AI. Khoảng cách với lần ra mắt đầu tiên của Clef và Clef-flash chỉ là tám ngày.
Công việc của mô hình quyết định rất hẹp: bên gọi đưa vào một trạng thái cùng một bộ câu hỏi định sẵn, mỗi câu có vài phương án, và mô hình chấm xác suất cho từng phương án. Nó không sinh văn bản tự do nên cũng không cần phân tích cú pháp đầu ra. Các trường hợp nội bộ mà Cloudflare nêu gồm: nhận diện và đóng issue rác trong kho tài liệu GitHub, lọc các trang lừa đảo trong kho plugin, quét dữ liệu để tìm thông tin cá nhân như số căn cước, và xác định tên miền độc hại.
Bốn loại đầu vào trong một lần gọi
Clef trước đó xử lý được văn bản, hình ảnh và các khung hình trích từ video. Clef-omni nhận trực tiếp âm thanh WAV, MP3 và video MP4, WebM, xử lý đồng bộ cả track âm thanh lẫn hình ảnh. Mô hình cũng không phiên âm hay mô tả nội dung, chỉ chạy một lượt prefill rồi chấm điểm cho mọi phương án của mọi phương thức cùng lúc.
Độ trễ trung vị do Cloudflare công bố: khoảng 130 mili giây với văn bản thuần, khoảng 150 mili giây với hình ảnh, vài trăm mili giây với âm thanh, và khoảng 1,5 giây với video 21 giây có tiếng.
Nền tảng là Qwen3-Omni-30B-A3B-Instruct của Alibaba, một mô hình mixture-of-experts. Cloudflare giữ phần hiểu, bỏ các thành phần liên quan đến tổng hợp giọng nói, đóng băng phần thân chính, tinh chỉnh bằng LoRA và thêm một đầu chấm điểm Transformer nhỏ. Theo model card, mô hình chạy bằng bfloat16 trên một GPU H200, phần thân chính cần khoảng 64GB VRAM.
Điểm số không vượt trội toàn diện so với thế hệ trước
Trong bảng so sánh do chính Cloudflare đưa ra, Clef-omni kém Clef bản thuần thị giác ở phần lớn hạng mục. Về truy xuất công cụ ToolRet là 66,6 so với 69,19; về việc xác định khi nào nên gọi công cụ, When2Call là 63,3 so với 72,37; về nhận diện lừa đảo, PhishNChips là 73,2 so với 79,60. Chênh lệch lớn nhất nằm ở hạng mục lệnh điều khiển thiết bị gia dụng: 69,3 so với 82,95. Ở phân loại ý định ngân hàng BANKING77 và nhận diện ý định CLINC150+OOS, nó nhỉnh hơn Clef một chút.
Lấy Jev, mô hình quyết định của TypeSafe, làm đối chứng, Clef-omni thua hơn 17 điểm ở When2Call và dẫn 15 điểm ở BANKING77. Tất cả điểm số này do Cloudflare tự công bố, bài blog không đi sâu vào chi tiết đánh giá.
Hai điều chỉnh trong cùng ngày
Giá bản lưu trữ của Clef-flash giảm từ 0,09 USD xuống 0,038 USD cho mỗi triệu token đầu vào; Cloudflare cho biết mức này đã rẻ hơn Jev. Cái giá phải trả là cửa sổ ngữ cảnh của bản lưu trữ bị cắt từ 64k xuống 24k, với lý do chỉ 0,24% yêu cầu vượt quá 24k; trọng số mã nguồn mở trên Hugging Face không bị ảnh hưởng và vẫn được huấn luyện với 256k. Giá của Clef giữ nguyên; sau khi Cloudflare chuyển phần suy luận sang SGLang, độ trễ trung vị nhanh hơn từ 1,7 đến 2,0 lần.
Lại thêm một nền tảng Qwen
Ba ngày trước, Decision-1 của Microsoft cũng là một mô hình quyết định chuyên trả lời câu hỏi trắc nghiệm, xây trên Qwen 9B. Trong tuần này, hai công ty Mỹ lần lượt tung ra sản phẩm cùng loại và đều chọn mô hình mã nguồn mở của Alibaba làm nền. Với nhà phát triển ở Trung Quốc, trọng số dòng Clef tải về trực tiếp được, giấy phép thoáng, API lại tuyên bố tương thích với Jev, nên ngưỡng để tự dựng dịch vụ kiểm duyệt, định tuyến hay phân loại phiếu hỗ trợ không cao. Về khả năng truy cập dịch vụ lưu trữ Workers AI tại Trung Quốc, Cloudflare không có thông tin riêng; trước khi đưa vào môi trường sản xuất, bạn cần tự kiểm tra thực tế.
Nguồn tham khảo: blog chính thức của Cloudflare, model card trên Hugging Face (giấy phép, mô hình nền và yêu cầu VRAM), CocoLoop, ITHome, RuntimeWire; điểm chuẩn và giá theo số liệu do Cloudflare tự công bố.