Ngày 9/11, Meta phát hành Muse Ember. Theo hãng, đây là mô hình nhỏ nhất và hiệu quả nhất của họ hiện nay, chủ yếu để các tác nhân AI xử lý những việc vặt tần suất cao: gọi công cụ, tác vụ con về lập trình, định tuyến, trích xuất thông tin và phân tích tài liệu dài. Mô hình hỗ trợ gốc văn bản, hình ảnh, âm thanh và video, với ngữ cảnh 1 triệu token và đầu ra tối đa 512.000 token cho mỗi lần gọi.
Hiện Ember được cung cấp qua Meta Model API (tên mô hình muse-ember-1.0, hỗ trợ Responses API) và Muse Code. Google Cloud và Oracle Cloud cũng đã đưa mô hình lên nền tảng, còn nhà phát triển có thể dùng thử tại dev.meta.ai. Trang công bố không nhắc đến trọng số mở, nên theo thông tin hiện có, đây là mô hình chỉ cung cấp qua API. Meta cũng cho biết Ember là mô hình đầu tiên được huấn luyện bằng Muse Wonder Full.
Giá chia hai bậc
Ember tính giá theo độ dài prompt, tính trên mỗi triệu token:
| Hạng mục | Tối đa 200.000 token | Trên 200.000 token |
|---|---|---|
| Đầu vào | 0,10 USD | 0,30 USD |
| Đầu vào có cache | 0,004 USD | 0,012 USD |
| Đầu ra | 0,50 USD | 1,50 USD |
Muse Spark 1.3 cùng dòng có giá 1,25 USD cho đầu vào và 4,25 USD cho đầu ra. Trên chỉ số trí tuệ của Artificial Analysis, hai mô hình lần lượt đạt 36 và 37, chỉ chênh 1 điểm, nhưng chi phí cho mỗi tác vụ đánh giá là 0,14 USD so với 2,39 USD, chênh nhau khoảng 17 lần.
Kết quả benchmark có thắng có thua
Meta so sánh Ember với Claude Haiku 5.5 và GPT-6 Luna ở mức cường độ suy luận max. Khoảng cách lớn nhất nằm ở AutomationBench-AA: Ember đạt 37,8%, Haiku 5.5 đạt 13,9% và GPT-6 Luna đạt 20,2%. Ở bài thao tác máy tính OSWorld 2.1, chấm điểm nhị phân, Ember đạt 33,8%, còn Haiku 5.5 đạt 27,8%. Trên Terminal-Bench 4.0, Ember đạt 40,9%, chỉ hơn 1,7 điểm phần trăm so với 39,2% của Haiku 5.5.
Hạng mục thua nằm ở lập trình. Trên FrontierCode 2.0-AA, Ember đạt 27,2% trong khi Haiku 5.5 đạt 34,9%; còn ở GDP.pdf-AA, Ember và GPT-6 Luna cùng đạt 22,8%. Với Artificial Analysis Index tổng hợp, Ember và Haiku 5.5 cùng đạt 36, còn Luna đạt 28.
Biểu đồ phân tán chi phí cho thấy con số chi tiết hơn. Hai mức suy luận của Ember tốn lần lượt 0,116 USD và 0,136 USD, với chỉ số 33,9 và 35,8; Haiku 5.5 phải lên mức tốn 0,411 USD mới đạt chỉ số 36,2. Khi chỉ số ngang nhau, chi phí mỗi tác vụ của Ember vào khoảng một phần ba so với Haiku 5.5.
Ước tính hóa đơn hằng ngày của một tác nhân phụ
Hãy tính nhẩm theo giá trên trang công bố. Giả sử một tác nhân phụ về lập trình, mỗi lần gọi đọc vào 30.000 token và xuất ra 2.000 token, trong đó 20.000 token là system prompt và ngữ cảnh mã nguồn trúng cache:
- 10.000 token đầu vào không cache: khoảng 0,001 USD
- 20.000 token đầu vào có cache: khoảng 0,00008 USD
- 2.000 token đầu ra: khoảng 0,001 USD
Mỗi lần gọi tốn khoảng 0,002 USD, và 10.000 lần gọi mỗi ngày tốn khoảng 21 USD. Đây chỉ là giá của bậc dưới 200.000 token; khi phân tích tài liệu dài vượt ngưỡng này, cả ba mức đơn giá đồng loạt tăng gấp ba. Hóa đơn thực tế còn phụ thuộc vào số token suy luận phát sinh theo từng mức cường độ, và trang công bố không tách riêng cách tính phần này.
Phản hồi từ các đối tác tập trung vào tốc độ. You.com đưa ra một con số độ trễ cụ thể:
"with the lowest latency of any model we tested: a p95 of 2.2 seconds"
(Độ trễ thấp nhất trong mọi mô hình chúng tôi đã thử nghiệm: p95 là 2,2 giây.)
Cline cho rằng mô hình phù hợp với công việc của tác nhân phụ như lập trình và phân tích tài liệu. Về an toàn, Meta cho biết trước khi phát hành đã đánh giá theo khung mở rộng siêu trí tuệ của hãng, và cả ba nhóm rủi ro gồm hóa sinh, an ninh mạng và mất kiểm soát đều thấp hơn ngưỡng rủi ro cao. Toàn bộ điểm benchmark nêu trên là số liệu do Meta công bố, chưa có kết quả kiểm chứng độc lập.
Nguồn tham khảo: CocoLoop, blog nghiên cứu chính thức của Meta; blog này đối chiếu giá theo bậc, điểm từng bài đánh giá, chi phí mỗi tác vụ và lời trích dẫn của đối tác, còn hóa đơn hằng ngày là ước tính dựa trên đơn giá công khai.