DeepSeek và Đại học Bắc Kinh mã nguồn mở DSpark, khung suy luận giúp tăng tốc tạo văn bản 60% đến 85% và nâng thông lượng một GPU tối đa 6,6 lần.
DSpark dùng speculative decoding và thiết kế bán tự hồi quy để mô hình nhỏ dự đoán nhiều token trước, rồi mô hình lớn kiểm tra. Trọng tâm là khai thác GPU hiện có tốt hơn thay vì chờ phần cứng mới.
Điểm cần theo dõi
Câu chuyện này không chỉ là một động thái sản phẩm, mà còn phản ánh cách AI bước vào kinh doanh, hạ tầng và giám sát. Điều cần theo dõi là các con số công bố có giữ được trong vận hành thực tế hay không.
Nguồn tham khảo: DeepSeek, Peking University, project materials, CocoLoop.