DeepSeek mở DSpark để tăng tốc suy luận
DeepSeek và Đại học Bắc Kinh mã nguồn mở DSpark, khung suy luận giúp tăng tốc tạo văn bản 60% đến 85% và nâng thông lượng một GPU tối đa 6,6 lần.
Tin tức và phân tích suy luận AI
3 bài đã kiểm chứng về suy luận AI, sản phẩm và diễn biến ngành.
Xiaomi MiMo tuyên bố đạt 1.000 token/giây trên GPU phổ thông
Xiaomi MiMo tuyên bố đạt 1.000 token/giây trên GPU phổ thông. Bài viết tóm tắt thông báo, bối cảnh chiến lược và rủi ro thực tế với người dùng hoặc doanh nghiệp liên quan.
Tensormesh gọi vốn 20 triệu USD, nhắm giảm tính toán trùng lặp trong suy luận AI
Tensormesh huy động 20 triệu USD từ AMD Ventures, NVentures, CoreWeave và các nhà đầu tư khác để thương mại hóa nền tảng KV cache, giảm lãng phí GPU trong suy luận AI.