Ant Group và vLLM mở mã nguồn thư viện kernel lượng tử hóa Humming
Ant Group cùng cộng đồng vLLM mở mã nguồn Humming, thư viện kernel suy luận lượng tử hóa, biên dịch nhanh hơn và tăng thông lượng trên 8 GPU H20.
5 bài đã kiểm chứng về Ant Group, sản phẩm và diễn biến ngành.
Ant Group cùng cộng đồng vLLM mở mã nguồn Humming, thư viện kernel suy luận lượng tử hóa, biên dịch nhanh hơn và tăng thông lượng trên 8 GPU H20.
Ant Group mở mã nguồn hai mô hình 6B: Design tạo thiết kế từ văn bản, Layer tách ảnh thành 2-9 lớp; dẫn đầu bảng UI/UX mã nguồn mở của Artificial Analysis.
SGLang và Ant Group giảm độ trễ mỗi token của Ling-3.0-flash ở mức đồng thời 1 tới 77% trên bốn GPU Blackwell.
Ant, Alibaba và nhóm SGLang giữ trọng số đã lượng tử hóa thường trực trong bộ nhớ GPU, rút thời gian khởi động lại mô hình nghìn tỷ tham số từ 8,8 phút xuống còn 32 giây.
Ant Group dẫn đầu vòng chiến lược trị giá hàng trăm triệu nhân dân tệ của Daimon Robotics, nơi cảm biến xúc giác, dữ liệu và mô hình thế giới cấp 10B được ghép thành hạ tầng Physical AI.