Ant Group et vLLM ouvrent Humming, une bibliothèque de noyaux de quantification
Ant Group et la communauté vLLM publient en open source Humming, bibliothèque de noyaux pour l'inférence quantifiée : compilation plus rapide, débit accru sur 8 GPU H20.
5 articles vérifiés sur Ant Group, les produits et le secteur.
Ant Group et la communauté vLLM publient en open source Humming, bibliothèque de noyaux pour l'inférence quantifiée : compilation plus rapide, débit accru sur 8 GPU H20.
Ant Group publie en open source deux modèles de design 6B : Design crée des maquettes à partir de texte, Layer sépare les images en 2 à 9 calques ; en tête du classement UI/UX d'Artificial Analysis.
SGLang et Ant Group réduisent la latence par token de Ling-3.0-flash à concurrence 1, jusqu'à 77 % sur quatre GPU Blackwell.
Ant, Alibaba et l'équipe SGLang gardent les poids quantifiés en mémoire GPU et font passer le redémarrage d'un modèle de mille milliards de paramètres de 8,8 minutes à 32 secondes.
Ant Group a mené un tour stratégique de plusieurs centaines de millions de yuans pour Daimon Robotics, qui relie capteurs tactiles, données et modèle monde de classe 10B pour la Physical AI.