Ant Group und vLLM veröffentlichen Quantisierungs-Kernel Humming als Open Source
Ant Group und die vLLM-Community machen die Kernel-Bibliothek Humming für quantisierte Inferenz quelloffen: schnellere Kompilierung, höherer Durchsatz auf 8 H20-GPUs.
5 geprüfte Beiträge zu Ant Group, Produkten und Branchenentwicklungen.
Ant Group und die vLLM-Community machen die Kernel-Bibliothek Humming für quantisierte Inferenz quelloffen: schnellere Kompilierung, höherer Durchsatz auf 8 H20-GPUs.
Ant Group veröffentlicht zwei 6B-Design-Modelle als Open Source: Design erstellt Layouts aus Text, Layer zerlegt Bilder in 2 bis 9 Ebenen – Spitzenplatz im UI/UX-Ranking von Artificial Analysis.
SGLang und Ant Group senken die Token-Latenz von Ling-3.0-flash bei Nebenläufigkeit 1 auf vier Blackwell-GPUs um bis zu 77 Prozent.
Ant, Alibaba und das SGLang-Team lassen quantisierte Gewichte im GPU-Speicher liegen und drücken den Neustart eines 1T-Modells von 8,8 Minuten auf 32 Sekunden.
Ant Group führte eine strategische Runde über mehrere hundert Millionen Yuan für Daimon Robotics an. Im Mittelpunkt stehen taktile Sensoren, Datensätze und ein 10B-Weltmodell als Physical-AI-Infrastruktur.