DeepSeek und die Universität Peking haben DSpark veröffentlicht, ein Inferenz-Framework mit 60 bis 85 Prozent höherer Generierungsgeschwindigkeit und bis zu 6,6-fachem Single-GPU-Durchsatz.
DSpark kombiniert spekulatives Decoding mit einem semi-autoregressiven Ansatz: Ein kleines Modell schlägt mehrere Token vor, das große Modell prüft. So sollen vorhandene GPUs mehr Nutzer bedienen.
Worauf es jetzt ankommt
Die Nachricht ist mehr als eine Produktmeldung: Sie zeigt, wie eng KI-Geschäft, Infrastruktur und Regulierung inzwischen zusammenhängen. Entscheidend wird, ob die veröffentlichten Zahlen im Alltag Bestand haben.
Quellen: DeepSeek, Peking University, project materials, CocoLoop.