DeepSeek ouvre DSpark pour accélérer l’inférence
DeepSeek et l’Université de Pékin ont ouvert DSpark, un framework d’inférence qui augmente la génération de 60% à 85% et peut porter le débit d’un GPU jusqu’à 6,6 fois.
Actualités et analyses : inférence IA
3 articles vérifiés sur inférence IA, les produits et le secteur.
Xiaomi MiMo revendique 1 000 tokens par seconde sur GPU standard
Xiaomi MiMo revendique 1 000 tokens par seconde sur GPU standard. L’article résume l’annonce, le contexte stratégique et les risques pratiques pour les utilisateurs ou entreprises concernés.
Tensormesh lève 20 millions de dollars pour réduire les calculs redondants dans l'inférence IA
Tensormesh a obtenu 20 millions de dollars d'AMD Ventures, NVentures, CoreWeave et autres pour commercialiser sa plateforme de cache KV qui réduit le gaspillage de GPU dans l'inférence IA.