3 articles vérifiés sur Puce d'inférence, les produits et le secteur.
OpenAI a présenté à Hot Chips les premiers benchmarks de sa puce d'inférence Jalapeño : 700 W de puissance, mais un débit par kilowatt supérieur de 1,5 à 1,9 fois à celui du GB300 de Nvidia, selon des chiffres publiés par l'entreprise elle-même.
Nvidia a démenti une information selon laquelle l'entreprise prévoyait d'expédier des puces d'inférence LPU à des clients chinois cette année, sans pour autant réfuter la logique commerciale sous-jacente.
Dell et NVIDIA ont annoncé le serveur PowerEdge XE9812 avec Vera Rubin NVL72 au Tech World, réduisant le coût par token d'inférence IA à un dixième de celui du Blackwell.