DeepSeek abre DSpark para inferência mais rápida
DeepSeek e a Universidade de Pequim abriram o DSpark, framework de inferência que aumenta a geração em 60% a 85% e pode elevar o throughput de uma GPU em até 6,6 vezes.
Notícias e análises sobre inferência de IA
3 artigos verificados sobre inferência de IA, produtos e movimentos do setor.
Xiaomi MiMo afirma 1.000 tokens por segundo em GPUs comuns
Xiaomi MiMo afirma 1.000 tokens por segundo em GPUs comuns. A matéria resume o anúncio, o contexto estratégico e os riscos práticos para usuários ou empresas afetadas.
Tensormesh levanta US$ 20 milhões para reduzir cálculos redundantes em inferência de IA
Tensormesh garantiu US$ 20 milhões da AMD Ventures, NVentures, CoreWeave e outros para comercializar sua plataforma de cache KV que reduz o desperdício de GPU em inferência de IA.