Nvidia, AMD y CoreWeave rara vez aparecen juntos en una lista de inversores. La ronda de financiación de Tensormesh es digna de mención no por su tamaño, sino porque apunta a una de las mayores ineficiencias en los costos de inferencia de IA: el cómputo redundante.
El 27 de mayo, Tensormesh anunció una financiación de 20 millones de dólares de inversores que incluyen AMD Ventures, NVentures de Nvidia, CoreWeave, Valley Capital Partners y Laude Ventures. Incluyendo financiación anterior, la empresa ha recaudado aproximadamente 24,5 millones de dólares hasta la fecha.
El mismo día, Tensormesh lanzó su plataforma de optimización de inferencia, Tensormesh Inference, a disponibilidad general. La plataforma aborda un problema directo: cuando los modelos manejan solicitudes similares o tareas de contexto largo, calculan repetidamente resultados intermedios ya calculados, desperdiciando ciclos de GPU.
El enfoque de Tensormesh es almacenar en caché estos resultados intermedios—comúnmente llamado caché KV—para que el contexto ya calculado se reutilice, y solo se calculen las partes nuevas. La empresa afirma que, en escenarios adecuados, esto puede reducir la latencia y los costos de GPU hasta en un 90%, con tasas de acierto de caché superiores al 70% en algunas implementaciones de clientes.
Esto es especialmente crítico en escenarios de agentes, donde una tarea compleja puede requerir docenas de llamadas al modelo, y el contexto anterior se traslada repetidamente a solicitudes posteriores. Sin almacenamiento en caché, los costos de inferencia se multiplican rápidamente. El caché KV convierte ese contexto repetitivo en infraestructura manejable y reutilizable.
Tensormesh no empieza desde cero. Está construido sobre el proyecto de código abierto LMCache, que tiene más de 8.000 estrellas en GitHub y se integra con vLLM, SGLang, TensorRT, NVIDIA Dynamo, AWS SageMaker y Oracle OCI. La versión comercial empaqueta esta base de código abierto probada en un servicio que las empresas pueden implementar y comprar directamente.
Para Nvidia, AMD y CoreWeave, la inversión también tiene sentido estratégico. Los fabricantes de chips y los proveedores de nube quieren que los clientes ejecuten inferencias de manera más barata y confiable, porque cuanto más controlables sean los costos de inferencia, más dispuestas estarán las empresas a llevar aplicaciones de IA a producción. Tensormesh no reemplaza las GPU; mejora la utilización sobre ellas.
El año pasado, la mayor parte del gasto en infraestructura de IA se destinó a modelos más grandes y más GPU. Tensormesh representa un enfoque diferente: en los mismos modelos y hardware, primero recupere el cómputo desperdiciado. A medida que los agentes continúan aumentando el volumen de inferencia, este segmento de infraestructura de ahorro de costos se volverá cada vez más concurrido.
La siguiente pregunta es si el caché KV puede evolucionar de una optimización puntual a una capa estándar en la pila de inferencia empresarial. Si se establece ese estándar, Tensormesh no solo habrá asegurado un hito de financiación, sino un punto de cobro a largo plazo en la era de las aplicaciones de IA.
Fuentes: Tensormesh Raises $20M from Investors Including AMD Ventures, CocoLoop, CoreWeave, NVentures (Business Wire); Tensormesh taps Nvidia, AMD and CoreWeave for funding to fix AI model memory problems (SiliconANGLE)