El área de investigación de VentureBeat reunió tres entregas de la encuesta VB Pulse realizadas entre julio y septiembre, y el resultado muestra que la capacidad de cómputo de IA de las empresas está ociosa a gran escala, sin que los planes de compra se frenen. Los encuestados son 385 participantes cualificados de organizaciones con 100 empleados o más, entre ellos consultores que respondieron en nombre de su principal cliente; 218 informaron sobre la utilización de GPU.
El 79 % (172 de 218) afirmó que sus GPU están ocupadas como máximo la mitad del tiempo, con oscilaciones de entre el 77 % y el 81 % a lo largo de los tres meses. Y justo en este grupo de empresas con GPU paradas, el 70 % (120 de 172) planea incorporar en los próximos 12 meses plataformas de cómputo de IA adicionales o de reemplazo.
Con GPU ocupadas o no, las ganas de comprar son parecidas
Entre las 46 empresas con GPU más ocupadas, el 74 % planea una nueva plataforma. El artículo concluye que la diferencia entre el 70 % y el 74 % no es estadísticamente significativa: el nivel de utilización apenas influye en la disposición a comprar.
El destino de las nuevas compras también está muy concentrado. De las 120 empresas ociosas que planean una nueva plataforma, el 90 % mencionó plataformas en la nube o proveedores de modelos, y solo el 8 % piensa apostar por clústeres locales o alojados, o por una pila de código abierto autogestionada.
El contraste aparece del lado de la infraestructura propia. Entre las 32 compañías que operan clústeres locales o alojados, o una pila de código abierto autogestionada, la proporción con GPU inactivas al menos la mitad del tiempo es del 56 %; entre las otras 186 es del 83 %. La encuesta no preguntó los motivos, y la explicación del autor también se presenta como mera conjetura.
La afirmación de que «nueve de cada diez inversiones no pasan la auditoría financiera» procede únicamente de los datos de septiembre: de las 64 empresas que planean una nueva plataforma, 58 (el 91 %) no pueden presentar una cifra de retorno de la inversión revisada por el departamento financiero. Esta muestra abarca un solo mes y unas pocas decenas de empresas; en los demás meses no se formuló la misma pregunta.
Un cálculo aproximado del coste de la inactividad
La utilización influye en el coste unitario de forma inversa. Supongamos que alquilar una GPU de gama alta cuesta 2 dólares por hora de tarjeta; un servidor de 8 tarjetas supone unos 140.000 dólares de alquiler al año (cálculo aproximado: 8 tarjetas × 8.760 horas × 2 dólares). Con un 80 % de utilización, cada hora de tarjeta que realmente trabaja cuesta unos 2,5 dólares; si baja al 40 %, pasa a 5 dólares. Para obtener la misma capacidad de cómputo efectiva hay que pagar unos 140.000 dólares más al año, el equivalente a alquilar otro servidor.
En el otro lado de la factura, los costes también suben. El artículo cita una previsión de Gartner según la cual, de aquí a 2028, el coste de inferencia por flujo de trabajo de agentes aumentará más de cinco veces; Vals AI midió que los equipos de programación multiagente cuestan entre 1,8 y 5,1 veces lo que un único agente, y de las cuatro configuraciones de equipo solo una logró una mejora estadísticamente significativa en las pruebas de referencia.
Una de las vías para ahorrar es la caché. Según una guía de Nvidia, entre el 85 % y el 97 % del contexto de las llamadas posteriores en una sesión de Claude Code puede reutilizarse desde la caché; Anthropic cobra los tokens en caché entre una cuarentava y una décima parte del precio normal de entrada, según el modelo. El director de tecnología de Uber, Praveen Neppalli Naga, dijo en agosto a Fortune una frase:
"we're coming to the end of the so-called tokenmaxxing era" (la llamada era de gastar tokens sin mirar el coste está llegando a su fin)
Limitaciones de la muestra
Conviene tomar estas cifras con cautela. Los encuestados son lectores de VentureBeat y personas que participan voluntariamente en el panel de encuestas, por lo que no representan a todas las empresas; la encuesta no preguntó si las GPU son propias o alquiladas ni si la empresa puede planificarlas directamente, y tampoco distinguió el margen reservado deliberadamente para picos de tráfico; además, la nueva plataforma prevista podría ser simplemente un reemplazo de la antigua. No se contabilizaron los encuestados que en julio marcaron varias opciones de utilización ni las empresas que no miden el uso de GPU.
Por otra parte, el informe promociona a la vez la cumbre sobre infraestructura de agentes organizada por la propia VentureBeat, patrocinada por WEKA, Outshift de Cisco y OneTrust.
Fuentes: informe de encuesta de VentureBeat Intelligence, Gartner, CocoLoop, Vals AI; se verificaron los tamaños de muestra de utilización de GPU, los porcentajes de cada grupo y el criterio de significación estadística.