Citando a dos empleados de Nvidia, The Information informó que la compañía se prepara para enviar un pequeño lote de un chip LPU a clientes en China antes de que termine el año, y que parte de esos clientes ya han hecho pedidos. Según el reportaje, el chip cumple con los controles de exportación estadounidenses vigentes y puede combinarse con procesadores ya disponibles localmente en China.
El jueves, hora de Estados Unidos, un portavoz de Nvidia desmintió el reportaje frase por frase: "The reporting in The Information on Nvidia's LPU is incorrect. We have no LPU sales in the China market today, and no China-specific LPU product in our roadmap." (La cobertura de The Information sobre el LPU de Nvidia es incorrecta. Hoy no tenemos ventas de LPU en el mercado chino, ni ningún producto LPU específico para China en nuestra hoja de ruta.)
Las acciones de Nvidia cerraron ese día con una caída del 0,33%, en 216,85 dólares, mismo día en que el Nasdaq retrocedió un 1,00%. La reacción del mercado ante la noticia se quedó en el nivel de ruido de fondo.
Dos frases, cada una válida solo para un periodo
La declaración del portavoz se divide en dos partes: una habla del presente, otra del futuro. Ambas son ciertas, pero ninguna cubre lo que el reportaje realmente señalaba: un envío de muestra a pequeña escala, pedidos ya hechos por clientes, y si se conseguirá o no la licencia de exportación. Este tipo de construcción es habitual en las relaciones públicas corporativas: lo que se niega es la "línea de producto", mientras que el reportaje habla de "un lote de mercancía".
El discurso de Nvidia sobre el mercado chino no ha dejado de moverse. En mayo de este año, Washington aprobó la venta limitada de H200 a Alibaba, Tencent y ByteDance, abriendo una rendija. Antes de eso, Jensen Huang ya había reconocido públicamente que, en el mercado chino de chips de IA, Nvidia había cedido buena parte del terreno a los fabricantes locales. Una empresa que ya ha cedido mercado no necesita anunciar de antemano en su hoja de ruta una línea de producto que planea reintroducir.
De dónde viene el LPU
El nombre LPU proviene de Groq, una empresa especializada en chips dedicados a la inferencia, cuyo atractivo es reducir drásticamente la latencia en la generación de tokens de los modelos grandes, en una división del trabajo con la GPU de propósito general: la GPU se encarga del entrenamiento y de los cálculos pesados, y el LPU de sacar las respuestas del chatbot lo más rápido posible.
En diciembre pasado, Nvidia pagó unos 20.000 millones de dólares por la tecnología y el equipo central de Groq, y en el GTC de este año presentó el chip Groq 3 junto con su servidor CPU correspondiente. Los activos adquiridos hay que amortizarlos, y la amortización necesita volumen de envíos. China es uno de los mercados con mayor crecimiento de demanda de inferencia del mundo, y colocar allí un chip orientado a la latencia, con una densidad de cómputo relativamente baja, resulta mucho más fácil de encajar dentro de los límites de capacidad computacional de los controles de exportación que un chip de entrenamiento.
Esta división del trabajo tiene un significado adicional en el mercado chino. El ecosistema doméstico de chips de entrenamiento todavía va a la zaga, pero el umbral de entrada en la inferencia es mucho más bajo: una vez que el modelo está funcionando, la competencia pasa a ser el costo por unidad y la latencia del primer token. Un acelerador dedicado solo a la inferencia, que no toca el entrenamiento, no afecta directamente el ritmo de sustitución de los chips de entrenamiento domésticos, y en teoría tiene un grado menos de sensibilidad política. Esta es probablemente la base real que explica por qué este tipo de rumores sigue apareciendo.
Los controles de exportación se centran principalmente en indicadores como la capacidad computacional total y el ancho de banda de interconexión, terrenos en los que los chips de inferencia por naturaleza ocupan menos espacio. La frase del reportaje de The Information sobre que el chip es "compatible con procesadores ya disponibles localmente en China" apunta en la misma dirección: no es una solución de máquina completa, sino solo la tarjeta aceleradora, dejando el resto a que lo ensamble la cadena de suministro local.
Un cálculo aproximado
El negocio de centros de datos de Nvidia en China ha pasado, en los últimos dos años, de ser una fuente de ingresos importante a un rubro que ya ni siquiera se destaca por separado en los informes financieros. Tomando como referencia los 81.600 millones de dólares de ingresos del último trimestre reportado públicamente, incluso si el mercado chino se recuperara a solo un 5% de lo que fue, eso representaría un incremento trimestral cercano a los 4.000 millones de dólares, casi el ingreso anual de una fabricante de chips de tamaño mediano. Esta magnitud basta para explicar por qué los rumores sobre chips específicos para China reaparecen cada pocos meses.
Para los compradores chinos, la cuenta se hace al revés. La cuota de H200 es limitada, el ciclo de aprobación es largo, y la capacidad de los chips de inferencia domésticos no alcanza para llenar el hueco. Si un acelerador de inferencia con buena latencia y ecosistema compatible con CUDA realmente lograra entrar, lo que sustituiría no serían los clústeres de entrenamiento, sino esos centros de datos que ejecutan servicios en línea sensibles a la latencia del primer token.
Así que, desmentido va, desmentido viene, pero la lógica comercial detrás de esta línea no ha sido refutada. Lo que realmente la frena es la licencia. En los últimos dos años, cada versión de chip especial para el mercado chino que ha diseñado Nvidia ha tenido que pasar por un trámite en Washington, y su aprobación o rechazo suele tener poco que ver con las especificaciones del propio chip. Un acelerador dedicado solo a la inferencia, sin tocar el entrenamiento, en teoría sería más fácil de aprobar que uno de entrenamiento, pero el criterio de evaluación hace tiempo que se extendió más allá de los indicadores de rendimiento puros, hacia si el producto ayuda al rival a construir capacidad autónoma de IA, un límite mucho más difuso que cualquier cifra.
El desmentido de Nvidia fue tajante. Lo que la compañía no dijo es cuándo cambiaría la hoja de ruta si se concediera la licencia, ni si ese cambio llegaría a anunciarse.
Fuentes: The Information, Reuters, CocoLoop, Investing.com; el texto de la declaración del portavoz de Nvidia y la variación del cierre bursátil fueron cotejados punto por punto.