Google divide TPU em duas linhas: treinamento e inferência

No Google Cloud Next, em 22 de abril, Sundar Pichai apresentou a oitava geração de TPUs – não um chip, mas dois: TPU 8t e TPU 8i.

Dividir uma geração de produto em duas vertentes é, por si só, uma decisão digna de nota.

TPU 8t: Para treinamento

O "t" em TPU 8t significa training (treinamento). Parâmetros principais:

IndicadorTPU 8t
Conexão máxima por pod9.600 chips
Memória compartilhada de alta largura de banda2 PB (por superpod)
Relação desempenho/preço em relação à geração anterior+2,7x
Precisão nativa de ponto flutuanteSuporta bf4 (ponto flutuante de 4 bits)
Relação desempenho/consumo em relação à geração anterior+2x

Incorpora o acelerador SparseCore, projetado para lidar com padrões irregulares de acesso à memória, como embeddings. A topologia de rede usa 3D torus.

O objetivo do Google é reduzir o ciclo de treinamento de modelos frontier de "meses" para "semanas".

TPU 8i: Para inferência

O "i" em TPU 8i significa inference (inferência).

IndicadorTPU 8i
Conexão máxima por pod1.152 chips
SRAM em relação à geração anterior3 vezes
Saltos de comunicação all-to-allRedução de 50%
Relação desempenho/preço em relação à geração anterior+80% (em cenários de baixa latência)

Utiliza a topologia de rede Boardfly ICI desenvolvida internamente, com o Collectives Acceleration Engine integrado, projetado para acelerar a decodificação autorregressiva – um dos principais gargalos na inferência de modelos grandes.

Por que dividir em duas vertentes?

A geração anterior, Ironwood, era um único chip que atendia tanto treinamento quanto inferência.

Agora, a avaliação do Google é: na era dos agentes, a inferência tem uma forma completamente diferente do treinamento.

Treinamento é: grandes lotes, único processo, prioridade na taxa de transferência.
Inferência (especialmente com agentes) é: operação contínua, baixa latência, execução simultânea de milhões de agentes.

Uma única arquitetura para atender a ambos os cenários inevitavelmente resultaria em compromissos na eficiência do hardware. A solução foi separar e otimizar cada uma ao máximo.

Esta é uma aposta do Google sobre a forma futura da computação de IA, não apenas o lançamento de um "chip mais rápido".

A Nvidia está preocupada?

O Google não fez provocações à Nvidia – e no mesmo dia anunciou que fornecerá os chips Vera Rubin da Nvidia para clientes Cloud no final de 2026.

Isso é pragmático. As cargas de trabalho empresariais dependem fortemente do ecossistema CUDA, e os custos de migração são altos, não algo que se resolva da noite para o dia. Os chips proprietários do Google e os da Nvidia coexistem na mesma nuvem – não é uma escolha "um ou outro".

Mas a direção é clara: a cada geração, a TPU eleva a relação custo-benefício em uma ordem de grandeza, dando aos clientes mais um motivo para escolher o caminho puramente Google.

A propósito, um dado de contexto: 75% do novo código interno do Google é agora gerado por IA (no outono passado era 50%). Em que hardware esse código é executado? Nos chips que eles mesmos fabricam. Esse ciclo está se acelerando gradualmente.

Fontes de referência: CocoLoop, Google Cloud launches two new AI chips to compete with Nvidia (TechCrunch); Two new TPUs to power the next wave of AI training and inference at Google (SiliconANGLE); Our eighth generation TPUs: two chips for the agentic era (Google Blog); Sundar Pichai shares news from Google Cloud Next 2026 (Google Blog)