DiffusionGemma recria geração de texto como difusão

DiffusionGemma leva para texto a lógica de remoção de ruído dos modelos de difusão de imagem. Em vez de fixar um token por vez, começa com uma tela ruidosa de 256 posições, trava as palavras mais confiáveis e reescreve o restante.

Segundo o Google, cada passada pode decidir em média 15 a 20 tokens, com mais de 1.000 tokens por segundo em uma H100 e acima de 700 tokens por segundo em uma RTX 5090 quantizada. O 26B MoE ativa cerca de 3,8 bilhões de parâmetros por etapa.

A troca é explícita: a qualidade geral fica abaixo do Gemma 4 padrão. O alvo são edições locais de código, testes rápidos, análise de documentos longos e geração com restrições, não serviços de nuvem focados em qualidade máxima.

Fontes:MarkTechPost、CocoLoop、MLQ News.