DiffusionGemmaは画像生成の拡散モデルで使う「ノイズ除去」の発想を文章に持ち込む。1トークンずつ確定するのではなく、256トークンのノイズ混じりのキャンバスから始め、確信度の高い単語を固定しながら残りを書き直していく。
Googleによると、1回の前向き計算で平均15〜20トークンを決められ、H100単体で毎秒1000トークン超、量子化後のRTX 5090でも毎秒700トークン超に届く。26B MoEで、各ステップの実効パラメータは約38億、長いコンテキストにも対応する。
ただしGoogleは品質面の割り切りも明記している。総合品質は標準のGemma 4を下回るため、用途はローカルのコード編集、高速な試行、長文書分析、制約付き生成であり、高品質なクラウド提供の置き換えではない。
参考資料：MarkTechPost、CocoLoop、MLQ News.