DiffusionGemma 把圖像擴散模型的去噪思路搬到文字生成。它不是一個 token 一個 token 往後寫,而是先鋪出 256 個位置的噪聲畫布,再反覆鎖定有把握的詞,重寫剩下的部分。
Google 稱模型平均一次前向計算能確定 15 到 20 個 token,單張 H100 可超過每秒 1000 token,量化後在 RTX 5090 上也能超過每秒 700 token。它是 26B MoE,每步實際啟用約 38 億參數,並支援長上下文。
但 Google 也把取捨說清楚:整體品質低於標準 Gemma 4。它更適合本地程式碼修改、快速試錯、長文件分析和帶約束生成,而不是取代高品質雲端服務。
參考來源:MarkTechPost、CocoLoop、MLQ News.