Google开源文本扩散模型DiffusionGemma

先说个反直觉的事。

你现在用的大模型——ChatGPT、Claude、Gemini——写字全是一个词一个词往外蹦的。专业点说叫”自回归”:写下一个词,得先看前面所有词,一步都不能跳。这套机制统治了大模型四五年,几乎没人质疑过。

6 月 10 日,Google 把这个规矩掀了一下:开源了一个叫 DiffusionGemma 的模型,写字的方式整个换了——不是一个一个蹦,而是一次铺开 256 个词,同时往外冒。

把”画画”那套搬来写字

DiffusionGemma 借的是 AI 画图那套思路。

你应该见过 AI 画图的过程:先是一团噪点,然后一步步去噪,图慢慢清晰。DiffusionGemma 写字也这么干——先摆出 256 个”占位的乱码词”,然后反复修,每修一遍就定下来一小批(大概 15 到 20 个词),改到整块都通顺为止。

这带来一个自回归模型干不了的事:写错了能回头改

自回归是一锤子买卖,一个词吐出去就收不回来了。DiffusionGemma 不一样,修的过程里如果发现某个词”心里没底”,可以把它重新打回乱码,下一遍再换个词填上。论文里管这叫”重新加噪”。说白了就是——它能盯着自己写的东西反悔。

技术上还有个关键区别:去噪的时候用的是”双向注意力”,每个词都能看到左右两边所有词,不像传统模型只能往前看。

速度是真的快

参数上,DiffusionGemma 是个 26B 的 MoE 模型,但真正干活时只激活 38 亿参数,底子是 Gemma 4 的 26B-A4B 架构,上面接了个扩散头。

快在哪?官方给的数:

硬件出字速度
单张 H100每秒 1000+ token
RTX 5090(消费级显卡)每秒 700+ token

整体比自回归快了 4 倍。量化之后 18GB 显存就能跑,意思是一张高端游戏显卡就能在本地把它带起来。

为什么能快这么多?一句话——它把”等内存”的时间省了。自回归模型一个一个出词,显卡大半时间在干等数据搬运,算力闲着。DiffusionGemma 一次铺 256 个词,等于一口气塞给显卡一大坨活,把那些空转的核都喂饱了。

但 Google 自己先把丑话说了

有意思的是,这回 Google 没吹。官方文档里白纸黑字写着:

“DiffusionGemma 优先做的是速度和并行排版,整体输出质量不如标准版 Gemma 4。”

要质量,Google 还是让你用老款自回归的 Gemma 4。

而且那个”快 4 倍”也有前提——它是给本地、单人、低并发场景优化的。换到云上那种成千上万人同时请求的高并发场景,自回归反而把算力榨得更干,扩散这套并行解码的好处会缩水,甚至把服务成本顶上去。

所以它不是来取代谁的。更像是给一类特定活儿准备的快刀:代码补全、行内编辑、长文档快速过一遍、要反复试错的场景。官方还举了个例子,拿它做数独,微调之前准确率是 0%,微调之后干到 80%——靠的就是那个能反复改的本事。

这步棋的意思

把它放回大盘看,这事的分量不在”又开源一个模型”。

过去几年,整个行业默认自回归就是写字的唯一正解,所有算力、所有优化全往这条路上堆。DiffusionGemma 是头部大厂第一次正经把”扩散写字”做成能下载、能本地跑、还带宽松许可证(Apache 2.0)的开源货——权重直接挂在 Hugging Face 上,vLLM、Transformers、MLX、Unsloth 都原生支持了。

它质量还差一口气,这条路也远没跑通。但当一个一直被当成理所当然的技术路线,第一次有人认真给你递上另一条岔路——这本身就值得记一笔。

下一个版本能不能把质量补上来,决定了这到底是个实验玩具,还是写字这件事的另一种正解。

参考来源:Google AI Releases DiffusionGemma, a 26B MoE Open Model Using Text Diffusion for Up to 4x Faster Generation(MarkTechPost);Google's DiffusionGemma generates 256 tokens in parallel and self-corrects as it goes(VentureBeat);CocoLoop、DiffusionGemma: 4x faster text generation(Google Blog)