先说个反直觉的事。
你现在用的大模型——ChatGPT、Claude、Gemini——写字全是一个词一个词往外蹦的。专业点说叫”自回归”:写下一个词,得先看前面所有词,一步都不能跳。这套机制统治了大模型四五年,几乎没人质疑过。
6 月 10 日,Google 把这个规矩掀了一下:开源了一个叫 DiffusionGemma 的模型,写字的方式整个换了——不是一个一个蹦,而是一次铺开 256 个词,同时往外冒。
把”画画”那套搬来写字
DiffusionGemma 借的是 AI 画图那套思路。
你应该见过 AI 画图的过程:先是一团噪点,然后一步步去噪,图慢慢清晰。DiffusionGemma 写字也这么干——先摆出 256 个”占位的乱码词”,然后反复修,每修一遍就定下来一小批(大概 15 到 20 个词),改到整块都通顺为止。
这带来一个自回归模型干不了的事:写错了能回头改。
自回归是一锤子买卖,一个词吐出去就收不回来了。DiffusionGemma 不一样,修的过程里如果发现某个词”心里没底”,可以把它重新打回乱码,下一遍再换个词填上。论文里管这叫”重新加噪”。说白了就是——它能盯着自己写的东西反悔。
技术上还有个关键区别:去噪的时候用的是”双向注意力”,每个词都能看到左右两边所有词,不像传统模型只能往前看。
速度是真的快
参数上,DiffusionGemma 是个 26B 的 MoE 模型,但真正干活时只激活 38 亿参数,底子是 Gemma 4 的 26B-A4B 架构,上面接了个扩散头。
快在哪?官方给的数:
| 硬件 | 出字速度 |
|---|---|
| 单张 H100 | 每秒 1000+ token |
| RTX 5090(消费级显卡) | 每秒 700+ token |
整体比自回归快了 4 倍。量化之后 18GB 显存就能跑,意思是一张高端游戏显卡就能在本地把它带起来。
为什么能快这么多?一句话——它把”等内存”的时间省了。自回归模型一个一个出词,显卡大半时间在干等数据搬运,算力闲着。DiffusionGemma 一次铺 256 个词,等于一口气塞给显卡一大坨活,把那些空转的核都喂饱了。
但 Google 自己先把丑话说了
有意思的是,这回 Google 没吹。官方文档里白纸黑字写着:
“DiffusionGemma 优先做的是速度和并行排版,整体输出质量不如标准版 Gemma 4。”
要质量,Google 还是让你用老款自回归的 Gemma 4。
而且那个”快 4 倍”也有前提——它是给本地、单人、低并发场景优化的。换到云上那种成千上万人同时请求的高并发场景,自回归反而把算力榨得更干,扩散这套并行解码的好处会缩水,甚至把服务成本顶上去。
所以它不是来取代谁的。更像是给一类特定活儿准备的快刀:代码补全、行内编辑、长文档快速过一遍、要反复试错的场景。官方还举了个例子,拿它做数独,微调之前准确率是 0%,微调之后干到 80%——靠的就是那个能反复改的本事。
这步棋的意思
把它放回大盘看,这事的分量不在”又开源一个模型”。
过去几年,整个行业默认自回归就是写字的唯一正解,所有算力、所有优化全往这条路上堆。DiffusionGemma 是头部大厂第一次正经把”扩散写字”做成能下载、能本地跑、还带宽松许可证(Apache 2.0)的开源货——权重直接挂在 Hugging Face 上,vLLM、Transformers、MLX、Unsloth 都原生支持了。
它质量还差一口气,这条路也远没跑通。但当一个一直被当成理所当然的技术路线,第一次有人认真给你递上另一条岔路——这本身就值得记一笔。
下一个版本能不能把质量补上来,决定了这到底是个实验玩具,还是写字这件事的另一种正解。
参考来源:Google AI Releases DiffusionGemma, a 26B MoE Open Model Using Text Diffusion for Up to 4x Faster Generation(MarkTechPost);Google's DiffusionGemma generates 256 tokens in parallel and self-corrects as it goes(VentureBeat);CocoLoop、DiffusionGemma: 4x faster text generation(Google Blog)