DiffusionGemma menulis ulang generasi teks lewat denoising

DiffusionGemma membawa logika denoising dari model difusi gambar ke teks. Alih-alih mengunci token satu per satu, model memulai dari kanvas 256 token yang berisik, lalu mengunci kata yang paling yakin sambil menulis ulang sisanya.

Google menyebut rata-rata 15 sampai 20 token bisa diputuskan dalam satu forward pass. Kecepatannya diklaim melampaui 1.000 token per detik di satu H100 dan 700 token per detik di RTX 5090 setelah kuantisasi. Model 26B MoE ini mengaktifkan sekitar 3,8 miliar parameter per langkah.

Namun komprominya jelas: kualitas keseluruhan masih di bawah Gemma 4 standar. Jadi sasaran utamanya adalah edit kode lokal, iterasi cepat, analisis dokumen panjang, dan generasi dengan batasan, bukan layanan cloud yang mengejar kualitas tertinggi.

Sumber:MarkTechPost、CocoLoop、MLQ News.