DiffusionGemma: Google’s open model dat tekst sneller maakt

Google DeepMind heeft op 10 juni DiffusionGemma vrijgegeven, een open model dat tekst niet woord voor woord opbouwt maar in blokken van 256 tokens tegelijk. Het is het eerste tekstdiffusiemodel met open gewichten van Google. Volgens de aankondiging op het Google-blog draait het op een enkele NVIDIA H100 met meer dan 1.000 tokens per seconde, ongeveer vier keer sneller dan een vergelijkbaar autoregressief model.

Hoe het model tekst opbouwt

De meeste taalmodellen, van GPT-5 tot het reguliere Gemma 4, voorspellen telkens het volgende token. DiffusionGemma werkt anders. Het start met een blok van 256 willekeurige plaatshouder-tokens en verfijnt die in meerdere passes tot er leesbare tekst ontstaat. VentureBeat vergelijkt het met beelddiffusie, waarbij ruis stap voor stap verandert in een herkenbaar plaatje. Een bijkomend voordeel: het model kan eerder gegenereerde tokens binnen een blok nog corrigeren, iets wat een token-voor-token-model niet doet.

Onder de motorkap zit de Gemma 4-architectuur, die Google eerder dit voorjaar in zijn AI-overzicht van mei uiteenzette. Het gaat om een Mixture-of-Experts met 25,2 miljard parameters in totaal, waarvan er per stap maar zo’n 3,8 miljard actief zijn. Daardoor past een gekwantiseerde versie binnen 18 GB videogeheugen, ongeveer de grens van een high-end consumentenkaart voor lokale AI. Het contextvenster is 256K tokens en het model spreekt naar eigen zeggen meer dan 140 talen. Google zet de gewichten onder Apache 2.0 op Hugging Face, Kaggle en Vertex AI, meldt MarkTechPost.

Snelheid tegenover kwaliteit

De snelheidswinst kost wat. Op benchmarks als MMLU en codeertaken scoort DiffusionGemma lager dan het reguliere Gemma 4, iets wat Google zelf benadrukt. Het bedrijf noemt de release expliciet experimenteel en raadt Gemma 4 aan voor productie waar kwaliteit boven snelheid gaat. The New Stack wijst erop dat de FP8-versie op een NVIDIA H200 tot 1.288 tokens per seconde haalt, maar dat die cijfers bij batchgrootte 1 gelden en in de praktijk variëren.

Voor wie veel korte teksten tegelijk laat genereren, denk aan classificatie, samenvattingen of losse agent-stappen, kan die doorvoer een echt verschil maken. Bij een juridisch advies of een complexe codebase blijft het reguliere model voorlopig de veiligere keuze. Het past in een bredere golf van Google-releases; vorige week kwam ook Gemini 3.5 Live Translate naar buiten.

Diffusiemodellen dwingen je anders naar prompts te kijken. Je stuurt niet één zin vooruit, maar een heel blok in één keer. Wie dat doorheeft, haalt er straks veel meer snelheid uit.

Dat zegt Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, die ondernemers leert hoe ze met gerichte prompts schrijven voor AI meer uit dit soort modellen halen.

Wat betekent dit

DiffusionGemma laat zien dat tekstdiffusie de stap van onderzoekspaper naar bruikbaar open model heeft gezet. Voor Nederlandse ontwikkelaars is het vooral interessant omdat het lokaal draait, zonder API-kosten en met volledige controle over de data. De lagere benchmarkscores betekenen wel dat je het gericht moet inzetten en niet als vervanger van alles. Wie nu al experimenteert met open modellen zoals Kimi K2.7-Code of het beeldmodel Ideogram 4, krijgt er een fundamenteel ander type architectuur bij om mee te testen. Google noemt het een kijkje vooruit, en de kans is groot dat snellere diffusievarianten volgen.