Google traint al aan Gemini 4 terwijl 3.5 Pro wacht

Google werkt aan de volgende generatie van zijn taalmodel. Bij de aankondiging van drie nieuwe Flash-modellen op 21 juli liet het bedrijf weten dat het is begonnen aan wat het zelf de meest ambitieuze pretraining-run tot nu toe noemt voor Gemini 4. Dat is opvallend, want het huidige vlaggenschip Gemini 3.5 Pro is nog altijd niet breed uitgebracht.

Pretraining voor Gemini 4 gestart

De bevestiging kwam via het blogbericht waarin Google zijn nieuwe modellen presenteerde, en werd opgepikt door onder meer CNBC en Decrypt. Pretraining is de zwaarste en duurste fase in de bouw van een groot taalmodel: het model leest in deze stap enorme hoeveelheden tekst en code en legt daarmee de basis waarop later fijnafstelling volgt. Dat Google die fase voor Gemini 4 nu start, betekent dat het model pas over een langere periode klaar zal zijn.

Volgens officechai gaat het specifiek om een run voor Gemini 4 Pro. Google gaf geen datum voor de release en houdt het bij de gebruikelijke formulering dat het model komt zodra het klaar is.

Gemini 3.5 Pro blijft steken

De timing wringt met het lot van het huidige topmodel. Gemini 3.5 Pro werd in mei op de I/O-conferentie aangekondigd, met een release die voor juni gepland stond. Die datum is ruim verstreken. Het model zit nog in een testfase met partners. De reden is technisch: 3.5 Pro haalde de interne doelen niet, vooral op programmeertaken. Google paste de trainingsdata aan om de codeervaardigheden te verbeteren, maar de resultaten vielen tegen. Eerder schreven we al dat Gemini 3.5 Pro een derde deadline miste.

Ondertussen kiest Google er dus voor om de aandacht te verleggen naar goedkopere modellen en naar de volgende generatie. Vorige week bracht het bedrijf Gemini 3.6 Flash uit, dat goedkoper is dan 3.5 Flash, samen met een Flash-Lite-variant en een securityvariant voor overheden.

De strijd verschuift naar volume

Dat een vlaggenschip vertraagt terwijl de goedkopere lagen doorstromen, past in een breder beeld. Het zwaartepunt van de concurrentie verschuift naar de high-volume modellen waar het meeste productiewerk draait, niet meer alleen naar het duurste topmodel. Concurrenten voeren de druk op: Meta zette met Muse Spark 1.1 een sterk agent-model neer en Microsoft stak miljarden in Mistral voor de Europese markt. Voor Google telt dat elk gemist kwartaal met het vlaggenschip klanten kan kosten aan die rivalen.

Wat betekent dit

De boodschap is dubbel. Google laat zien dat het vooruit plant en de rekenkracht heeft om aan twee generaties tegelijk te bouwen. Tegelijk onderstreept het uitstel van 3.5 Pro dat ook een bedrijf met de middelen van Google tegen harde grenzen aanloopt, zeker op programmeertaken waar de lat hoog ligt. Voor wie Gemini gebruikt, betekent dit dat de zichtbare verbeteringen voorlopig uit de Flash-modellen komen, terwijl het echte topmodel en de opvolger daarvan nog even op zich laten wachten.