OpenAI zet GPT-5.6 Sol op 750 tokens per seconde

OpenAI heeft donderdag een preview vrijgegeven van Ultrafast, een nieuwe servicelaag in de API die GPT-5.6 Sol tot veertien keer sneller laat antwoorden dan de standaardverwerking. Het model zelf verandert niet. Wat verandert is de hardware eronder: de laag draait op chips van Cerebras en haalt tot 750 uitgevoerde tokens per seconde, meldt TechCrunch.

Waarom die snelheid nu pas kan

Tot nu toe was realtime tempo bij taalmodellen vooral een kwestie van inleveren: wie snelle antwoorden wilde, koos een kleiner of gespecialiseerd model. Cerebras pakt het anders aan. De Wafer-Scale Engine houdt 44 GB aan modelgewichten in SRAM op de chip zelf, waardoor de geheugenbandbreedte die klassieke GPU-inferentie afknijpt geen flessenhals meer is. Data hoeft niet voortdurend heen en weer tussen chip en extern geheugen.

Cerebras-topman Andrew Feldman zegt in het persbericht dat snelheid en intelligentie elkaar niet langer uitsluiten. De cijfers die het bedrijf noemt: op de GDP-Val-benchmark een versnelling van 5,6 keer van begin tot eind zonder kwaliteitsverlies, en ongeveer vijf keer sneller dan de Fast-modus van Claude Opus 4.8.

Voorlopig alleen voor een kleine groep

De preview gaat eerst naar een select gezelschap API-klanten. OpenAI zegt de toegang te verbreden zodra de capaciteit meegroeit, en de VP Compute Strategy laat weten dat het bedrijf bij een beperkte groep begint om te leren waar dat tempo daadwerkelijk iets oplevert. Over prijzen is nog niets bekendgemaakt.

De toepassingen die OpenAI noemt hebben één ding gemeen: wachten kost er direct geld of vertrouwen. Incidentafhandeling, klantenservice, analyse van financiële markten en e-commerce. Bij een agent die tientallen stappen achter elkaar zet, telt elke seconde per stap door in de totale doorlooptijd. Dat is precies de reden waarom ook andere partijen op tempo mikken, zoals NVIDIA eerder deed met Nemotron 3.5 Lightning voor agents.

De chipmarkt beweegt mee

Dat inferentie het nieuwe slagveld is, zie je aan de overnames en standaarden eromheen. AMD kocht dit jaar Taalas om modellen rechtstreeks in silicium te branden, en de geheugenindustrie werkt aan HBF als open standaard om precies het bandbreedteprobleem aan te pakken dat Cerebras met wafer-schaal omzeilt. Ondertussen concurreren de modellen zelf op prijs, zoals Grok 4.6 dat GPT-5.6 Sol evenaart voor een derde van de kosten.

Wat betekent dit

Voor Nederlandse bedrijven is Ultrafast voorlopig nieuws om te volgen, niet om op te bouwen. De preview is klein, de prijs onbekend en de capaciteit beperkt. Maar de richting is duidelijk genoeg: de vraag verschuift van hoe slim een model is naar hoeveel nuttig werk het per seconde levert. Wie nu een agent bouwt die twintig keer een model aanroept voordat er een antwoord staat, doet er goed aan die architectuur alvast tegen het licht te houden. Als de wachttijd per stap met een factor tien krimpt, worden processen haalbaar die je vandaag nog afserveert als te traag.