Revolut drukt AI-codeerkosten 90 procent met eigen GLM-model

Revolut betaalt nog maar een tiende van wat het eerder kwijt was aan AI-hulp bij het programmeren. De Britse fintech stapte voor zijn ongeveer 2.000 ontwikkelaars over van betaalde diensten als Claude Code en Codex op een eigen gehost open model: GLM van het Chinese Z.ai. Dat meldt The Register op basis van een presentatie van David Abitbol, verantwoordelijk voor operations en infrastructuur bij Revolut, op de AI Engineer-conferentie in New York.

Van Gemini via Claude Code naar GLM

Revolut begon begin 2025 met Gemini van Google en zette begin 2026 Claude Code in. Volgens Abitbol gaven sommige ontwikkelaars toen 1.000 dollar per maand uit aan tokens, soms zelfs 10.000 dollar, zonder dat daar duidelijk iets tegenover stond. “We were highly skeptical about the cost of AI”, zei hij. Het bedrijf voerde daarom strenge budgetlimieten in. StartupHub.ai, dat ook over de presentatie schreef, meldt dat Claude Code met die limieten weinig verschil maakte in de productiviteit.

Daarna ging Revolut zelf hosten. Volgens The Register begon het met GLM-5.1 en draait nu GLM-5.3 op 56 Nvidia B200-GPU’s. Dat zijn er evenveel als in zeven DGX B200-systemen. Een miljoen tokens kost zo ongeveer 0,30 dollar. Volgens Abitbol is dat een tiende van wat Codex of Claude Code kosten. Bij Goldman Sachs, dat AI-codeertools inperkt, speelt dezelfde vraag: wat leveren dure AI-assistenten op?

Winst zat in afstellen, niet in meer GPU’s

Zonder aanpassingen presteerde de opstelling slecht, aldus Abitbol. De grootste winst kwam van het afstellen van hyperparameters, de overstap naar NVFP4-kwantisatie, het scheiden van prefill en decode en een kortere contextlengte. Het model kan een miljoen tokens aan, maar Revolut kapt af op 256.000. “Long context is a scam”, zei Abitbol. Het doel is dat het eerste token binnen drie seconden verschijnt en dat het model daarna zo’n 200 tokens per seconde levert. Wie na vijf uur ’s middags inlogt, haalt dichter bij de 800.

Na de uitrol meet Revolut 60 procent winst in programmeertijd en 70 procent in doorlooptijd. Volgens Abitbol kwam die winst vooral van debuggen en het afhandelen van Jira- en Confluence-tickets, minder van het schrijven van nieuwe code. Omdat tokens niet meer gerantsoeneerd worden, laten ontwikkelaars de AI ook dat soort klussen doen. GLM werkt alleen met tekst. Vragen met beelden stuurt een router door naar onder meer Gemini.

Chinees model, eigen servers

Een bank die een Chinees model gebruikt, roept vragen op. Abitbol zegt dat het grootste risico zit in API’s die buiten China worden gehost door Chinese partijen. Draai je de gewichten zelf, op eigen hardware of in een regionale cloud, dan ziet hij weinig gevaar. Volgens StartupHub.ai draait elke agent in een sandbox met een mens die meekijkt, en blijft de inferentie in de VS, de EU, het VK of Israël. Dat het niet vanzelf goed gaat, bleek eerder bij het Cloudflare-lek met GLM-antwoorden.

“Goedkopere tokens betekenen niet automatisch betere code. Het verschil maak je met ontwikkelaars die precies weten wat ze een model vragen, welk model ze ook draaien.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, geeft de training prompts schrijven voor AI bij TTM Communicatie.

Wat betekent dit

De rekensom van Revolut werkt niet voor iedereen. StartupHub.ai merkt op dat kosten voor cloud, personeel en monitoring buiten de tokenprijs zijn gehouden. Een kleiner team heeft geen 56 B200’s en geen engineers die maandenlang kunnen tunen. Het laat wel zien dat open modellen als GLM en Mistral Large 4 goed genoeg worden voor dagelijks programmeerwerk bij een grote organisatie. Dat zet druk op aanbieders als Anthropic, dat volgens zijn eigen S-1 nog operationeel verlies lijdt. Ook Chinese partijen azen op die markt, zie de Super-agent van DeepSeek.