OpenAI-chip Jalapeño verslaat Nvidia op stroomverbruik
OpenAI heeft dinsdag de eerste testresultaten vrijgegeven van Jalapeño, de inferentiechip die het bedrijf sinds juni samen met Broadcom ontwikkelt. De metingen komen van analistenbureau SemiAnalysis en vallen op: op energieverbruik en reactiesnelheid komt de chip boven Nvidia’s huidige topsystemen uit.
Wat de benchmark laat zien
Op de InferenceX-benchmark van SemiAnalysis levert Jalapeño 1,5 tot 1,9 keer meer werk per watt dan Nvidia’s GB200- en GB300-systemen. De latency ligt volgens dezelfde test 1,7 tot 3,6 keer lager. Die cijfers zijn gemeten op drie modellen: GPT-OSS 120B, DeepSeek R1 en Kimi K2.5 met een biljoen parameters. Richard Ho, hoofd hardware bij OpenAI, noemt het tegenover TechCrunch een zeer forse sprong ten opzichte van de huidige stand van de techniek.
De vergelijking gaat over draaiende modellen, niet over training. Jalapeño kan minder dan een algemene GPU, en dat is precies het punt.
Waarom de architectuur anders is
OpenAI richtte het ontwerp op twee knelpunten die bij inferentie het meeste tijd kosten: de prefill-fase, waarin het model de invoer verwerkt, en het verkeer tussen chips onderling. Door de modelstatus en de KV-cache dichter bij de rekeneenheden te houden hoeft er minder data over de bus. OpenAI zegt zijn eigen modellen te hebben ingezet bij het ontwerpwerk. Broadcom leverde de chipkennis, dezelfde rol die het bedrijf ook voor Anthropic op zich neemt.
Die beweging is inmiddels breed. Anthropic haalde onlangs een TPU-architect binnen voor eigen silicium, en vrijwel elk groot lab werkt aan hardware die op de eigen modellen is toegesneden.
Wat het voor Broadcom en Nvidia betekent
Broadcom-topman Hock Tan zei dat de operationele kosten bij gangbare AI-workloads ongeveer de helft lager kunnen uitvallen dan bij de gebruikelijke AI-GPU’s. Beleggers reageerden ingetogen: het aandeel Broadcom won 0,66 procent tot 361,13 dollar. Wel geeft het resultaat gewicht aan de eigen prognose van meer dan 100 miljard dollar AI-omzet in boekjaar 2027.
Voor Nvidia is de directe pijn beperkt. Ho zelf tekent aan dat concurrenten flink kunnen opschuiven voordat Jalapeño op volume draait, en Nvidia verhoogde onlangs nog zijn serverprijzen met ruim 15 procent zonder klanten kwijt te raken. De kwartaalcijfers die woensdag volgen zeggen daar meer over dan één benchmark.
Wat betekent dit
Jalapeño draait voorlopig nergens in productie. OpenAI begint eind dit jaar met uitrol in zeer kleine volumes en verwacht pas in 2027 serieuze aantallen. De strategische boodschap staat los van die planning: als je model bekend is en je workload voorspelbaar, dan valt er veel stroom en geld te besparen met hardware die precies daarop is gebouwd.
Voor bedrijven die AI afnemen zit het effect verderop in de keten. Inferentie vormt het grootste deel van de terugkerende kosten van een AI-product, en goedkopere inferentie drukt uiteindelijk de prijs per token. Dat duurt nog even. Wie nu capaciteit inkoopt, doet dat gewoon op Nvidia-hardware.
