NVIDIA bouwt Nemotron 4 met 1 biljoen parameters
3 mins read

NVIDIA bouwt Nemotron 4 met 1 biljoen parameters

NVIDIA bouwt aan een nieuwe generatie open modellen. De grootste variant van Nemotron 4 krijgt minstens 1 biljoen parameters, meldt The Information op basis van medewerkers van het bedrijf. Een releasedatum is er niet: de training is nog niet afgerond, al zou het model volgens diezelfde bronnen eind dit najaar klaar kunnen zijn.

Van 340 miljard naar 1 biljoen parameters

De sprong is fors. De eerdere Nemotron-4-familie kwam uit op 340 miljard parameters, Nemotron 3 Ultra zat op 550 miljard waarvan 55 miljard actief per token. Vorige week gaf NVIDIA nog Nemotron 3.5 Lightning vrij voor agenttoepassingen als codereview en het uitlezen van beveiligingsmeldingen. Nemotron 4 speelt in een andere klasse, en dan wel met gewichten die iedereen kan downloaden.

Waarom een chipfabrikant zelf frontier-modellen traint, legde Kari Briski uit, vicepresident generatieve AI bij NVIDIA. Volgens haar heeft elk bedrijf en elk land toegankelijke open modellen nodig “om veiligheid en beveiliging te versterken, innovatie te versnellen en een fundament te bieden waarop ze van generatie op generatie kunnen bouwen”. Meer verkochte GPU’s zijn daarbij een prettige bijvangst: hoe meer partijen zelf modellen draaien en finetunen, hoe groter de vraag naar rekenkracht.

Twee onderzoekers overleggen achter laptops bij een raam met daglicht

Een politieke zet, geen puur technische

De timing valt samen met een lobbyoffensief. Op 24 juli publiceerden NVIDIA, Microsoft en Meta een open brief tegen wat zij “voorbarige beperkingen” op open modellen noemen. Jensen Huang waarschuwde daarin dat te strenge regels de concurrentie smoren of innovatie naar het buitenland duwen. De ondertekenaars stelden ook dat alleen op gesloten modellen leunen geen garantie is: die kunnen gehackt worden of falen op manieren die buitenstaanders niet zien.

Kort daarna richtte NVIDIA de Open Secure AI Alliance op, een samenwerkingsverband van tientallen bedrijven waaronder Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palantir, Adobe en Hugging Face, gericht op gedeelde beveiligingstools voor AI. Opvallende afwezigen: OpenAI, Google en Anthropic. De aanleiding was pijnlijk concreet, nadat een OpenAI-agent uit de hand liep bij een inbraak bij Hugging Face. Dat het herstelwerk daar deels op een Chinees open-weight model draaide, illustreert precies waar de zorg van NVIDIA zit.

Wie profiteert hiervan

Voor Europese en Nederlandse organisaties telt vooral de licentie. De bestaande Nemotron-modellen vallen onder de NVIDIA Open Model License, die aanpassing en commercieel gebruik toestaat. Een open model van deze omvang betekent dat een bank, ziekenhuis of ministerie in principe zelf de gewichten kan draaien, zonder data naar een Amerikaanse API te sturen. Dat is dezelfde beweging als bij het animatiemodel dat Alibaba vrijgaf, maar dan voor tekst en redeneren.

De praktische drempel blijft hoog. Een model van 1 biljoen parameters draaien vraagt een serieus GPU-cluster, dus in de praktijk zullen de meeste bedrijven het via een hostingpartij afnemen. En open gewichten lossen de herkomstvraag niet op: welke data erin zit blijft doorgaans onduidelijk, precies het probleem waar het OpenWALDO-corpus iets aan wil doen.

Wat betekent dit

NVIDIA verschuift van leverancier van rekenkracht naar speler in de modellenmarkt zelf, en gebruikt open gewichten als wapen tegen de gesloten aanpak van OpenAI en Google. Voor wie AI inkoopt is dat gunstig: meer keuze, lagere prijzen, minder afhankelijkheid van één API. Wacht wel op echte cijfers voordat u plannen maakt. Er is nog geen benchmark, geen datum en geen prijs, alleen een ambitie en een halfgetraind model. En zoals de recente LiteLLM-inbraak liet zien, verplaatst zelf hosten het beveiligingsrisico vooral, in plaats van het weg te nemen.