Nvidia Minerva zoekt het kapotte onderdeel in een AI-fabriek
Als een trainingsrun op tienduizenden GPU’s ineens trager loopt, begint voor beheerders vaak een zoektocht van dagen. Ligt het aan een kabel, een netwerkkaart, een switch of aan de software? Nvidia wil die zoektocht inkorten met Minerva, een AIOps-platform dat het bedrijf op donderdag 22 oktober presenteerde op GTC Berlin.
Eén overzicht van GPU tot kabel
Minerva verzamelt telemetrie uit de hele installatie: GPU’s, SuperNIC-netwerkkaarten, switches, kabels, opslag, jobschedulers en de AI-workloads zelf. Volgens Unite.AI bouwt de software daar een dynamische kennisgraaf van, een kaart die laat zien welk onderdeel met welk ander onderdeel verbonden is en welke taak erop draait. Zo moet een beheerder een trage trainingsjob kunnen herleiden tot het ene component dat de boel ophoudt, ook in een cluster met honderdduizenden GPU’s.
Nvidia gebruikt machine learning om normaal gedrag te leren herkennen. Afwijkingen die nog niet eerder voorkwamen worden gemarkeerd en het systeem probeert storingen te voorspellen voordat ze optreden. Een tweede functie pakt de alarmstormen aan die elke beheerder kent: gerelateerde meldingen worden gebundeld tot één incident met een waarschijnlijke oorzaak.
Een assistent die vragen in gewone taal beantwoordt
In Minerva zit een ingebouwde AI-assistent die vragen over de gezondheid van een cluster in gewone taal beantwoordt en oplossingen voorstelt. Bitdeer AI, een van de vroege gebruikers, noemt die assistent Sherlock en beschrijft hem als een multi-agentsysteem. Er zit ook een MCP-server bij, zodat externe AI-agents op het platform kunnen aansluiten. Wie liever zelf ingrijpt, kan dat: oplossingen kunnen handmatig worden doorgevoerd of via de eigen automatisering van de klant, schrijft The Next Web.
Concrete cijfers zijn er nog weinig. Bitdeer citeert interne tests van Nvidia waarin de hersteltijd van een stroomstoring in NVMe-opslag daalde van een uitval van meerdere dagen naar zes uur. In een ander geval werden 81 losse meldingen samengevoegd tot één alarm, wat volgens Bitdeer 54 uur clusteruptime opleverde. Onafhankelijk getoetst zijn die resultaten niet.
Wie het gaat gebruiken
Het Australische IREN draait Minerva al. “NVIDIA Minerva gives our operations team one view across the network, the GPUs and the jobs running on them”, zegt CTO Denis Skrinnikoff. Nvidia kan sinds een deal in mei tot 2,1 miljard dollar in IREN investeren, dus helemaal onafhankelijk is die lof niet. Bitdeer AI, IBM, Jio, Lambda en Tesla willen het platform ook inzetten. Dell, Lenovo en Supermicro gaan het aanbieden in hun eigen pakketten voor AI-datacenters. Prijzen en een datum voor algemene beschikbaarheid heeft Nvidia niet genoemd.
De aankondiging past in een reeks Berlijnse nieuwtjes. Eerder deze week schreven we al over de DSX POD, waarmee Nvidia een AI-fabriek in twee weken wil neerzetten, en over de samenwerking tussen Nvidia en Duitsland rond physical AI.
Wat betekent dit
Nvidia verkoopt al jaren de chips, de netwerkapparatuur en de software om modellen te trainen. Met Minerva schuift het bedrijf ook op naar het beheer van de datacenters zelf, een markt waar nu vooral gespecialiseerde monitoringbedrijven zitten. De timing is logisch. Techbedrijven geven recordbedragen uit aan rekenkracht: Meta zit vast aan 825 miljard dollar aan verplichtingen en AWS bestelde twee miljoen extra Nvidia-GPU’s. Elk uur dat zo’n cluster stilstaat of half draait kost dan veel geld. Nvidia drukt dat zelf uit in “AI factory yield”, een maat die GPU-uren, goodput, uptime en tokenproductie combineert.
Voor klanten zit er een keerzijde aan. Wie de hardware, het netwerk en nu ook het toezicht bij één leverancier afneemt, wordt nog afhankelijker van Nvidia. Hoe Minerva omgaat met apparatuur van andere fabrikanten blijkt niet uit de aankondiging. Dat wordt de vraag die grote datacenterbouwers als eerste zullen stellen.
