NVIDIA koppelt je thuis-pc’s tot één AI-cluster

NVIDIA heeft software uitgebracht die losse computers in huis laat samenwerken aan AI-taken. Het gereedschap heet PAIR, kort voor Personal AI Router, en werd deze week gepresenteerd op de IFA in Berlijn. De code staat op GitHub, gebruik kost niets en de beta draait op Windows, macOS en Linux.

Wat PAIR wel en niet doet

Ondanks de naam is het geen netwerkapparaat. De software zoekt via mDNS naar geschikte systemen op het thuisnetwerk, waarna de gebruiker een koppeling handmatig moet goedkeuren. Het verkeer tussen de knooppunten loopt versleuteld via mTLS.

Het rekenwerk zelf blijft bij Ollama en LM Studio. PAIR leest per verzoek af welke engine en welk model nodig zijn, en stuurt de opdracht naar een machine die vrij is en het model al klaar heeft staan. Voor applicaties presenteert de router zich als een Ollama- of OpenAI-compatibel eindpunt, schrijft NVIDIA in zijn ontwikkelaarsblog. Bestaande agentcode hoeft dus niet aangepast te worden.

Drie machines halveren de wachttijd

In een demonstratie van NVIDIA draaide het model Qwen 3.6 35B onder de agentorkestratie van Hermes. Op een enkele RTX-laptop kostte de taak gemiddeld 18 minuten. Met drie gekoppelde apparaten, de laptop plus een DGX Spark en een RTX 5090, zakte dat naar 8 minuten en 48 seconden.

Die winst komt uit parallellisme. Onafhankelijke verzoeken van een agent gaan naar verschillende GPU’s in plaats van achter elkaar in de rij te staan. Elk model draait wel op één machine, dus een model dat niet in het geheugen van een enkele kaart past, komt er niet mee binnen bereik. Unite.AI wijst erop dat PAIR daarmee een planner is en geen manier om geheugen samen te voegen.

Wie meedoet aan de beta

De ondersteunde hardware is beperkt tot GeForce RTX 20-kaarten en nieuwer, RTX PRO-workstationkaarten, de DGX Spark en Apple-silicium vanaf de M4. Dat maakt een gemengd huishouden mogelijk: een gamedesktop, een MacBook en een compacte workstation kunnen in dezelfde pool zitten. NVIDIA zet de broncode open op GitHub en vraagt om bugmeldingen, wat past bij de bredere beweging van het bedrijf richting ontwikkelaars sinds de overname van Hugging Face.

Wat betekent dit

Voor wie AI lokaal draait was rekenkracht tot nu toe een kwestie van één machine, hoe zwaar je die ook opbouwde. PAIR verlegt die grens naar het hele huisnetwerk, zonder dat prompts, bestanden of agentcontext het pand verlaten. Dat sluit aan bij een lijn die dit jaar breder zichtbaar wordt, van Perplexity dat gevoelige data op de Mac houdt tot onderzoek naar magnetisch geheugen voor AI buiten het datacenter.

De praktische waarde hangt af van wat je doet. Wie één chatvenster gebruikt, merkt weinig; de router versnelt geen enkele losse vraag. Wie agents laat werken die tientallen deeltaken tegelijk afvuren, wint echte tijd. Dat het om beta-software gaat met een korte hardwarelijst betekent dat de meeste mensen voorlopig toekijken, net als bij eerdere RTX-functies zoals DLSS 5. Maar de richting is duidelijk: NVIDIA wil dat de GPU’s die het al verkocht heeft harder gaan werken, en dat de rekening voor cloud-inferentie kleiner wordt.