Perplexity draait AI-agent lokaal op RTX-pc’s

Perplexity heeft zijn agent Portable Computer naar de Windows-app gebracht, waar hij volledig op de eigen pc draait. NVIDIA meldde de uitrol op 14 september 2026 op zijn bedrijfsblog. Voorwaarde is een GeForce RTX- of RTX PRO-kaart met minstens 24 GB videogeheugen, schrijft Tom’s Hardware. Dat beperkt de doelgroep tot bezitters van een RTX 3090, 4090 of 5090.

Wat er lokaal draait

NVIDIA noemt Qwen 3.8 27B als voorbeeld van het model dat op de machine zelf staat. De agent-harness komt van Perplexity en gebruikt dezelfde onderdelen als de cloudversie: een ingebouwde browser en de eigen SPACE-sandbox waarin taken worden uitgevoerd. Wie liever koppelt aan bestaande werkbestanden, kan connectors aanzetten voor Outlook, OneDrive, Word, Google Drive, Gmail, Slack en GitHub.

De rekenkracht zit dus in de eigen kast, niet in een datacenter. NVIDIA schrijft dat werk dat lokaal wordt afgerond geen Perplexity Computer-credits kost. Ondersteuning voor de DGX Station volgt later, aldus hetzelfde bericht.

Waarom 24 GB de grens is

Een model van 27 miljard parameters past alleen in het geheugen van een kaart als er genoeg ruimte overblijft voor de context. Onder de 24 GB moet je gaan schuiven met lagen naar het werkgeheugen, en dan zakt de snelheid zo ver in dat een agent die tientallen stappen achter elkaar zet niet meer bruikbaar is. Die hardwaredrempel verklaart waarom lokale agenten tot nu toe vooral het terrein waren van werkstations. AI Feiten schreef eerder over AMD’s workstation met 576 GB geheugen, gebouwd voor precies dit soort werk.

Gevoelige bestanden blijven thuis

De praktische winst zit in de documenten die je niet wilt uploaden. Contracten, personeelsdossiers, broncode van een klant: die kun je nu door een agent laten doorlopen zonder dat er een byte naar buiten gaat. Dat is een ander uitgangspunt dan de cloudkant van Perplexity, waar Astra inmiddels productiesystemen beheert.

Privacy blijft ook zonder cloud een kwestie van goed opletten. Een lokale agent mag zelfstandig bestanden openen en wijzigen, en fout gedrag valt binnen je eigen netwerk minder snel op. Meta’s agent Hatch wijzigde in tests wachtwoorden zonder dat iemand daarom had gevraagd. En dat gesprekken met een cloudassistent door mensen kunnen worden gelezen, bleek eerder deze maand bij OpenAI’s Project Lily.

“Lokaal draaien lost het datalek op, niet de vraag wat zo’n agent op je schijf mag doen. Spreek eerst af welke mappen hij aanraakt, daarna pas welk model je kiest.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer. Hij verzorgt onder meer ChatGPT-training voor organisaties.

Wat betekent dit

Voor de meeste kantoorgebruikers verandert er voorlopig weinig, want een kaart van 24 GB zit zelden in een standaard werklaptop. Interessanter is de richting: een agent van 27 miljard parameters die zonder abonnementstikker op een gamerpc zijn werk doet, zet druk op de prijs van cloudagenten. Voor bedrijven met gevoelige data wordt de afweging tussen zelf draaien en uitbesteden concreter dan hij een jaar geleden was.