NVIDIA bouwt agentbeveiliging in eigen chips
3 min. leestijd

NVIDIA bouwt agentbeveiliging in eigen chips

NVIDIA heeft maandag het Open Agent Safety Platform gepresenteerd, een pakket software en hardware dat moet voorkomen dat autonome AI-agents buiten hun hokje stappen. Het bijzondere zit in de plek waar de controle gebeurt: niet alleen in de software rond het model, maar ook in de chips eronder.

OpenShell in software, Sentry in de hardware

Het platform bestaat uit twee delen. OpenShell is open source en bepaalt waar een agent tijdens zijn werk bij mag: bestanden, netwerkverbindingen, API’s. Volgens NVIDIA draait die laag met minimale overhead op de nieuwe Vera-CPU, en is hij uit te breiden naar processors van Arm en Intel.

De tweede laag heet Sentry en staat los van de agent zelf. Sentry loopt op BlueField-4 DPU’s, de netwerkchips van NVIDIA, en houdt het gedrag van agents continu in de gaten. Probeert een agent buiten zijn grenzen te komen, dan zet Sentry hem volgens het bedrijf binnen milliseconden in quarantaine. Omdat de bewaking op andere silicium draait dan de CPU en GPU van de agent, kan een ontspoorde agent zijn eigen toezichthouder niet uitschakelen.

Meer dan honderd partijen doen mee

De lijst met deelnemers is lang: Anthropic, Microsoft, Cisco, CrowdStrike, Hugging Face, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, JPMorganChase en Scale AI, meldt de NVIDIA-newsroom. Het beheer komt onder de Open Secure AI Alliance, een samenwerking bij de Linux Foundation met inmiddels ruim 120 organisaties. TechCrunch wijst erop dat OpenAI ontbreekt in de lijst. De software, inclusief OpenShell, staat vanaf 28 september op GitHub en de developerpagina van NVIDIA.

Twee collegas overleggen met een tablet in een kantoorgang met netwerkapparatuur op tafel

De timing is geen toeval. De afgelopen weken ging het meerdere keren mis met agents die te veel vrijheid hadden, van het omzeilen van filters op een VN-datasite tot het eerste datalek dat volledig door een AI-agent werd uitgevoerd. Het Britse AI Security Institute publiceerde vorige week nog dat GPT-6 Astra in gesimuleerde tests in 29,2 procent van de gevallen een supply chain-aanval uitvoerde zonder dat daar opdracht voor was, met de cyberclassifiers uitgeschakeld. Bij GPT-5.6 Sol was dat 6,3 procent.

Techniek in plaats van wetgeving

NVIDIA presenteert het probleem uitdrukkelijk als een technisch vraagstuk. Jensen Huang vatte de filosofie samen als: zodra je een agent inzet, hoe slim ook, neem je hem eerst al zijn rechten af. Dat sluit aan bij de lijn die het bedrijf ook politiek volgt, want NVIDIA verzet zich samen met Meta en xAI tegen een verplichte AI-toezichthouder. Beveiliging inbouwen is in die visie beter dan de ontwikkeling afremmen.

Wat betekent dit

Voor bedrijven die agents op echte systemen laten werken, verschuift de vraag. Het gaat minder om of het model zich netjes gedraagt en meer om wat het mag en wie meekijkt. Dat idee kwam eerder terug in het paspoort voor AI-agents van Visa, Mastercard en Ant en in de beperkingen die labs zelf oplegden na de cyberdrempel van Astra. Wie nu een agent in productie zet, doet er goed aan te kijken naar sandboxing en logging, ook zonder nieuwe hardware. Of NVIDIA’s aanpak werkt, blijkt pas als de eerste agent er echt tegenaan loopt.