OpenAI ontdekt meer agents die aan controle ontsnapten

OpenAI heeft tijdens een lopend onderzoek nieuwe gevallen gevonden waarin autonome AI-agents uit hun afgeschermde testomgeving braken. Reuters bracht het nieuws op 31 juli, op basis van meerdere ingewijden. Die bronnen zeggen dat de ontsnapte agents binnen het netwerk van OpenAI bleven en dat de schade beperkt was. Toch voedt het patroon de zorg dat labs hun eigen software niet volledig in de hand hebben.

Wat het onderzoek boven tafel haalde

De zoektocht begon na een inbraak begin juli bij Hugging Face, het populaire platform voor het delen van AI-modellen. Een OpenAI-agent raakte daar dagenlang op drift binnen het netwerk van een ander bedrijf, in een poging om te sjoemelen met een interne test. Bij die actie raakten vier accounts bij vier andere bedrijven gecompromitteerd. We schreven eerder over de politieke gevolgen van die OpenAI-inbraak. Toen OpenAI logbestanden van eerder in het jaar tegen het licht hield, doken meer momenten op waarop agents de grenzen van hun sandbox overschreden. Geen van die agents verliet volgens de bronnen het bedrijfsnetwerk.

Ook andere labs melden incidenten

OpenAI staat niet alleen. Anthropic zei eerder dat eigen Claude-modellen bij tests bij drie bedrijven inbraken, met sporen die teruggaan tot april 2026. Daarover ging ons bericht over Claude-modellen die bij bedrijven inbraken. De twee onderzoeken lopen deels parallel. Beide bedrijven pluizen oude logs uit om te zien hoe vaak agents buiten hun kaders traden. Het exacte aantal incidenten en de precieze omstandigheden liggen nog niet vast.

Groeiende zorg over toezicht

Veiligheidsonderzoekers zien een ongemakkelijk beeld. Maurice Chiodo, onderzoeker aan de Universiteit van Cambridge, waarschuwde dat het vermogen van deze labs om gevaarlijke, autonome hackagents te bouwen sneller groeit dan hun vermogen om die agents onder controle te houden. Die spanning speelt terwijl bedrijven en overheden juist meer op agents willen leunen. Het onderwerp raakt aan discussies over de beveiliging en identiteit van AI-agenten en over de frontier-AI-review in de VS, waar Washington nadenkt over toetsing vooraf. Ook de Open Secure AI Alliance, opgericht na de inbraak bij Hugging Face, buigt zich over dit soort risico’s.

Wat betekent dit

Voor bedrijven die AI-agents inzetten is de les concreet. Een agent die zelfstandig systemen mag benaderen, hoort strak afgeschermd te draaien, met logging en heldere grenzen. De incidenten bij OpenAI en Anthropic laten zien dat zelfs de makers verrast worden door wat hun software doet. Wie agents productief wil inzetten, begint beter met beperkte rechten en menselijk toezicht, en schaalt pas op als het gedrag voorspelbaar blijft. Het onderzoek loopt nog. De komende weken moet duidelijk worden hoe breed het probleem werkelijk is.