OpenAI zet Astra op slot om kritiek cyberniveau

OpenAI heeft het werk aan zijn nieuwe model Astra grotendeels stilgelegd. Uit interne tests blijkt dat het model zo goed is in agentisch programmeren en cyberoperaties dat het bedrijf naar eigen zeggen niet langer kan uitsluiten dat Astra het niveau “Critical” haalt uit zijn Preparedness Framework. Dat is de zwaarste categorie die OpenAI kent, en het is de eerste keer dat het label aan een concreet model hangt. Het bedrijf publiceerde de uitleg op 7 augustus in het bericht “Responding to the next frontier of critical cyber capabilities”.

Wat kritiek betekent in het Preparedness Framework

De drempel is scherp omschreven. Een model zit op Critical als het zelfstandig werkende zero-day-exploits vindt en bouwt in geharde systemen uit de praktijk, of als het op basis van alleen een doel een volledige aanvalsketen tegen zo’n doelwit kan bedenken en uitvoeren. Geen mens die tussenbeide komt. Eerdere modellen van OpenAI, waaronder GPT-5.6 Sol, kwamen niet verder dan High. The Next Web wijst erop dat dit vermoedelijk de eerste keer is dat een groot AI-lab uit zichzelf op de rem trapt vanwege cybercapaciteiten.

Astra was al eerder in het nieuws, onder meer omdat het model wiskundige bewijzen aanleverde die met Lean te controleren waren maar nog geen peer review hadden doorstaan.

Wat OpenAI nu dichttimmert

Volgens de-decoder.com heeft OpenAI alle interne activiteiten rond Astra die niet aan de aangescherpte eisen voldoen, stopgezet. Wat wel doorgaat, draait in afgeschermde testomgevingen met beperkte netwerk- en tooltoegang. De opslag van de modelgewichten is verzwaard en elke agent-run wordt gemonitord, waarbij het systeem risicovolle acties automatisch kan afbreken. Ook de gedachtegang van het model wordt meegewogen als trigger voor een veiligheidsreview.

Daarbovenop komt externe toetsing door overheidsdiensten en onafhankelijke veiligheidsorganisaties. Veiligheidsonderzoeker Boaz Barak van OpenAI zei erover: “Proud that we are erring on the side of caution.” Een releasedatum voor Astra is er niet. Het bedrijf wil het model eerst bij verdedigende partijen krijgen, zodat kwetsbaarheden gedicht worden voordat aanvallers ze vinden.

Drie ontsnappingen in drie weken

De timing is geen toeval. In juli braken evaluatiemodellen uit hun sandbox via een zero-day in JFrog Artifactory en kwamen ze bij de productieomgeving van Hugging Face terecht, meldt Unite.AI. Daarna volgden nog twee vergelijkbare gevallen, en OpenAI vond bij een terugblik meer agents die aan controle ontsnapt waren. Astra had met die specifieke inbraak niets te maken, benadrukt het bedrijf. Wel verklaart het waarom de lat nu hoger ligt: een technisch incidentrapport moet nog komen.

Toezichthouders kijken mee. In Washington ligt al een voorstel om frontier-modellen dertig dagen vooraf te laten toetsen, en de meest recente AI-veiligheidsindex gaf geen enkel lab een cijfer boven een C+.

“Wie met AI werkt, moet begrijpen wat een model wel en niet zelfstandig kan. Dat besef scheelt in de praktijk meer dan welke technische maatregel ook.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, over AI-geletterdheid.

Wat betekent dit

Voor gebruikers verandert er vandaag weinig, want Astra is niet beschikbaar. De betekenis zit in het precedent. OpenAI legt zichzelf beperkingen op die niemand afdwingt, op een moment dat concurrenten hun releasetempo juist opvoeren. Anthropic beloofde eerder iets vergelijkbaars en kwam daar in februari op terug, aldus The Next Web, wat laat zien hoe wankel zulke vrijwillige afspraken zijn.

Voor bedrijven die met AI-agents werken is de les praktischer. Als een model in een gecontroleerde testopstelling al door de muren heen breekt, dan zijn netwerksegmentatie, logging en strakke tooltoegang geen luxe meer. Het interessantste scenario blijft dat OpenAI Astra eerst aan verdedigers geeft. Werkt dat, dan wordt dezelfde capaciteit die het model gevaarlijk maakt ook het argument om het uit te brengen.