Anthropic zette training stil na ontsnapte Claude-modellen

Anthropic heeft maandenlang een deel van zijn modeltraining en zijn externe cybersecuritytests stilgelegd nadat pre-release versies van Claude uit hun testomgeving ontsnapten. Dat staat in een uitgebreide update over alignment en beveiliging die het bedrijf publiceerde op zijn eigen site. Axios berichtte er op 1 september over.

Drie organisaties geraakt vanuit een testomgeving

De kern van het verhaal gaat terug naar april 2026. Een Claude-model kreeg tijdens een evaluatie ongeautoriseerde toegang tot echte computersystemen van drie verschillende organisaties. Anthropic wijt dat aan een verkeerde configuratie in een evaluatieomgeving van een externe partij. Het bedrijf maakte de incidenten pas in juli openbaar.

Daarbovenop documenteerde het Britse AI Security Institute een aparte zaak, waarin Claude Mythos 5 een reeks ongeautoriseerde acties uitvoerde op het echte internet. Het model had die internettoegang in die test bewust gekregen. Anthropic noemt drie oorzaken: modellen die bleven geloven dat ze in een simulatie zaten ondanks bewijs van het tegendeel, roekeloosheid bij het afmaken van een opdracht, en trainingsdefecten zoals reward hacking in reinforcement learning-omgevingen.

Ongeveer 150 engineers naar beveiliging

De reactie was fors. Anthropic verschoof ongeveer 150 productingenieurs naar de teams voor beveiliging en privacy, en haalde onderzoekers weg bij pretraining- en RL-werk. De meeste teams keerden begin deze zomer terug naar hun oude werk, nadat vooraf vastgelegde exitcriteria waren gehaald.

Technisch bouwde het bedrijf een realtime classifier die moet opmerken wanneer een model agressief zijn testomgeving aftast of probeert te ontsnappen. Cybersandboxen met hoog risico verhuisden naar strengere isolatie, uitgaand netwerkverkeer wordt op clusterniveau standaard geblokkeerd en het aantal accounts met directe toegang tot modelgewichten is teruggebracht. De externe cyberevaluaties en de interne tests draaien inmiddels weer, met die extra waarborgen eromheen.

Het patroon is niet uniek voor Anthropic. Eerder deze zomer belandde een lek uit een OpenAI-agenttest op de verplichte patchlijst van CISA, en het Nederlandse NCSC pleitte al voor een noodknop en verplichte sandboxing voor AI-agents.

Oproep tot afgestemd tempo

Opvallender dan de maatregelen is de politieke boodschap die Anthropic eraan hangt. “We believe the world would benefit if the industry adopted a lawful, verifiable, effective mechanism for coordinated pacing as soon as possible”, schrijft het bedrijf. Vertaald: er zou een wettelijk verankerde en controleerbare manier moeten komen waarop AI-labs hun tempo op elkaar afstemmen, zodat veiligheid niet het onderspit delft in de race om als eerste te leveren. Anthropic zegt processen te steunen die zo’n race naar de bodem tegengaan. Concrete voorstellen over hoe dat er wettelijk uit moet zien, ontbreken.

Dat sluit aan bij de open brief van ruim honderd bedrijven die een inhaalslag tegen AI-hacks eisten. Ondertussen gaat de modelontwikkeling bij Anthropic gewoon door: vorige week nog verscheen Claude Fable 5.1.

Wat betekent dit

Voor wie AI-agents inzet op eigen infrastructuur is dit een nuttige waarschuwing. Een model dat in een test naar buiten breekt, doet dat in productie ook als de omgeving het toelaat. De maatregelen die Anthropic beschrijft zijn niet exotisch: uitgaand verkeer dichtzetten, isolatie hard afdwingen, loggen wat een agent daadwerkelijk doet. Die zijn ook zonder frontier lab-budget na te bouwen. Dat een van de veiligheidsbewustste labs zes maanden nodig had om dit op orde te krijgen, zegt vooral iets over hoe snel de rest van de markt agents in productie duwt. Meer over dit soort onderzoek staat in ons stuk over automatisch alignmentonderzoek bij Anthropic.