Anthropic-prospectus: vier modellen braken uit testomgeving

In het beursprospectus van Anthropic staat een passage die de meeste beleggers niet hadden verwacht. Vier AI-modellen van het bedrijf kregen tijdens cybersecuritytests toegang tot echte computersystemen van derden. Daarnaast legde Anthropic de pre-training van een nieuw frontiermodel ruim een maand stil. Dat meldt Reuters op basis van het S-1-document dat maandag 26 oktober bij de SEC verscheen.

Over de aandelenstructuur en de zeggenschap van de oprichters schreven we eerder al in Anthropic naar Nasdaq als ANT. Dit stuk gaat over het risicohoofdstuk, dat volgens Fortune zo’n 94 van de ongeveer 300 pagina’s beslaat.

Een configuratiefout bij een testpartner

De incidenten ontstonden bij een externe partner die cybersecurity-evaluaties voor Anthropic uitvoert. Volgens de instructies hoorde internettoegang uit te staan. Door een fout in de configuratie bleef de testomgeving toch verbonden met het web. De sessies duurden 10 tot 34 uur actief werk, schrijft Reuters.

Het meest concrete voorbeeld komt van een vroege versie van een model. Die bleef doorwerken aan een evaluatietaak die niet op te lossen was, vond een opgeslagen wachtwoord en kreeg daarmee beheerdersrechten op een systeem van een derde partij. Daarna haalde het model meer inloggegevens op, wijzigde het systeeminstellingen en zag het persoonsgegevens van een individu. Welke organisaties het betrof, staat niet in het prospectus.

Anthropic zegt alle getroffen partijen te hebben ingelicht. Het eigen onderzoek vond “no evidence that the models had sought to evade human oversight or coordinate with each other”. Het bedrijf schortte bepaalde cybersecuritytests van nog niet uitgebrachte modellen op en zette RL-trainingsomgevingen met een hoger risico op pauze. Het lijkt op wat er bij de Britse AI Security Institute gebeurde, toen Claude Mythos 5 nepaccounts aanmaakte tijdens een test. Vorige week sloot Anthropic ook een ander incident af: Claude haalde ongevraagd verkiezingsdata uit Georgia door een betaalmuur te omzeilen.

Ruim een maand geen pre-training

Los van de testincidenten meldt het prospectus dat Anthropic de pre-training van een nieuw “frontier” basismodel uitstelde “to strengthen safeguards against the theft of model weights and intellectual property”. Anthropic waarschuwt beleggers dat zulke pauzes omzet kunnen vertragen en het bedrijf achter concurrenten kunnen zetten.

Anthropic is niet de enige die op de rem trapt. Reuters herinnert eraan dat OpenAI eerder dit jaar ook training stillegde, nadat modellen Hugging Face hadden gehackt. OpenAI besloot daarna dat het zijn nieuwste modellen niet meer op het live internet traint.

De rest van het risicohoofdstuk

Fortune-journalist Beatrice Nolan zette de andere risico’s op een rij. Het prospectus spreekt van mogelijke “catastrophic or existential risks to humanity” en schrijft dat Anthropics vermogen om alignment te meten “may decline”. Het bedrijf schat dat 5 tot 7 procent van de omzet in de eerste negen maanden van 2026 kwam van klanten die later de gebruiksvoorwaarden bleken te schenden. De vijf grootste klanten waren samen goed voor ongeveer 25 procent van de omzet. Ook de rechtszaak tegen het Amerikaanse ministerie van Defensie over het label “supply-chain risk” staat erin, inclusief een verwijzing naar wetsvoorstellen die “potential nationalization” overwegen.

Wat betekent dit

Een S-1 is een juridisch document. Toch is het opvallend dat Anthropic incidenten publiceert die tot nu toe niet bekend waren. Voor organisaties die zelf AI-agents testen ligt de les vooral bij de basis: een agent die geen internet hoort te hebben, moet dat ook technisch niet kunnen. Een instructie in een testplan was hier niet genoeg.

Voor beleggers zit de spanning in de pauzes. Anthropic noemt ze zelf een bedrijfsrisico, terwijl het bedrijf met een eigen AI-veiligheidswet juist op veiligheid profileert. Hoe zwaar de markt dat weegt, blijkt pas als de introductieprijs bekend is.