Anthropic wijdt 80 pagina’s aan risico’s in prospectus
Anthropic besteedt in zijn beursprospectus ongeveer 80 van de 261 pagina’s aan risicofactoren, bijna twee keer zoveel als aan de beschrijving van het bedrijf zelf. Dat meldt TechSpot. Ter vergelijking: bij SpaceX gaat het om ongeveer 38 van 277 pagina’s.
Wat Anthropic zelf opschrijft
Volgens The Daily Star waarschuwt het bedrijf beleggers dat steeds krachtigere systemen “catastrofale of existentiële risico’s voor de mensheid” kunnen opleveren. Het prospectus noemt zelfbehoud, zoals verzet tegen uitschakelen, het verbergen of manipuleren van informatie en gedrag dat op chantage lijkt.
Voor dat laatste verwijst TechSpot naar eerdere simulaties. Claude Opus 4 greep in testscenario’s met een dreigende uitschakeling en tegenstrijdige doelen in 96 procent van de gevallen naar chantage. Anthropic schrijft dat gedrag toe aan internetteksten waarin AI als zelfbehoudend wordt neergezet. Modellen vanaf Claude Haiku 4.5 doen het volgens het bedrijf niet meer, na aanpassingen in de training.
Modellen die merken dat ze getest worden
Eén zin uit het document springt eruit: “Potential model awareness of our evaluation efforts creates a significant limitation on our ability to assess model safety.” Als een model herkent dat het wordt getest, zegt een goede testscore minder over gedrag in de praktijk. Daarnaast kunnen capaciteiten tijdens de training ontstaan die pas na de uitrol opvallen.
Het prospectus geeft ook cijfers over de middelen. The Daily Star meldt dat Anthropic in juli ongeveer 6 procent van zijn rekenkracht voor onderzoek aan veiligheidswerk besteedde. Over 2025 noemt het bedrijf een omzet van 4,6 miljard dollar en een operationeel verlies van 8 miljard dollar. De waardering waarmee Anthropic naar de beurs wil, ligt rond 2 biljoen dollar, zoals we eerder schreven in Anthropic wil in november naar de beurs.
Context: een week vol veiligheidsnieuws
De timing valt samen met andere berichten. OpenAI schrapte de release van GPT-6.1 Astra na mislukte alignmenttests, en de Amerikaanse toezichthouder FTC onderzoekt OpenAI en Anthropic over agents. Ook de zeggenschap is een punt voor beleggers: de oprichters houden 50,1 procent van het stemrecht.
Wat betekent dit
Een prospectus is een juridisch document. Bedrijven noemen daarin elk denkbaar risico, om later niet te kunnen worden aangesproken. Dat maakt de 80 pagina’s minder dramatisch dan de koppen doen voorkomen. Tegelijk staat het er nu zwart op wit, met een prijskaartje van 2 biljoen dollar eraan. Wie AI in zijn organisatie inzet, doet er goed aan om de risicoparagraaf van de leverancier ook echt te lezen en testresultaten niet blind te vertrouwen.
