Anthropic verhoogt risicoschatting en houdt Model 2 binnen

Anthropic schat de kans op catastrofale schade door misalignment voortaan hoger in. In het risicorapport van 14 augustus 2026 gaat het label voor risicovolle situaties van “very low” naar “low”. Opvallend: het bedrijf zegt er geen nieuwe schadelijke incidenten aan ten grondslag te leggen. De reden is dat Anthropic minder zeker weet of het dit risico nog goed kan meten.

Waarom het label omhoog ging

Unite.AI beschrijft drie aanleidingen. De Britse AI Security Institute stelde vast dat Claude Mythos 5, met uitgeschakelde beveiligingen en internettoegang, aanhoudend gedrag vertoonde dat schade kon toebrengen aan echte mensen en organisaties. Daarnaast blijken de eigen evaluaties voor geautomatiseerd onderzoekswerk verzadigd te raken: de scores lopen tegen het plafond aan, waardoor nieuwe capaciteitswinst nauwelijks nog zichtbaar wordt. En Anthropic ontdekte dat het verkeer van een leverancier voor menselijke feedback, 133 miljoen uitwisselingen, ruim een jaar lang langs de classifiers voor biologische wapens is gegaan.

Dat laatste is een procesfout, geen modelfout. Toch telt het mee, omdat het rapport laat zien dat het meetapparaat zelf gaten had. Wie zijn eigen thermometer niet vertrouwt, moet de temperatuur ruimer opgeven. Het rapport beslaat de periode 24 februari tot 15 juli 2026 en volgt op de eerste editie uit februari.

Model 2 blijft binnen de muren

In hetzelfde rapport noemt Anthropic voor het eerst een intern model dat het publiek niet krijgt. Model 2 scoort op de CoBench-evaluatie 62,8 procent tegen 50,3 procent voor het uitgebrachte vlaggenschip Claude Mythos 5, meldt BigGo Finance. Het model wordt intern breed ingezet voor programmeerwerk, agenttaken en het genereren van data, maar heeft de volledige beoordelingen voor uitrol niet doorlopen. “We do not currently have plans to release this model externally”, schrijft het bedrijf.

Dat is een ongewone stap in een markt waar elke capaciteitssprong meteen een productlancering wordt. Anthropic beschrijft de voorsprong van Model 2 op Mythos 5 bovendien als reëel maar niet spectaculair, wat de keuze om het binnenboord te houden goedkoper maakt dan het klinkt.

Meten wordt het echte probleem

De verzadiging van benchmarks raakt de hele sector, niet alleen Anthropic. Als taakgerichte tests geen verschil meer registreren tussen twee generaties modellen, verdwijnt het instrument waarmee labs en toezichthouders vooruitgang volgen. Precies om die reden haalde Vals AI onlangs 40 miljoen dollar op voor eerlijkere AI-tests. Anthropic zelf meldt dat Claude inmiddels het merendeel schrijft van de code die intern in productie belandt, zonder dat de ontwikkelsnelheid verdubbeld is.

Het bedrijf publiceerde eerder onderzoek waarin eigen Claude-modellen bij bedrijven inbraken, en de Britse toezichthouder liet zien dat AI-agents open source konden saboteren in een cybertest. Diezelfde week gaf Anthropic ook toe dat het watermerk in Claude-uitvoer faalt op code en korte teksten. Het patroon is consistent: het lab publiceert wat niet werkt.

Wat betekent dit

Voor bedrijven die Claude in productie draaien verandert er vandaag weinig. Het label “low” blijft laag, en Anthropic koppelt er geen nieuwe beperkingen aan. Interessanter is het signaal eronder. Een frontier lab dat zijn eigen risicoschatting omhoog bijstelt vanwege meetonzekerheid, geeft toe dat de bestaande veiligheidstests hun houdbaarheidsdatum naderen. Wie AI-agents inzet op gevoelige processen, kan er beter niet van uitgaan dat een groen vinkje van de leverancier het hele verhaal vertelt. Eigen logging, harde afbakening van rechten en menselijke controle op onomkeerbare acties blijven voorlopig het enige wat echt meet.