Anthropic laat Accenture van binnenuit meekijken

Anthropic heeft bekendgemaakt wie de eerste partij is die van binnenuit mag meekijken bij de veiligheidstests van zijn modellen: Accenture. Dat meldde TechCrunch op 18 september. De keuze verraste de sector, die eerder rekende op een gespecialiseerde veiligheidsorganisatie. Op de beurs viel het nieuws goed: het aandeel Accenture steeg na sluiting ruim 8 procent, aldus CNBC.

Wat een embedded evaluator precies doet

Medewerkers van Faculty, het AI-onderdeel dat Accenture in januari overnam, komen fysiek en organisatorisch binnen bij Anthropic. Hun opdracht: modellen red-teamen, alignment-beoordelingen uitvoeren en controleren of de ingebouwde waarborgen daadwerkelijk werken. Ze krijgen daarbij toegang op het niveau van een eigen werknemer, zodat ze niet afhankelijk zijn van wat het lab zelf naar buiten brengt.

Anthropic en Accenture trekken samen minimaal 1 miljard dollar uit, verspreid over vijf jaar. Anthropic formuleerde de rolverdeling zo dat evaluatoren de verantwoordelijkheid niet overnemen: ze verminderen de eigen aansprakelijkheid niet, maar maken die beter verifieerbaar. De veiligheid van de modellen blijft volgens het bedrijf de eigen verantwoordelijkheid.

Eerste stap uit het plan van Amodei

De aankondiging is de eerste concrete uitwerking van het driestappenplan waarmee Anthropic-topman Dario Amodei het tempo van AI-ontwikkeling wil afremmen. Stap één daarin zijn precies deze ingebedde controleurs. Het idee ligt in het verlengde van de AEF-1-standaard voor het doorlichten van AI-labs, die vastlegt welke toegang een controleur nodig heeft. Niet iedereen is meegegaan in het voorstel: Mark Zuckerberg liet eerder weten wel evaluatoren te willen maar geen rem op de ontwikkeling.

Anthropic verdedigt de keuze voor een consultant met twee argumenten. Accenture heeft praktijkervaring met het uitrollen van AI bij grote bedrijven en overheden, en het is een beursgenoteerd bedrijf dat ver voor de AI-golf bestond. Daardoor is het minder verweven met het ecosysteem van labs en veiligheidsstichtingen dan de gespecialiseerde clubs die veel waarnemers verwachtten.

Kritiek: wie controleert de controleur

De belangrijkste bedenking is dat een lab hier zijn eigen toezichthouder uitkiest en betaalt. Critici noemen het een vorm van zelfregulering die externe verantwoording juist op afstand houdt. Dat Accenture commerciële banden heeft met Anthropic maakt dat argument sterker: de twee sloten in december 2025 al een meerjarig partnerschap.

Anthropic zegt dat er meer evaluatoren volgen en dat er gesprekken lopen over proefprojecten met non-profits als METR, die hun eigen financiering meenemen. Dat laatste raakt aan de bredere verschuiving in het veld: onlangs stapten twee veiligheidsonderzoekers van Anthropic en DeepMind over naar METR.

Wat betekent dit

Voor Nederlandse organisaties die Claude gebruiken, verandert er op korte termijn niets in de producten. Wat wel verandert, is de manier waarop je kunt nagaan of veiligheidsclaims kloppen. Een externe partij met werknemerstoegang kan incidenten rapporteren die anders binnen de muren blijven. Dat is relevant nu Anthropic zijn onderzoek steeds breder maakt en bijvoorbeeld een eigen wetlab voor biologisch onderzoek opende. De vraag is nu of de rapportages ook publiek worden. Zonder openbare bevindingen blijft de verifieerbaarheid die Anthropic belooft een intern verhaal, en dan is de winst voor klanten en toezichthouders beperkt. Houd de komende maanden in de gaten welke labs volgen en of er ook onafhankelijk gefinancierde controleurs bijkomen.