Californië richt eerste register voor AI-auditors op

Gouverneur Gavin Newsom heeft dinsdag twee wetten getekend die van Californië de eerste Amerikaanse staat maken met een formeel systeem voor onafhankelijke AI-audits. Het gaat om AB 1405 van Assemblylid Rebecca Bauer-Kahan en SB 813 van senator Jerry McNerney. Samen bouwen ze een controlelaag tussen AI-bedrijven en de overheid in, met externe partijen die modellen mogen doorlichten.

Een register voor AI-auditors

AB 1405 zet een register op voor auditors die AI-systemen beoordelen, met eisen aan hun onafhankelijkheid, transparantie en integriteit. Zonder zo’n lijst kan elk adviesbureau zich AI-auditor noemen. Bauer-Kahan verwoordde de gedachte erachter in de verklaring van het gouverneurskantoor kort: de industrie kan haar eigen huiswerk niet nakijken, dus zijn externe auditors nodig om AI veilig te houden voor gemeenschappen.

De timing past bij een drukke wetgevingsperiode. Vorige week gingen er in Sacramento 26 AI-wetten naar het bureau van Newsom, van chatbotregels tot arbeidsrecht. Eerder tekende hij al de No Robo Bosses Act, die ontslag puur op basis van een algoritme verbiedt.

Certificering met een juridisch voordeel

SB 813 is de opvallendste van de twee. De wet laat de procureur-generaal private organisaties aanwijzen die AI-modellen en toepassingen mogen certificeren op risico’s als cyberaanvallen, chemische en biologische dreigingen, manipulatie en modellen die zichzelf kopiëren. Advocatenkantoor Pillsbury wees er in zijn analyse van het wetsvoorstel op dat certificering meer oplevert dan een keurmerk: een gecertificeerd model geeft de ontwikkelaar een verweer in civiele zaken over letsel of materiële schade.

Dat is een ruil. Bedrijven krijgen juridische zekerheid, de staat krijgt inzage via partijen die niet op de loonlijst van het gelabelde bedrijf staan. Het idee leunt op de accountancy, waar externe controle van jaarrekeningen al een eeuw gewoon is. Of het werkt, hangt af van hoe streng de procureur-generaal de aanwijzing van die organisaties aanpakt en of auditors echt toegang krijgen tot gewichten, trainingsdata en evaluaties.

Amerika loopt achter Brussel aan, maar anders

Newsom riep bij de ondertekening de federale overheid op om zelf ook te leveren, omdat de schaal van de technologie verder reikt dan één staat. Zolang Washington stil blijft, vullen staten het gat. In Massachusetts botsen OpenAI en Google met Anthropic over een eigen veiligheidswet, en het lappendeken groeit.

Europa koos een andere route. De Commissie is inmiddels begonnen met de eerste inspectiegolf onder de EU AI Act, waarbij toezichthouders zelf aankloppen. Californië besteedt de controle juist uit aan gecertificeerde derden en koppelt er een aansprakelijkheidsvoordeel aan.

Wat betekent dit

Voor Nederlandse bedrijven die Amerikaanse modellen inkopen, wordt de vraag “wie heeft dit gecontroleerd” concreter. Een auditverklaring uit Californië is geen conformiteitsbeoordeling onder de EU AI Act, maar leveranciers zullen zulke rapporten wel gaan gebruiken in verkoopgesprekken. Vraag dan door: wie deed de audit, wat mocht die inzien, en wat is er precies getest. Voor wie zelf hoog-risico AI inzet, is dit een voorproefje van het werk dat straks ook hier op de agenda staat.