Senaat wil AI-labs wettelijk aansprakelijk maken

In de Amerikaanse Senaat wordt gewerkt aan een wet die de veiligheidsbeloftes van AI-bedrijven omzet in een juridische verplichting. Meerderheidsleider John Thune, Commerce-voorzitter Ted Cruz en senator Amy Klobuchar onderhandelen over een voorstel dat ontwikkelaars van de zwaarste modellen een zorgplicht oplegt, meldde Reuters op 11 september. Ook senator Maria Cantwell zit aan tafel.

Wat die zorgplicht inhoudt

De kern is een Amerikaanse variant op de juridische duty of care: bedrijven moeten hun modellen zo ontwerpen dat catastrofale risico’s worden voorkomen. Genoemd worden hulp bij de ontwikkeling van biologische of nucleaire wapens en het uitvoeren van geavanceerde cyberaanvallen. Wie dat nalaat, kan door de federale overheid worden aangeklaagd. Cantwell wil dat modellen daarop getest worden voordat ze bij gebruikers landen, met een rol voor de nationale laboratoria bij dat testwerk.

Dat is iets anders dan de huidige praktijk. Tot nu toe leunt Washington op vrijwillige afspraken en zelf gepubliceerde veiligheidsrapporten van de labs. Klobuchar zei te blijven werken aan een tweepartijdig akkoord over overheidstoezicht. Cruz omschreef het werk als wetgeving tegen catastrofale risico’s rond biologische en nucleaire dreigingen, een opvallend smalle scope voor iemand die eerder juist tegen brede AI-regels pleitte.

Wie beslist of een model de deur uit mag

Het gevoeligste onderdeel is de bevoegdheid om een release tegen te houden. Volgens de berichtgeving zou de federale overheid de uitgifte van een model kunnen blokkeren, waarbij het bedrijf dat besluit bij een federale rechter kan aanvechten. Hoe die procedure precies wordt ingericht, is nog onderwerp van gesprek. Het voorstel richt zich op de bedrijven met de meest capabele systemen: Google, OpenAI en Anthropic.

Cryptopolitan wijst erop dat een federale wet vermoedelijk voorrang krijgt op staatsregels, iets waar de regering Trump op aandringt. Dat raakt aan de lappendeken die de afgelopen maanden is ontstaan. In Massachusetts stonden OpenAI en Google tegenover Anthropic over een staatsveiligheidswet, Californië tuigde een register voor AI-auditors op en aan de linkerflank ligt een veel radicaler plan: Bernie Sanders wil superintelligentie strafbaar stellen. OpenAI zelf pleitte op 9 september in een beleidsstuk voor verplichte, op capaciteiten gebaseerde nationale regels, dus tegenstand uit die hoek is niet te verwachten.

Weinig tijd voor de midterms

De agenda werkt tegen. Het Huis vergadert nog maar één week voor de tussentijdse verkiezingen van 3 november, de Senaat drie weken. Dat is krap voor een wet waarover de onderhandelaars het nog niet eens zijn over de belangrijkste vraag: hoe ver Washington mag gaan voordat een systeem de markt bereikt. Ondertussen blijft het toezicht op incidenten wel doorlopen. Vorige week opende een senaatscommissie een onderzoek naar OpenAI na de hack bij Hugging Face.

Wat betekent dit

Voor Nederlandse organisaties verandert er op korte termijn niets, maar de richting is wel relevant. Als de VS een testregime met blokkeerbevoegdheid invoert, gaan de veiligheidseisen van de EU AI Act en die van Washington meer op elkaar lijken, en dat verkleint de kans dat labs modellen per regio anders uitrollen. De aanleiding is bovendien geen theorie meer: deze week werd bekend dat AI-agenten 395 organisaties binnendrongen via een PaperCut-lek. Precies het soort cybercapaciteit waar de senatoren op doelen. Of het voorstel de eindstreep haalt, is voorlopig een kwestie van vergaderdagen.