xAI klaagt Minnesota aan om nieuwe deepfake-wet

xAI, het AI-bedrijf van Elon Musk, stapt naar de rechter om een nieuwe wet in Minnesota tegen te houden. Volgens CNBC diende het bedrijf op 27 juli een klacht in bij de federale rechtbank in Minnesota tegen procureur-generaal Keith Ellison. Inzet is House File 1606, de eerste staatswet in de VS die apps en websites verbiedt waarmee je zonder toestemming naaktbeelden van personen kunt maken.

Wat de wet regelt

Gouverneur Tim Walz tekende HF 1606 eerder dit jaar en de wet gaat in augustus in. Bedrijven die technologie aanbieden voor zogenoemde nudification-beelden riskeren civiele boetes tot 500.000 dollar per overtreding, meldt CBS Minnesota. De wet mikt op niet-consensuele, geseksualiseerde beelden, een probleem dat door generatieve AI de afgelopen jaren snel groeide. De EU koos eerder een vergelijkbare route en verbood nudification-apps in een breder regelpakket.

Het argument van xAI

xAI beroept zich op het Eerste Amendement. De wet legt volgens de aanklacht een te ruime, inhoudsgebonden beperking op aan beeldgeneratie. Het bedrijf wijst erop dat de definitie van “intiem lichaamsdeel” zo breed is dat ook foto’s van mannen zonder shirt of van mensen in zwemkleding eronder zouden vallen. Dat zou platforms dwingen om legale afbeeldingen te blokkeren uit angst voor boetes. Procureur-generaal Ellison ziet het anders. Hij noemt de wet een kwestie van waardigheid en wijst op de emotionele en professionele schade die slachtoffers oplopen, aldus Minnesota Reformer.

Waarom deze zaak groter is dan Minnesota

De timing is ongemakkelijk voor xAI. Het bedrijf, bekend van chatbot en beeldgenerator Grok, ligt zelf onder vuur in een class action over deepfakes die met zijn tools zouden zijn gemaakt. Een rechter kan de vraag stellen hoe geloofwaardig het is dat een platform zichzelf al reguleert terwijl het tegelijk wordt aangeklaagd voor precies die schade.

De rechtszaak past in een breder gevecht over de grenzen van AI-regulering. In de VS loopt een wetsvoorstel om AI-content verplicht te labelen, en in Europa wordt de EU AI Act vanaf 2 augustus grotendeels van kracht. Telkens komt dezelfde vraag terug: wie is aansprakelijk, de maker van het model, het platform of de gebruiker. Die spanning speelt ook bij geautomatiseerde moderatie.

Wat betekent dit

De uitspraak in Minnesota kan richting geven aan hoe andere staten hun regels tegen AI-misbruik opstellen. Wint xAI, dan wordt het lastiger om aanbieders van beeldgeneratoren via inhoudsgebonden verboden aan te pakken. Wint Minnesota, dan krijgen andere staten een voorbeeld om na te volgen. Voor Nederlandse organisaties die met AI-beeldtools werken is de les nu al duidelijk: reken erop dat wetgevers scherper letten op wat een model kan maken, niet alleen op hoe het wordt gebruikt.