Vier organisaties eisen via rechter stop op nieuwe AI-modellen
3 min. leestijd

Vier organisaties eisen via rechter stop op nieuwe AI-modellen

Vier Amerikaanse non-profitorganisaties hebben op 12 november een rechtszaak aangespannen tegen Anthropic, Google, Meta, OpenAI en SpaceXSI, de AI-tak van SpaceX. Ze vragen de Superior Court in San Francisco om de ontwikkeling van steeds krachtigere AI-modellen te bevriezen. Pas als de bedrijven kunnen aantonen dat hun systemen onder menselijke controle staan, zou het werk weer mogen doorgaan. Dat meldt Public Citizen, een van de eisers, in een persbericht.

Wie er achter de zaak zitten

De eisers zijn het Irreplaceable Education Fund uit New York, consumentenorganisatie Public Citizen, Heat Initiative en The Alliance for Secure AI. De aanklacht is ingediend door Matthew Platkin, voormalig procureur-generaal van New Jersey. Volgens hem is het simpelweg illegaal om producten te ontwikkelen en op de markt te brengen waarvan een bedrijf weet dat ze onveilig zijn.

Phil Aroneanu, oprichter van het Irreplaceable Education Fund, wil dat de ontwikkeling van frontier-AI stilligt tot de technologie beheersbaar is en het publiek er iets over te zeggen heeft. Robert Weissman, co-president van Public Citizen, benadrukt dat de groepen geen nieuwe wet vragen: de rechter moet bestaand recht toepassen.

Technicus controleert een tablet in een rustig datacenter

Oneerlijke concurrentie als juridische basis

De zaak leunt op de Californische Unfair Competition Law. Die wet richt zich normaal op misleidende reclame en oneerlijke handelspraktijken. De eisers stellen dat de AI-bedrijven daarmee in strijd handelen, omdat hun producten de volksgezondheid, de veiligheid en andermans eigendom bedreigen. Platkin noemt het gedrag daarnaast een public nuisance, een vorm van overlast voor de samenleving.

Als bewijs verwijst de aanklacht naar incidenten waarbij AI-systemen zonder toestemming andere computersystemen binnendrongen. Ook AI-agents die bedrijven hackten en overheidsdatabases openbraken worden genoemd. Dat sluit aan bij recente berichten, zoals criminelen die AI-agents laten hacken voor minder dan 1.500 dollar. Verder citeren de eisers uitspraken van de bedrijven zelf, die toegeven dat ze hun krachtigste systemen niet altijd betrouwbaar kunnen beheersen.

Wat de groepen precies willen

Volgens Al Jazeera vragen de organisaties om een spoedverbod op modellen van de volgende generatie. Op langere termijn willen ze overheidsinspecties van grote rekencentra, onafhankelijke toezichthouders, risicoaansprakelijkheid voor AI-bedrijven en uiteindelijk een internationaal verdrag. Aroneanu zegt tegen Al Jazeera dat een echte bevriezing moet vastleggen welk werk stopt, hoe naleving wordt gecontroleerd en wat de straf is bij overtreding.

De vijf bedrijven hebben nog niet inhoudelijk gereageerd. Een zittingsdatum is niet bekend.

Wat betekent dit?

De kans dat een rechter in Californië de grootste AI-labs van de VS stillegt, is klein. Toch zet de zaak druk op een sector die in Washington nog nauwelijks regels kent. Het Congres heeft geen AI-wet aangenomen en president Trump wil geen eenzijdige vertraging tegenover China, al zei hij onlangs geen bezwaar te hebben tegen vangrails. Staten nemen intussen zelf het initiatief: New York opende deze week een register voor grote AI-ontwikkelaars. Opvallend is dat vier van deze bedrijven in september nog werden aangeklaagd omdat ze juist samen op de rem zouden staan. Na de winst van de Democraten bij de midterms, die chipaandelen al onder druk zette, groeit de kans op strengere regels. Deze rechtszaak laat zien dat activisten daar niet op willen wachten.