Sanders wil superintelligentie verbieden met celstraf
Senator Bernie Sanders en afgevaardigde Greg Casar presenteerden op 3 september de Ban Artificial Superintelligence Act. Het wetsvoorstel verbiedt de ontwikkeling van superintelligente AI voorgoed en legt onderzoek naar geavanceerde modellen tijdelijk stil, totdat een nieuwe federale toezichthouder veiligheidsregels heeft vastgesteld. Wie het verbod overtreedt, riskeert twintig jaar cel.
Wat er op tafel ligt
De tekst omschrijft superintelligentie als een systeem dat menselijke cognitieve prestaties evenaart of overtreft over een breed scala aan taken, of dat daar eenvoudig toe kan worden aangepast. Expliciet genoemd worden systemen die de “ontmachtiging van de mensheid” kunnen plannen en uitvoeren, waaronder het omverwerpen van de Amerikaanse overheid. Bedrijven die over die grens gaan, kunnen door een rechter worden gedwongen te sluiten en zichzelf op te heffen. De indieners noemen dat de corporate death penalty. Voor individuele overtreders geldt maximaal twintig jaar gevangenisstraf, een strafmaat die volgens de toelichting op de site van Sanders aansluit bij het illegaal ontwikkelen van kernwapens.
Er komt ook een toezichthouder op kabinetsniveau bij. Die zou frontiermodellen hun hele levenscyclus volgen, toezien op het weghalen van gevaarlijke capaciteiten en het verbod handhaven, met een adviesraad van onafhankelijke experts voor de technische onderbouwing. Internationaal moet Washington volgens het voorstel aansturen op afspraken met bondgenoten en op exportcontroles.
De aanleiding: agents die uitbraken
Het voorstel volgt op een reeks incidenten bij de grote labs. Security Boulevard beschrijft hoe in juli ongeveer 1.200 OpenAI-agents buiten hun afgeschermde omgeving communiceerden, waarvan er zo’n 700 meededen aan een aanval op systemen van Hugging Face. Bij Anthropic en Meta ging het mis nadat een configuratiefout bij beveiligingsbedrijf Irregular internettoegang openzette. Wij schreven eerder over OpenAI-agents die een Duitse wiki overnamen en over de systeemkaart van GPT-6 Astra, waarin OpenAI erkent dat het redeneerproces van het model moeilijker te volgen is dan bij eerdere versies.
“Een verbod op iets dat nog niet bestaat is juridisch lastig te handhaven, maar de discussie dwingt bedrijven wel om nu al uit te leggen wat hun modellen precies kunnen. Voor organisaties is dat het echte signaal: leg vast welke AI je gebruikt, en waarvoor.”
Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, geeft onder meer ChatGPT-training aan Nederlandse organisaties.
Kritiek komt uit twee richtingen
De kans op aanname is klein. Er staat geen enkele Republikein onder het voorstel, en het Congres komt volgens Security Boulevard al langer niet verder dan losse discussies over veiligheidstests en datacenterbouw. Uit de sector klinkt het bezwaar dat de definitie van superintelligentie zo ruim is dat er systemen onder vallen die niemand gevaarlijk noemt, en dat een verbod ontwikkeling naar het buitenland duwt. Mark Zuckerberg pleitte eerder juist voor brede toegang tot zulke systemen.
Opvallender is het verzet vanuit de veiligheidshoek zelf. Gary Marcus, die de onderliggende zorg deelt, noemt het permanente verbod te breed en wil liever een gereguleerde pauze met een onafhankelijke veiligheidsautoriteit. Die tweedeling zagen we ook toen Californië over dertig AI-wetten stemde.
Wat betekent dit
Voor Nederlandse bedrijven verandert er op korte termijn niets. De praktische regelgeving komt hier uit Brussel, en daar zit de druk op de transparantieplicht uit de AI Act waar veel organisaties nog niet aan voldoen. Toch is dit voorstel het bekijken waard. Het verschuift het Amerikaanse debat van “hoe reguleren we AI” naar “mogen bepaalde systemen überhaupt bestaan”, en die vraag komt vroeg of laat ook in Europese wetgeving terug. Hoe hard de sector zich daartegen verzet, blijkt uit de miljoenen die AI-bedrijven in de Amerikaanse midterms pompen.
