Sanders wil superintelligentie verbieden met celstraf
Senator Bernie Sanders en afgevaardigde Greg Casar hebben op 23 september een wetsvoorstel ingediend dat de ontwikkeling van superintelligente AI in de Verenigde Staten permanent verbiedt. De Ban Artificial Superintelligence Act legt daarnaast een tijdelijke pauze op aan geavanceerde AI-ontwikkeling, totdat een nieuwe federale toezichthouder veiligheidsregels heeft vastgesteld.
Een ministerie voor AI
Het voorstel richt een Department of Artificial Intelligence op, een departement op kabinetsniveau met een wetenschappelijke adviesraad. Bedrijven moeten volgens de tekst vooraf een ontwikkelplan indienen en goedkeuring krijgen voordat ze een geavanceerd model publiek mogen uitrollen. Dat is een omkering van de huidige praktijk, waarin labs zelf bepalen wanneer een model klaar is.
De wet richt zich specifiek op wat de indieners “superintelligence precursor characteristics” noemen: systemen die wapens kunnen verbeteren, mensen kunnen misleiden of zichzelf kunnen aanpassen. Recursieve zelfverbetering, waarbij een model zonder menselijke tussenkomst een sterkere opvolger bouwt, wordt expliciet verboden. Hetzelfde geldt voor het inzetten van AI bij het ontwerpen van nucleaire of biologische wapens.
Straffen op het niveau van kernwapens
De sancties liegen er niet om. Bedrijven die de wet overtreden riskeren wat het persbericht van Sanders de corporate death penalty noemt, ontbinding van de rechtspersoon. Voor individuen staat er maximaal twintig jaar cel op, een strafmaat die de indieners bewust hebben overgenomen uit de bestaande wetgeving rond het illegaal ontwikkelen van kernwapens.
Sanders vatte zijn positie tegenover PBS kort samen: “It doesn’t take a genius to say, ‘slow it down’.” In hetzelfde bericht komen twee onderzoekers uit de sector aan het woord die het voorstel steunen. Juan Felipe Ceron Uribe van OpenAI Safety Systems zegt dat superintelligentie “extremely right or extremely wrong” kan uitpakken. Swante Scholz, engineer bij Google DeepMind, noemt een existentiële catastrofe de meest waarschijnlijke uitkomst van het huidige ontwikkelpad.
Weinig kans, veel signaalwaarde
Politiek gezien is het voorstel kansloos in een Congres met een Republikeinse meerderheid, schrijft PBS. President Trump verzet zich tegen federaal AI-toezicht en kondigde eerder deze maand juist een AI Force en een nieuwe AI-czar aan. De scheidslijn loopt inmiddels dwars door Washington: Democratische gouverneurs bewegen de andere kant op, met het noodstopplan van Gavin Newsom in Californië als duidelijkste voorbeeld.
Ook binnen het kamp dat zich zorgen maakt over AI-risico’s is er kritiek. Brendan Steinhauser van de Alliance for Secure AI zei tegen Roll Call dat zijn organisatie het goed vindt dat wetgevers superintelligentie aanpakken, maar een meer gedoseerde aanpak nodig acht. Zijn groep steunt het voorstel niet. Sanders erkende zelf dat een eenzijdige Amerikaanse pauze zonder internationale afspraken weinig oplevert. De wet draagt de regering daarom op om verdragen te sluiten die superintelligentie wereldwijd verbieden, een route die ook terugkwam tijdens de AI-briefing in de VN-Veiligheidsraad eerder deze week.
Wat betekent dit
Voor Nederlandse organisaties verandert er op korte termijn niets. Het Amerikaanse voorstel haalt vrijwel zeker de eindstreep niet, en voor gebruik van AI binnen de EU blijft de AI Act met zijn boetebevoegdheid het kader dat telt. Interessanter is de richting. Een vergunningplicht vooraf, precies wat Sanders en Casar voorstellen, ligt dicht bij de systematiek die Brussel al hanteert voor hoog-risicotoepassingen. Als dat idee ook in Washington voet aan de grond krijgt, verschuift het gesprek van vrijwillige veiligheidsbeloftes naar toestemming vooraf. Dat raakt uiteindelijk iedereen die modellen van Amerikaanse labs inkoopt, want de release-agenda van OpenAI, Anthropic en Google bepaalt wat hier op de markt komt.
