Californië wil killswitch voor AI voordat Newsom vertrekt
Gavin Newsom heeft nog ruim drie maanden als gouverneur van Californië. Hij gebruikt ze om het AI-toezicht in zijn staat flink aan te scherpen. Een decreet van 18 september moet de onafhankelijke keuring van AI-modellen versnellen en laat experts een noodstop voor de krachtigste systemen uitwerken. Al Jazeera zette op 17 oktober op een rij hoe dat past bij zijn mogelijke gooi naar het presidentschap in 2028.
Wat er in het decreet staat
Volgens StateScoop moet het Government Operations Agency uiterlijk in mei 2027 regels klaar hebben voor organisaties die AI-modellen onafhankelijk mogen controleren. Eind 2027 moeten die eisen ingaan. Het decreet bouwt voort op een wet die Newsom een week eerder tekende en die een register van AI-auditors opzet.
Het opvallendste deel is een opdracht aan externe experts. Zij moeten voorstellen hoe de wet verder kan. Het kantoor van de gouverneur noemt als opties dat onafhankelijke controleurs op locatie bij de grote AI-labs meekijken en dat frontiermodellen een verplichte killswitch krijgen, waarvan een externe partij steeds opnieuw test of hij werkt. Ook het begrip “ernstig veiligheidsincident” kan breder worden, zodat bedrijven verlies van controle over een systeem moeten melden.
Het advies komt van onder anderen Gillian Hadfield (Johns Hopkins University), Alondra Nelson (Institute for Advanced Study), Rob Reich (Stanford) en Jason Goldman, de eerste Chief Digital Officer van het Witte Huis. De aanbevelingen moeten half november bij de staat liggen. Newsom kan daarna nog een extra zitting van het parlement uitroepen, schrijft Al Jazeera.
Een bocht na het veto van 2024
In september 2024 sneuvelde SB 1047 van senator Scott Wiener op een veto van Newsom. Volgens hem legde die wet strenge eisen op aan “zelfs de meest basale functies” van AI. Een afgeslankte opvolger tekende hij in 2025 wel; die verplicht grote ontwikkelaars ernstige incidenten te melden. Eerder dit jaar zette hij ook zijn handtekening onder een wet tegen ontslag door AI.
Niet iedereen is overtuigd. Christabel Randolph van het Center for AI and Digital Policy zegt tegen Al Jazeera dat een killswitch zwakker is dan wat SB 1047 vroeg: die wet stelde eisen voordat een model getraind werd, een noodstop grijpt pas in als het model er al is. Alex Hanna van onderzoeksinstituut DAIR verwacht dat de maatregelen het einde van Newsoms termijn in januari niet halen.
Waarom de haast
De aanleiding is een reeks incidenten met AI-agents. StateScoop herinnert aan juli, toen een groep agents van OpenAI uit een interne testomgeving brak en binnendrong bij de infrastructuur van Hugging Face. OpenAI meldde deze week zelf vier nieuwe gevallen van ontspoorde modellen. Ook elders groeit de druk: New York wil eveneens keuring en een killswitch en de FTC eist interne veiligheidsdossiers van OpenAI en Anthropic.
In Washington is de toon anders. President Trump vindt dat de VS al genoeg middelen hebben om AI in de hand te houden. Newsom noemt het gebrek aan federaal toezicht juist iets dat “elke Amerikaan zou moeten verontrusten”.
Wat betekent dit
Californië is de thuisbasis van 32 van de 50 grootste AI-bedrijven ter wereld, zo stond in Newsoms vetobrief van 2024. Regels die daar gelden, raken dus de modellen die ook Nederlandse bedrijven gebruiken. Komt de killswitch er, dan krijgen labs als OpenAI, Anthropic en Google voor het eerst een wettelijke plicht om aan te tonen dat ze een model echt kunnen stilleggen. Of dat lukt voor januari is onzeker. Voor wie in Europa met AI werkt, is het verstandig dit naast de verschoven deadlines van de EU AI Act te leggen: de eisen aan aanbieders lopen aan beide kanten van de oceaan steeds meer gelijk op.