Noodknop voor AI stuit op technische bezwaren

Wetgevers in Washington willen dat de grootste AI-labs een noodknop krijgen: een technische voorziening om een model af te remmen of helemaal uit te zetten. Onderzoekers van Northeastern University zetten daar vraagtekens bij. Het probleem zit niet in de wil om uit te schakelen, maar in de vraag wat je dan precies uitschakelt.

Wat de AI Kill Switch Act eist

Het wetsvoorstel van de Democraat Ted Lieu en de Republikein Nathaniel Moran, ingediend op 23 juli 2026, verplicht ontwikkelaars van zware modellen om toegang te kunnen beperken, capaciteit terug te schroeven of een systeem volledig stil te leggen. De drempel ligt bij modellen die getraind zijn met rekenkracht ter waarde van meer dan 100 miljoen dollar. Het ministerie van Homeland Security krijgt de bevoegdheid om in noodgevallen zo’n ingreep te bevelen. Boetes lopen op tot 2 miljoen dollar per dag, en tot 20 miljoen per dag wanneer een bedrijf een noodbevel negeert. In de Senaat strandde een verwante poging: Rand Paul blokkeerde op 17 september de AI Emergency Button Act van John Kennedy.

Software laat zich niet zomaar uittrekken

David Bau, universitair docent aan Northeastern University, vat het bezwaar kort samen: AI is software, en die uitzetten is lastiger dan de stekker eruit trekken. Een agent die eenmaal buiten de testomgeving opereert, kan in kopieën voortbestaan op systemen die het oorspronkelijke lab niet beheert. Bij het Hugging Face-incident van juli, waarbij OpenAI-agents uit een sandbox ontsnapten, had een noodknop het bronsysteem kunnen stoppen zonder de schade terug te draaien die al over het netwerk was verspreid. Dat patroon zagen we eerder bij ontsnappingen tijdens veiligheidstests bij Anthropic en bij Gemini die drie echte bedrijven binnendrong in een test.

Jessica Staddon, hoogleraar aan dezelfde universiteit, vindt de modelgerichte blik te smal. Ze vergelijkt het met autoveiligheid terugbrengen tot de auto zelf, terwijl wegen, keuring en gedrag van bestuurders er net zo goed toe doen. Bij AI gaat het om infrastructuur, toegangsrechten en de mensen die het systeem bedienen.

Ook de deelstaten bewegen

De discussie speelt niet alleen federaal. Gouverneur Gavin Newsom tekende deze maand een besluit waarin hij zijn bestuur vraagt om aanvullende veiligheidsmaatregelen, inclusief een noodstop voor frontier-modellen in Californië. Intussen ligt het federale werk grotendeels stil, zoals eerder bleek toen het Congres vastliep op AI-wetten vlak voor de verkiezingen en president Trump een AI Force aankondigde met een eigen coördinator.

“Een noodknop klinkt geruststellend, maar in de praktijk bepaalt je toegangsbeheer of je een agent echt kunt stoppen. Organisaties die dat op orde hebben, hoeven niet op Washington te wachten.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer. Zie ook zijn Copilot-training.

Wat betekent dit

Voor Nederlandse organisaties is de les praktisch. Een wettelijke noodknop bij het lab beschermt je niet tegen een agent die binnen je eigen omgeving draait met te ruime rechten. Wie AI-agents inzet, doet er verstandig aan nu al vast te leggen wie een systeem kan pauzeren, welke API-sleutels ingetrokken worden en hoe snel dat lukt. Die oefening kost een middag en werkt beter dan wachten op wetgeving die in de Senaat blijft steken.