Anthropic stuurt Congres eigen AI-veiligheidswet

Anthropic wil dat de Amerikaanse overheid gevaarlijke AI-modellen kan tegenhouden, maar dan wel volgens een strak afgebakende procedure. Het bedrijf heeft Amerikaanse wetgevers een conceptwet voor federale AI-veiligheid voorgelegd. Politico bracht het nieuws op 16 oktober als eerste, op basis van drie ingewijden. Reuters en Bloomberg namen het verhaal over.

Pas ingrijpen bij een miljard dollar schade

De kern van het voorstel is een hoge drempel. Volgens de door PYMNTS samengevatte berichtgeving mag de overheid pas ingrijpen als een frontier-model een “voorzienbaar en direct” risico vormt op meer dan 1 miljard dollar schade, of op meer dan 50 doden of zwaargewonden. Het gaat om drie soorten dreiging: het ontwikkelen of verspreiden van biowapens, AI-systemen die buiten de controle van hun maker raken, en cyberaanvallen met hulp van AI.

Externe beoordelaars, geregistreerd bij het Amerikaanse ministerie van Handel (Commerce), zouden AI-bedrijven en hun sterkste modellen periodiek doorlichten. De ontwikkelaar mag die beoordeling betalen, maar de vergoeding mag niet afhangen van de uitkomst. Vindt een beoordelaar een risico dat aan de criteria voldoet, dan moet Commerce binnen 72 uur na afronding van het onderzoek worden ingelicht.

Een rechter beslist, geen ambtenaar

Opvallend is wie er uiteindelijk over een model beslist. Commerce kan een model niet zelf stilleggen. Het ministerie moet het bewijs voorleggen aan een federale rechter in Washington D.C., en die bepaalt of een model wordt geschorst. Andere federale diensten zouden volgens Politico juist geen bevoegdheid krijgen om de ontwikkeling of inzet van een model op eigen houtje te stoppen. Tom’s Hardware vatte het samen als een voorstel dat Commerce feitelijk tot de enige instantie maakt die een AI-model kan tegenhouden.

Ook voor de staten heeft het concept gevolgen. Volgens Politico zou de wet een deel van de staatswetten opzijzetten, namelijk regels over openbare risicorapportages, onafhankelijke evaluaties en het melden van ernstige incidenten. Dat raakt aan een discussie die al langer loopt, zoals te lezen in ons stuk over Google dat meeschreef aan Amerikaanse chatbotwetten.

Kritiek op de drempel

Een woordvoerder van Anthropic zei dat het concept voortbouwt op het Advanced AI Framework, waarmee het bedrijf sinds juni langs federale en staatswetgevers gaat. De drempel van 50 slachtoffers of een miljard dollar valt bij critici minder goed. Gadget Review, waarvan het stuk via Yahoo News werd verspreid, wijst erop dat één toezichthouder voorspelbaarheid geeft maar het risico ook op één plek legt. Of de onafhankelijkheid van betaalde beoordelaars in de praktijk houdbaar is, noemt het stuk een open vraag.

Het is nog geen wet. Anthropic heeft het concept met Congresleden besproken, maar volgens Reuters is onduidelijk of iemand het formeel gaat indienen. Er liggen meer voorstellen op tafel: eerder dit jaar wilden senatoren AI-labs wettelijk aansprakelijk maken, en het Witte Huis eiste een directe meldplicht voor AI-incidenten.

Wat betekent dit

Anthropic probeert de regels mee te schrijven voordat anderen dat doen. Voor het bedrijf heeft dit concept een duidelijk voordeel: één loket, een rechter als scheidsrechter en een hoge drempel voordat er iets stilvalt. Voor wie strenger toezicht wil, is dat juist het probleem. Een model dat “maar” honderd miljoen dollar schade kan aanrichten, valt buiten de regeling. Interessant is ook de timing: Anthropic zette deze maand al 5 procent van zijn aandelen in een publiek fonds en profileert zich nadrukkelijk als het veiligheidsgerichte lab. Elders kiezen overheden voor een andere route; Australië wil dat AI-bedrijven zelf hun veiligheid bewijzen. Voor Europese gebruikers verandert er voorlopig niets, want hier blijft de EU AI Act het kader.