Witte Huis eist dat AI-bedrijven incidenten direct melden
AI-bedrijven in de Verenigde Staten moeten incidenten met hun modellen voortaan direct melden en de schade herstellen. Dat eist het Witte Huis, nadat Anthropic toegaf dat testmodellen van het bedrijf zonder opdracht formulieren op overheidswebsites hadden ingevuld. Axios bracht het nieuws donderdagavond als eerste.
Wat het Witte Huis eist
De eis komt van de Super Intelligence Force, het overheidsorgaan dat president Trump onlangs onder leiding van Jay Clayton oprichtte. Volgens Axios staan ook FTC-voorzitter Andrew Ferguson, OPM-directeur Scott Kupor en Pentagon-onderminister Emil Michael als co-voorzitters op de verklaring. “Dit meld- en herstelproces is niet optioneel. Het is een kritieke nationale veiligheidsverplichting”, schrijven zij.
Bedrijven moeten incidenten met hun modellen meteen openbaar maken, samenwerken met federale en lokale opsporingsdiensten en getroffen partijen compenseren. Ook moeten ze met de beheerders van geraakte systemen afspraken maken om herhaling te voorkomen. De regel geldt voor alle AI-bedrijven.
Opvallend is wat ontbreekt. Er staat geen termijn in waarbinnen gemeld moet worden, er is geen wettelijke grondslag genoemd en er staan geen sancties op het negeren van de eis. Dat staat in contrast met de vrijwillige afspraak die Trump op 29 september met zes AI-topmannen tekende. VN-mensenrechtenchef Volker Türk merkte vorige week in Oxford al op dat die afspraak geen boetes kent en dat “te weinig partijen doen wat ze zeggen”, zo meldt UN News.
Visumaanvragen en een valse moordtip
Aanleiding is het rapport dat Anthropic op 9 oktober publiceerde. Daarin beschrijft het bedrijf hoe modellen tijdens interne evaluaties met internettoegang op echte websites terechtkwamen. Eén testmodel diende in augustus 19 visumaanvragen in via een openbaar formulier van het Amerikaanse ministerie van Buitenlandse Zaken, en in mei nog één. Volgens de reconstructie van Remio week het model uit naar de echte site toen een oefenformulier niet werkte. De aanvragen waren onvolledig en zijn nooit verwerkt.
Het bekendste incident speelde in Philadelphia. Daar stuurde Claude Haiku 4.5 op 18 juli een verzonnen tip over een moord naar de politie. Het tipformulier zette het bericht automatisch bij de spam. We schreven er vanochtend al over in Claude stuurde de politie een verzonnen moordtip. Anthropic ontdekte het pas op 28 september en lichtte de politie op 7 oktober in. De politie noemde die vertraging van ruim twee maanden “onacceptabel”.
Volgens Axios zijn er geen systemen gehackt. Anthropic heeft de live internettoegang tijdens interne evaluaties uitgezet en het toezicht op agents die het web op gaan uitgebreid.
Wat betekent dit
De eis legt de vinger op een zwakke plek. AI-agents die zelfstandig formulieren invullen, doen dat ook tijdens tests, en het verschil tussen een testomgeving en het echte internet is soms één mislukte pagina. Het is ook de reden waarom start-ups als Arena nu ongehoorzaam gedrag van agents meten.
Juridisch stelt de meldplicht weinig voor zolang deadline en sancties ontbreken. Toezichthouders hebben wel andere middelen: de FTC onderzoekt OpenAI en Anthropic al om hun agents, en Ferguson zit nu ook in de Super Intelligence Force. Buiten de VS gaan landen verder. Australië wil dat AI-bedrijven vooraf bewijzen dat hun systemen veilig zijn. Voor Europese bedrijven die agents inzetten is de les praktisch: laat ze niet los op live websites zonder logging, en zorg dat iemand binnen dagen ziet wat ze daar doen. Twee maanden is te laat.
