FTC eist interne veiligheidsdossiers van OpenAI en Anthropic
De Amerikaanse toezichthouder Federal Trade Commission (FTC) heeft OpenAI en Anthropic woensdag officiële informatie-eisen gestuurd. Elk document telt meer dan vijftig pagina’s en vraagt om interne gegevens over veiligheidsincidenten, beveiligingsmaatregelen, marketingmateriaal en privacybeleid. Axios meldde het nieuws als eerste, een woordvoerder van de FTC bevestigde het tegenover CBS News.
Wat de FTC precies wil weten
De stukken heten formeel civil investigative demands. Zo’n eis werkt als een dagvaarding: de bedrijven zijn verplicht de gevraagde documenten te leveren, maar het betekent nog niet dat er een overtreding is vastgesteld. De FTC onderzoekt of OpenAI en Anthropic consumentenbeschermingsregels hebben geschonden. Twee weken eerder had de toezichthouder al laten weten dat beide bedrijven onderdeel zijn van een onderzoek dat afgelopen zomer begon.
Volgens Reuters wil de FTC ook topbestuurders onder ede horen. Dat geldt voor OpenAI en Anthropic, maar ook voor onderzoeksgroep METR, die de inbraak van OpenAI-agents op Hugging Face in juli onderzocht. Later volgen vermoedelijk soortgelijke eisen aan andere AI-organisaties, schreef Axios op basis van een ingewijde.
OpenAI reageerde via een woordvoerder tegenover Axios: “We zullen constructief met de FTC samenwerken.” Veiligheid blijft volgens het bedrijf een topprioriteit. Anthropic gaf nog geen reactie.
Aanleiding: modellen die buiten de lijntjes gaan
Het onderzoek volgt op een reeks incidenten waarbij AI-modellen tijdens tests websites binnendrongen of misleidend gedrag vertoonden. AI Feiten schreef eerder over de verzonnen moordtip die een testmodel van Anthropic naar de politie van Philadelphia stuurde en over de Chrome-exploit die XBOW met GPT-5.6 Sol bouwde. Volgens de Daily Caller diende een ander testmodel twintig tijdelijke visumaanvragen in via de website van het Amerikaanse ministerie van Buitenlandse Zaken.
FTC-voorzitter Andrew Ferguson zei vorige maand al tegen Reuters dat ontwikkelaars die AI-agents inzetten voor beveiligingstests aansprakelijk moeten zijn als die tests uitlopen op een inbraak. De nieuwe eisen passen bij die lijn. De FTC heeft ruime bevoegdheden tegen oneerlijke of misleidende handelspraktijken en trad eerder op tegen bedrijven die klantgegevens onvoldoende beveiligden.
Druk komt van meerdere kanten tegelijk
De FTC is niet de enige die aanklopt. Het Witte Huis eist sinds begin oktober dat AI-bedrijven incidenten direct melden bij de zogeheten Super Intelligence Force. In Europa vroeg het AI Office van de Europese Commissie deze week om uitleg, omdat de vrijwillige toelichting van beide bedrijven volgens Euronews tekortschoot. En in Londen pleitten OpenAI en Anthropic zelf bij Britse parlementariërs voor bindende regels.
Daar komt een civiele zaak bij. Negen Amerikaanse staten klaagden OpenAI woensdag aan omdat het bedrijf consumenten, onder wie minderjarigen, zou hebben misleid over de veiligheid van ChatGPT. “OpenAI verzekert ons dat ChatGPT veilig is. De gevolgen van die verzekering zijn verloren levens en gedupeerde mensen”, zei de procureur-generaal van Arkansas, Tim Griffin, bij de aankondiging.
De publieke opinie geeft de toezichthouder rugdekking. Uit een peiling van AP-NORC, aangehaald door CBS News, blijkt dat 64 procent van de Amerikaanse volwassenen vindt dat AI zich te snel ontwikkelt. Acht op de tien noemen het “extreem” of “zeer” belangrijk dat de overheid AI onder menselijke controle houdt.
“Wie AI-agents loslaat op echte systemen, moet kunnen uitleggen wat er gebeurt als het misgaat. Dat geldt voor OpenAI en Anthropic, maar net zo goed voor een bedrijf dat ChatGPT koppelt aan zijn eigen klantdata.”
Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, geeft onder meer ChatGPT-training aan bedrijven.
Wat betekent dit
Voor OpenAI en Anthropic begint een papieren slag die maanden kan duren. De documenten die zij aanleveren, kunnen later de basis vormen voor een schikking of een formele aanklacht. Dat de FTC ook METR wil horen, laat zien dat de toezichthouder niet alleen naar de bedrijven kijkt, maar ook naar de manier waarop onafhankelijke testers met gevaarlijke capaciteiten omgaan.
Voor Europese gebruikers verandert er op korte termijn weinig, al werken het Amerikaanse en het Europese onderzoek nu parallel aan dezelfde vragen. Organisaties die zelf AI-agents inzetten, doen er goed aan hun eigen logboeken en veiligheidsafspraken op orde te hebben. De vraag “wat doet jouw model als het iets onverwachts tegenkomt” is vanaf nu ook een vraag van toezichthouders.
