Meta, xAI en NVIDIA dwarsbomen AI-toezichthouder SAFA

Google, OpenAI en Anthropic willen samen een eigen toezichthouder voor geavanceerde AI-modellen oprichten. De naam van het orgaan is nu bekend: de Standards Authority for Frontier AI, afgekort SAFA. Volgens The Information, dat de plannen als eerste beschreef, moet SAFA nog dit jaar of begin 2027 van start gaan. Drie andere grote spelers zien het anders.

Een FINRA voor AI-modellen

SAFA is gemodelleerd naar de Financial Industry Regulatory Authority, de private toezichthouder die in de Verenigde Staten de effectenhandel controleert. Het idee komt uit een essay dat Google DeepMind-topman Demis Hassabis in juli publiceerde. De drie labs polsten daarna meerdere kandidaten voor de leiding, onder wie oud-adviseur AI-beleid Sriram Krishnan, voormalig Biden-technologiechef Arati Prabhakar, Condoleezza Rice en investeerder David Friedberg. Dat de labs Krishnan benaderden voor een zelfopgerichte toezichthouder werd eerder deze week al gemeld.

Het takenpakket is concreter dan een intentieverklaring. SAFA zou gemeenschappelijke veiligheidsbenchmarks opstellen, modellen laten testen voordat externe partijen ermee aan de slag gaan, incidentmeldingen afhandelen en eisen formuleren waaraan auditors moeten voldoen. Op wetenschappelijk vlak zijn METR-oprichter Beth Barnes en Paul Christiano gepolst als adviseur.

Wie betaalt en wie bepaalt

Hassabis zei dat de financiering grotendeels uit de sector zelf zal komen. Daar zit het pijnpunt. SAFA heeft geen goedkeuring van het Congres of het Witte Huis nodig om te bestaan, maar wil het orgaan juridische tanden krijgen, dan is registratie bij een overheidsinstantie nodig. FINRA staat om die reden ingeschreven bij de SEC. Zonder zo’n stap blijft SAFA een club van deelnemers die vrijwillig meedoen, met standaarden die alleen gelden voor wie ze accepteert.

De timing is opvallend. De labs kozen voor zelfregulering nadat het Witte Huis een concept-decreet over AI-toezicht in de lade liet liggen. Ondertussen bewegen staten wel: New York wil keuring en een killswitch voor AI-modellen verplichten. OpenAI zelf legde deze week de training van zijn nieuwste modellen stil, wat de urgentie van de vraag wie er meekijkt niet kleiner maakt.

Meta, xAI en NVIDIA houden de deur dicht

Op Dreamforce, op 15 september, spraken Meta, xAI en NVIDIA zich openlijk uit tegen SAFA. Mark Zuckerberg voerde aan dat AI-labs al een stevige aansprakelijkheidsprikkel hebben en dat de bestaande wetgeving volstaat. Critici van de drie initiatiefnemers zien nog iets anders: een toezichthouder die door drie bedrijven wordt opgezet en gefinancierd, kan de toegangsdrempel voor snelgroeiende concurrenten verhogen. Ook de Amerikaanse overheid experimenteert met eigen kanalen, zoals de hotline voor AI-incidenten met China.

Wat betekent dit

Voor Nederlandse organisaties die op Claude, Gemini of GPT-modellen bouwen, gaat het hier om de vraag welke veiligheidsverklaring straks iets waard is. Onder de EU AI Act moeten leveranciers van modellen met systeemrisico al documentatie en incidentmeldingen aanleveren. Een Amerikaans branche-orgaan met eigen benchmarks kan dat werk aanvullen, maar het kan ook een tweede papierspoor opleveren dat niet op de Europese eisen aansluit. Zolang de helft van de grootste labs niet meedoet, zegt een SAFA-stempel weinig over de modellen die je niet van Google, OpenAI of Anthropic afneemt. Let daarom op wat er in het eerste halfjaar na de start gebeurt: sluiten Meta en xAI zich aan, of blijft het bij drie deelnemers.