AI-labs polsen Krishnan voor eigen toezichthouder
Google, OpenAI en Anthropic hebben Sriram Krishnan benaderd om een nieuwe toezichthouder voor geavanceerde AI-modellen te leiden. Dat meldt The Information. De organisatie draagt voorlopig de naam Frontier AI Standards Agency en zou de veiligheidstests van de grote labs moeten uniformeren, buiten de overheid om.
Wat de Frontier AI Standards Agency moet doen
Het idee komt uit een raamwerk dat Google DeepMind-topman Demis Hassabis op 14 juli publiceerde. Hij stelde een Amerikaans instituut voor naar het model van FINRA, de door de sector gefinancierde toezichthouder die Amerikaanse effectenhandelaren controleert onder de paraplu van beurswaakhond SEC. Het nieuwe orgaan zou modellen voor hun release onafhankelijk moeten testen op gevaarlijke capaciteiten: cyberaanvallen, biologische risico’s en misleidend gedrag. Daarnaast zou het een gedeelde woordenlijst en gedeelde testmethodes moeten opleveren, zodat een veiligheidsclaim van OpenAI en een van Anthropic op hetzelfde slaat.
Dat laatste is nu het pijnpunt. Elk lab hanteert een eigen schaal voor risiconiveaus en publiceert eigen modelkaarten, waardoor vergelijken vrijwel onmogelijk is. Hassabis wil het instituut nog voor het einde van 2026 laten draaien, een strak tempo voor een organisatie die nog geen juridische vorm heeft.
Een kandidaat die zelf tegen een AI-waakhond was
De keuze voor Krishnan valt op. Hij was tot juni 2026 senior beleidsadviseur AI in het Witte Huis onder president Trump en verzette zich daar juist tegen een centrale toezichthouder. Er komt geen FDA voor AI, zei hij destijds, met het argument dat zo’n instantie zand in de motor van de sector zou strooien. Dat hij nu gevraagd wordt om een sectorwaakhond op te zetten, past bij de voorkeur van de labs: liever zelf de norm schrijven dan er een opgelegd krijgen.
Of Krishnan ja zegt, is niet bekend. De betrokken bedrijven hebben de benadering niet bevestigd.
Zelfregulering naast de discussie bij de VN
De timing is opvallend. Chris Lehane, hoofd global affairs bij OpenAI, bevestigde op 15 september in Washington dat de drie labs al weken overlegden over gezamenlijke veiligheidsprotocollen. Deze week stond het onderwerp op een heel ander podium: Anthropic-topman Dario Amodei legde de VN-Veiligheidsraad drie concrete afspraken voor, waarna de Verenigde Staten die van tafel veegden. Ook OpenAI en DeepSeek spraken tijdens diezelfde briefing in New York.
Critici wijzen op het voor de hand liggende bezwaar. Drie bedrijven die samen het grootste deel van de markt voor frontier-modellen bezitten, richten de partij op die hun eigen huiswerk nakijkt. Een tweede zorg is dat strenge, dure tests kleinere ontwikkelaars buiten de deur houden. De waarschuwing van Trump dat een sterke president de enige echte vangrail is illustreert hoe ver Washington en de sector uit elkaar liggen over wie mag controleren.
Wat betekent dit
Voor bedrijven die AI inkopen, verandert er op korte termijn niets. Op middellange termijn kan een gedeelde teststandaard wel schelen: nu moet je zelf uitzoeken wat de veiligheidsrapporten van verschillende leveranciers waard zijn. Tegelijk blijft dit zelfregulering zonder wettelijke tanden, anders dan de bindende regels waar de G20-discussie over gaat. Wie in Europa werkt, houdt hoe dan ook te maken met de EU AI Act. Een privaat keurmerk uit San Francisco vervangt die verplichtingen niet.
