AI-labs praten over eigen toezichtsorgaan

Anthropic, OpenAI en Google praten sinds juli achter gesloten deuren over een eigen toezichtsorgaan voor AI. Dat meldt Leo Schwartz van The Information op basis van bronnen rond de gesprekken. Het idee: een club van de industrie zelf die testprotocollen vastlegt, modellen laat auditen en in het uiterste geval de toegang tot een te riskant systeem kan beperken.

Wat de labs precies willen regelen

De werkgroepen draaien om drie dingen: gedeelde protocollen voor het testen van frontier-modellen voordat die naar het publiek gaan, onafhankelijke evaluaties door partijen buiten het lab, en een gestandaardiseerde risicobeoordeling waarmee resultaten van verschillende bedrijven vergelijkbaar worden. Nu publiceert elk lab zijn eigen system card met zijn eigen meetlat, waardoor een veiligheidsclaim van Anthropic zich lastig laat naast die van Google leggen.

Dario Amodei trekt de kar. Zijn essay van deze week, waarin hij het tempo van de AI-race ter discussie stelde, kreeg bijval van Sam Altman en zorgde eerder al voor koersdruk bij chipfabrikanten. Altman koppelt daar een praktisch argument aan vast: als Washington niets doet, moeten de labs het zelf organiseren. Die opvallende eensgezindheid tussen Amodei, Altman en Musk is nog geen half jaar oud en vertaalt zich nu in een concreet institutioneel voorstel.

Washington schuift het door

De timing is geen toeval. Op diezelfde 13 september zei Speaker Mike Johnson bij CNN dat het Congres niet het voortouw neemt op AI-veiligheid, zo tekende Axios op. Johnson wil geen noodmoratorium en stelt in plaats daarvan voor om de topmensen van OpenAI, Anthropic en xAI naar het Witte Huis te halen voor een gesprek over guardrails. Zijn redenering: de technologie beweegt te snel voor haastwetgeving, en de bedrijven kunnen hun werk desnoods zelf stilleggen.

Dat laat een gat achter dat de labs nu zelf willen vullen. Historisch gezien is dat een bekend patroon in de Amerikaanse techsector, met wisselend resultaat. Een orgaan waarin dezelfde partijen de norm schrijven, de naleving certificeren en de sancties bepalen, roept de vraag op wie er ingrijpt als een van hen die norm niet haalt.

Europa doet het andersom

In de EU ligt de volgorde omgekeerd: daar staat de wet er al en moeten de bedrijven zich schikken. Dat levert nu al frictie op, zoals bleek toen de Agents API van OpenAI vastliep op Europese eisen rond datalocatie. Een Amerikaans zelfreguleringsorgaan met eigen testprotocollen kan daar botsen met de conformiteitsbeoordelingen die de EU AI Act voorschrijft. Ondertussen bouwt China aan een derde route, met de open-source AI-gemeenschap binnen de BRICS die Xi Jinping deze week aankondigde.

Wat betekent dit

Voor Nederlandse organisaties die AI inkopen verandert er op korte termijn weinig. Wel is het verstandig te volgen welke meetlat straks in leveranciersdocumentatie opduikt. Komt er een gezamenlijk testkader, dan worden veiligheidsclaims van verschillende aanbieders eindelijk vergelijkbaar, wat inkoop en risicobeoordeling makkelijker maakt. Blijft het bij werkgroepen zonder tanden, dan blijft de EU AI Act voorlopig het enige kader waar u zich echt op kunt beroepen. De gesprekken lopen nog en geen van de drie bedrijven heeft iets officieel bevestigd.