Cohere noemt AI-standaardenorgaan een kartel

Cohere-topman Aidan Gomez haalt hard uit naar het plan van Anthropic, OpenAI en Google om samen een eigen standaardenorgaan voor AI op te richten. Op X reageerde hij op het nieuws met de zin “Here are some great ideas from a cartel”. Een dag later, op 13 september, zette hij zijn bezwaren uitgebreider op papier in een blogpost op de site van Cohere.

Wie mag de regels schrijven

De kern van het bezwaar gaat over zeggenschap. Gomez vraagt zich af of een handvol marktleidende bedrijven uit Silicon Valley de veiligheidsnormen voor een generatietechnologie mag vastleggen, zonder dat overheden, onderzoekers en burgers daar iets over te zeggen hebben. Volgens hem eisen die bedrijven feitelijk de bevoegdheid op om de concurrentieregels in hun eigen voordeel te herschrijven. Hij wijst er ook op dat de voorgestelde drempels aan modelomvang hangen, niet aan de context waarin een model wordt ingezet, wat kleinere aanbieders zwaarder raakt dan de partijen die het voorstel doen.

Zijn scherpste zin richt zich op de belofte van meer veiligheid: “A mechanism that slows everyone down while explicitly preserving existing commercial advantage does not make AI safer.”

Wat Cohere zelf voorstelt

Gomez komt niet alleen met kritiek. In de blogpost noemt hij vier uitgangspunten: risicobeoordeling op basis van bewijs, internationaal ontwikkeld en openbaar gepubliceerd; verplichte transparantie over wat modellen kunnen en over incidenten; tests die in verhouding staan tot aantoonbare schade zoals cyberaanvallen, fraude en risico’s voor vitale infrastructuur; en onafhankelijke toetsing naar het voorbeeld van de financiële sector en de luchtvaart, dus niet door beoordelaars die bij de labs zelf op de loonlijst staan. “Test what can harm people and societies, and let evidence decide what requires testing”, schrijft hij.

De achtergrond van de ruzie

Het plan waar Gomez op reageert kwam naar buiten via The Information, dat op 12 september meldde dat werkgroepen van de drie labs sinds juli met elkaar praten over een vrijwillig standaardenorgaan buiten de overheid om. Wij schreven eerder over die gesprekken tussen de AI-labs. Sam Altman zei volgens dezelfde berichtgeving in een interne bijeenkomst dat de grote AI-bedrijven zo’n orgaan zelf zullen moeten optuigen, zonder steun van Washington. Aanleiding is een gestrand voorstel van de regering-Trump voor een door de overheid geleid orgaan.

De timing verklaart de felheid. Vorige week riep Dario Amodei op om het ontwikkeltempo te temperen, waarna Altman en Musk hem bijvielen. Microsoft koos deze week publiekelijk positie met een gedragscode voor zijn MAI-modellen. Mark Zuckerberg ligt er juist dwars voor, met het argument dat de Verenigde Staten regulering moeten mijden om China bij te houden.

Wat betekent dit

Cohere zit in een andere positie dan de drie initiatiefnemers. Het Canadese bedrijf nam geen miljardeninvestering van een techreus aan en praat nu over een ronde van 3 miljard dollar bij een waardering van 20 miljard. Dat verschil in schaal is precies waar het conflict om draait: normen die aan modelomvang hangen, kosten de grootste labs relatief het minst. Voor Europese en Nederlandse afnemers is het relevant welke route wint, want een vrijwillig clubje van drie Amerikaanse aanbieders levert een ander soort verantwoording op dan toezicht met wettelijke grondslag, zoals de EU AI Act dat regelt. Tot die vraag beslecht is, blijft de discussie vooral een strijd over wie de meetlat vasthoudt.