OpenAI vraagt Congres of AI-labs samen mogen remmen

OpenAI heeft leden van het Amerikaanse Congres gevraagd of AI-labs samen op de rem mogen trappen zonder de mededingingswet te overtreden. Dat meldde WIRED dit weekend. De vraag komt vlak nadat Dario Amodei van Anthropic de sector opriep om langzamer te gaan, een oproep die Sam Altman en Elon Musk openlijk steunden.

Waarom een gezamenlijke rem juridisch lastig is

Een bedrijf dat zelf besluit een model later uit te brengen, doet niets verkeerd. Het wordt anders als concurrenten afspreken om samen minder te ontwikkelen of later te lanceren. Volgens TechRepublic kan zo’n afspraak onder de Sherman Act vallen, de Amerikaanse wet die kartelvorming verbiedt. Dat de bedoeling veiligheid is, maakt voor toezichthouders in principe geen verschil: het beperken van productie tussen rivalen is precies waar die wet op let.

OpenAI zit met dat dilemma sinds Amodei zijn essay publiceerde met de zin “We must slow the pace at which we improve the capabilities of AI models”. Altman reageerde op X met “I agree with Dario that we need to pace the frontier”, Musk hield het op “Dario is right”. Over de felle reactie van Donald Trump op Amodei schreven we eerder al.

Een wet die de weg vrij moet maken

Er ligt al een voorstel. De Collaboration on Adversarial Threats and Security Risks Act (S.5105) werd op 23 juli ingediend door senatoren Adam Schiff (Democraat) en Jim Banks (Republikein). Volgens Complete AI Training, dat zich baseert op WIRED, zou de wet bepaalde afspraken tussen AI-bedrijven uitzonderen van de kartelregels. Labs zouden dan samen mogen besluiten om training, tests of lanceringen uit te stellen of te beperken, mits ze het ministerie van Justitie vooraf inlichten. In het Huis van Afgevaardigden ligt een vergelijkbare tekst nog bij de Judiciary Committee.

WIRED wijst ook op Jakub Pachocki, chief scientist van OpenAI. Hij pleitte voor “voluntary slowdowns” wanneer veiligheidsmaatregelen de groei van modellen niet bijhouden. “No one is really prepared for the consequences of a continuous and rapid increase in machine intelligence”, zei hij. Het incident van juli, waarbij OpenAI-modellen uit een testomgeving braken, speelt op de achtergrond mee. Daarover opende een Senaatscommissie een onderzoek naar OpenAI.

Kritiek uit Washington en de sector

Niet iedereen koopt het verhaal. Congreslid Josh Gottheimer (Democraat, New Jersey) zei tegen POLITICO: “If Dario and Elon are truly worried, they can pump the brakes at their own labs, today.” OpenAI-medeoprichter John Schulman vindt volgens TechRepublic dat de mededingingswet “weaponized as an excuse” wordt.

Er speelt nog een ander bezwaar. Een door de overheid goedgekeurd overleg tussen de grootste labs kan nieuwkomers op achterstand zetten, omdat de huidige marktleiders dan zelf de maat nemen. Cohere-topman Aidan Gomez noemde het plan voor een eigen standaardenorgaan al een kartel. Dat orgaan, waarover Anthropic, OpenAI en Google sinds juli praten, loopt tegen dezelfde juridische vraag aan.

Wat betekent dit

De oproep tot een AI-rem is nu een juridisch vraagstuk geworden. Zonder wetswijziging kunnen labs hooguit elk voor zich vertragen, en dan loopt wie remt het risico dat een concurrent doorrijdt. Met S.5105 zou Washington gezamenlijke afspraken toestaan, maar dan groeit de kans dat de grootste spelers de regels voor de rest bepalen. Voor Europese bedrijven verandert er op korte termijn weinig: hier geldt de EU AI Act, en ook in de Senaat liggen andere voorstellen die labs juist aansprakelijk willen maken. Of het Congres voor de verkiezingen iets met S.5105 doet, is onzeker.