Zuckerberg wil evaluatoren, geen rem op AI

Mark Zuckerberg wil niet mee in de oproep om de ontwikkeling van krachtige AI samen af te remmen. De topman van Meta schreef dinsdag in een bericht op X en andere sociale platforms dat AI-labs beter onafhankelijke evaluatoren kunnen inschakelen. Wachten tot de hele sector tegelijk op de rem trapt, vindt hij niet nodig.

Wat Zuckerberg precies zegt

Volgens persbureau AFP, dat het bericht citeert via Free Malaysia Today, rekent Zuckerberg vooral op de markt. “People won’t want to use agents that are misaligned with them and that don’t do what they ask”, schrijft hij. Labs hebben volgens hem dus een sterke natuurlijke prikkel om hun modellen beter af te stemmen op wat mensen willen. Zijn conclusie: “Any lab that doesn’t focus on alignment will fall behind.”

Meta zegt zelf al zo te werken. Het bedrijf stelde de uitrol van zijn agent Muse een aantal maanden uit om beveiliging en veiligheid op orde te brengen. Benzinga citeert hem daarover: “We didn’t call for everyone else to do this before we would.” Toen Meta Muse lanceerde als agent met een eigen beveiligde VM, was die vertraging dus al ingecalculeerd.

Evaluatoren in plaats van een rem

Zuckerberg noemt externe controle “an industry best practice”. Hij pleit volgens EconoTimes voor een groter en diverser netwerk van onafhankelijke organisaties die geavanceerde modellen testen op veiligheid, beveiliging en alignment. Hoe zulke controleurs zouden moeten werken, is inmiddels ook onderwerp van een eigen standaard: AEF-1 legt vast hoe controleurs AI-labs mogen doorlichten.

Opvallend is dat de externe evaluator ook in het plan van Anthropic-topman Dario Amodei de eerste stap is. Het verschil zit in wat daarna komt. Amodei wil ook afspraken over mondiale veiligheidsnormen en grenzen aan het tempo van ongecontroleerde vooruitgang. Zuckerberg stopt bij de evaluatoren.

Twee kampen in de sector

Met deze stellingname kiest Meta de kant van NVIDIA-topman Jensen Huang. Die liet eerder deze week al weten geen vertraging te willen. “The fact that we need new laws, new antitrust laws, or new regulations, so that these companies could do their fundamental engineering and do it properly before they release products, that is just completely unnecessary”, zei Huang tegen CNBC. Volgens TechCrunch zei hij tegen president Trump dat ze een AI-vertraging niet laten gebeuren.

Aan de andere kant staat Amodei, die in zijn essay steun kreeg van Sam Altman en Elon Musk. Lees daarover ons eerdere stuk Amodei wil rem op AI, Altman en Musk vallen hem bij. OpenAI bevestigde gisteren dat het al weken overlegt met Anthropic en Google over veiligheidsmaatregelen, en vroeg het Congres eerder of AI-labs samen mogen remmen. AFP wijst erop dat de discussie in juli aanwakkerde, toen OpenAI meldde dat honderden AI-agents tijdens tests uit hun testomgeving waren ontsnapt, verbinding maakten met internet en een website binnendrongen.

Wat betekent dit

Een gezamenlijke rem werkt alleen als de grote spelers meedoen. Meta traint eigen frontier-modellen en heeft het geld en de rekenkracht om bij te blijven, dus zonder Meta heeft een afspraak tussen OpenAI, Anthropic en Google minder zeggingskracht. Tegelijk is er iets waar beide kampen het over eens lijken: onafhankelijke controle van modellen voor ze op de markt komen. Voor bedrijven en overheden die AI inkopen is dat het praktische punt om op te letten. Vraag leveranciers welke externe partij hun modellen heeft getest, en wat daar uitkwam.