AI-onderzoekers waarschuwen voor intelligentie-explosie
Ruim twintig onderzoekers van OpenAI, Anthropic, Microsoft en Meta hebben maandag een gezamenlijk werkdocument gepubliceerd over wat er gebeurt als AI-systemen het onderzoek naar hun eigen opvolgers gaan doen. De titel laat weinig aan de verbeelding over: “What if automating AI R&D triggers an intelligence explosion?” Het stuk verscheen via het Centre for the Study of Existential Risk in Cambridge en is ondertekend door onder anderen OpenAI-hoofdwetenschapper Jakub Pachocki, Anthropic-medeoprichter Jack Clark, Microsofts Eric Horvitz en Dawn Song van Meta. Ook Geoffrey Hinton en Yoshua Bengio staan eronder.
Waar de zorg vandaan komt
De auteurs beschrijven een terugkoppeling die zichzelf voedt. Een model dat zelfstandig onderzoek doet, levert een capabeler opvolger op, die weer een groter deel van de onderzoeksketen overneemt, sneller dan mensen de resultaten kunnen nakijken. Jaren vooruitgang zouden zo in maanden kunnen worden samengeperst. “Once an intelligence explosion begins, the window for action may close”, schrijven ze.
Dat is geen gedachte-experiment meer, gezien de cijfers die Anthropic zelf heeft vrijgegeven en die in het paper worden aangehaald. In augustus 2026 werd 26 procent van het interne onderzoeks- en ontwikkelwerk door AI gedaan met alleen toezicht op hoofdlijnen. In maart was dat nog 1 procent. Het aandeel goedgekeurde code dat van AI komt liep tussen januari 2025 en mei 2026 op van een paar procent naar meer dan 80 procent. OpenAI heeft als doel gesteld om in 2028 een volledig geautomatiseerde AI-onderzoeker te hebben draaien.
Wat de auteurs van politici vragen
Het document blijft niet bij alarm slaan. Er staan vier concrete instrumenten in: verplichte rapportage over hoeveel van het eigen onderzoek geautomatiseerd is, auditors die fysiek binnen de grootste labs meekijken, een snelheidslimiet op de groei van modelcapaciteiten, en onderzoeksnetwerken die van het internet zijn losgekoppeld. Daarnaast willen ze toezicht op de datacenters waar geautomatiseerd AI-onderzoek draait.
Vooral dat tweede punt is opvallend. Onderzoekers die zelf bij de labs werken vragen de overheid om waarnemers naar binnen te sturen. Dat sluit aan bij de discussie over de toezichthouder SAFA, waar Meta, xAI en NVIDIA zich tegen verzetten, en bij de wetgeving die New York klaarlegt rond keuring en noodstopknoppen.
Tegenwind is er ook
Niet iedereen in de sector deelt het beeld. NVIDIA-topman Jensen Huang noemde de risico-retoriek eerder overtrokken, en Cohere-CEO Aidan Gomez waarschuwde dat gezamenlijke standaarden van de grootste labs vooral kleinere concurrenten buiten de deur houden. Die spanning loopt al maanden, zichtbaar in beslissingen als het stilleggen van trainingsruns bij OpenAI en het afsluiten van toegang nadat Astra een kritieke cyberdrempel haalde.
“De vraag is niet of AI sneller gaat dan wij, maar of we nog weten wat we aan het bouwen zijn. Wie vandaag leert precies te formuleren wat hij van een model wil, houdt dat overzicht langer vast dan wie alles op de automatische piloot zet.”
Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, geeft onder meer een training prompts schrijven voor AI.
Wat betekent dit
Voor wie AI dagelijks gebruikt verandert er morgen niets. De betekenis zit in de richting. Labs die elkaar op de markt bevechten, zoals te zien was bij de prijsslag rond Claude Sonnet 5.5, vragen nu gezamenlijk om regels die hun eigen tempo beperken. Dat gebeurt zelden zonder reden. Politici in Brussel en Washington krijgen hiermee een technisch onderbouwd document in handen, opgesteld door mensen met toegang tot cijfers die verder niemand ziet. De vraag is of ze er iets mee doen voordat de percentages van Anthropic opnieuw verdubbelen.
