VN-AI-panel waarschuwt tegen apocalyptische retoriek

Leden van het VN-panel voor AI hebben zich maandag in New York gekeerd tegen de ondergangstoon die het debat over AI-risico’s de laatste weken beheerst. Tijdens een bijeenkomst in de marge van de Algemene Vergadering vroegen drie panelleden om nuchterheid, meldt persbureau AFP in een verslag dat onder meer door TechXplore is overgenomen.

Investeren in angst helpt niet

Joelle Barral, bestuurder bij Google DeepMind en lid van het panel, kreeg de vraag voorgelegd hoe zij aankijkt tegen recente doemvoorspellingen. Haar antwoord: “Als wetenschappers is het heel belangrijk om te investeren in de wetenschap, om echt te onderscheiden wat we weten van wat we niet weten.” Investeren in angst, zei ze, schiet niet op.

Yoshua Bengio, een van de grondleggers van het vakgebied en covoorzitter van het panel, legde de nadruk op het verschil tussen wat onderzoekers hard kunnen maken en wat je hooguit plausibel kunt extrapoleren. “Het probleem met heel hard schreeuwen is dat iemand anders ook heel hard kan schreeuwen”, zei hij. Wat er volgens hem moet komen is een wereldwijd rationeel gesprek over wat er gaande is, inclusief de onzekerheid en de ernst van de risico’s.

Nobelprijswinnaar Maria Ressa, die als onderzoeksjournalist in de Filipijnen werkt en eveneens in het panel zit, vindt dat de manier waarop over AI-risico wordt gepraat moet veranderen. Het debat is volgens haar ideologisch geworden, terwijl de werkelijkheid veel genuanceerder ligt.

Waar de doemtoon vandaan komt

De aanleiding voor de vraag was een reeks uitspraken van vertrekkende AI-onderzoekers. Jacob Coxon, oud-medewerker van Anthropic die daarvoor bij OpenAI werkte, zei begin september dat AI-ontwikkelaars geloven dat de technologie “ons allemaal zou kunnen doden voor het eind van dit decennium”. Een onderzoeksingenieur die in juli bij Google DeepMind vertrok ging nog verder en noemde het mogelijk al te laat om uitroeiing van de mensheid door AI te voorkomen.

Dat soort uitspraken krijgt veel aandacht, en precies daar zit de zorg van het panel. Wie het hardst roept wint het gesprek, niet wie het beste bewijs heeft. Dezelfde spanning speelde eerder toen het panel opriep om AI-agents aan banden te leggen en toen twintig landen een AI-verklaring tekenden zonder de VS en China.

Een jong panel met een lange opdracht

Het Independent International Scientific Panel on AI werd opgericht via resolutie A/RES/79/325 van de Algemene Vergadering, aangenomen op 26 augustus 2025. Er zitten 40 experts in, benoemd voor drie jaar en gekozen uit ruim 2.600 aanmeldingen uit meer dan 140 landen. Het eerste tussenrapport verscheen op 1 juli 2026 en vormde de basis voor de eerste dialoog in Genève op 6 en 7 juli. Het volledige rapport staat gepland voor 2027.

Het panel heeft geen wetgevende macht. Het moet het hebben van gezag, en dat gezag verdampt zodra het als partij in een schreeuwwedstrijd wordt gezien. Onafhankelijke toetsing blijft ondertussen schaars, al komt er beweging in: eerder haalde Vals 40 miljoen op voor onafhankelijke AI-tests.

Wat betekent dit

Voor wie AI in de praktijk gebruikt is dit vooral een oproep om te wantrouwen wat er aan extreme koppen voorbijkomt, in beide richtingen. De echte vragen gaan over toezicht, aansprakelijkheid en verifieerbare tests, niet over de vraag of de mensheid het decennium haalt. Beleidsmakers die hun beslissingen op de luidste stem baseren, lopen het risico te reguleren op gevoel in plaats van op bewijs. Dat is precies wat Bengio wil voorkomen, en het verklaart waarom een panel vol prominenten de moeite neemt om publiekelijk op de rem te trappen.

“Wie AI in een organisatie invoert, heeft niets aan doemscenario’s of aan blind optimisme. Je hebt mensen nodig die begrijpen waar een model wel en niet op te vertrouwen is.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer. Meer daarover in zijn training AI-geletterdheid.

Dat debat wordt de komende maanden feller, want de modellen zelf blijven in tempo doorgaan. Zie bijvoorbeeld hoe Opus 5.5 en GPT-6 Sol binnen anderhalf uur van elkaar werden gelanceerd.