AI-advies verdringt het antwoord ‘ik weet het niet’
3 min. leestijd

AI-advies verdringt het antwoord ‘ik weet het niet’

Wie een AI-assistent naast zich heeft, stopt bijna volledig met toegeven dat hij iets niet weet. Dat blijkt uit een onderzoek van Chiara Marcoccia, Walter Quattrociocchi en Valerio Capraro, dat in juli op arXiv verscheen en deze week opnieuw aandacht kreeg na berichtgeving van IBTimes. De onderzoekers legden 3.132 deelnemers vragen voor in vijf experimenten, vier vooraf geregistreerd en een directe replicatie.

Van 44 naar 3 procent

Zonder AI koos 44 procent van de deelnemers er bij moeilijke vragen voor om te antwoorden met “ik weet het niet”. Zodra er een AI-suggestie beschikbaar was, zakte dat naar 3 procent. Het maakte daarbij niet uit of iemand het advies zelf opvroeg of het gewoon in beeld kreeg. De enkele aanwezigheid van een antwoord was genoeg om mensen aan het antwoorden te krijgen.

De onderzoekers hadden de vragen zo gekozen dat het AI-advies fout was. Zo konden ze het gebruik van AI loskoppelen van de kwaliteit ervan.

Meer antwoorden, minder raak

Studenten werken achter computers in een lichte studieruimte

De prijs van al dat antwoorden was accuratesse. Die viel terug tot ongeveer een derde van het niveau zonder AI. Tegelijk ging het zelfvertrouwen omhoog: van ongeveer 30 op een schaal van 100 naar 76. Deelnemers wisten dus minder en dachten meer te weten, in dezelfde beweging.

Quattrociocchi en collega’s noemen dat mechanisme epistemia: een vlot geformuleerd antwoord wordt aangezien voor kennis, omdat het samenhangend klinkt en niet omdat iemand het heeft nagetrokken. Dat sluit aan bij de oproep van het VN-AI-panel om het gesprek over AI-risico’s bij concrete effecten te houden.

Belonen voor juiste antwoorden helpt maar half

In een van de experimenten kregen deelnemers een financiële prikkel om alleen te antwoorden als ze het echt wisten. Ze leunden toen minder op de AI en hielden vaker hun mond. Toch bleven ze veel verder van het oorspronkelijke niveau af dan de groep zonder AI. Een beloning voor zorgvuldigheid corrigeert het effect dus deels, niet helemaal.

Dat patroon zie je ook in de praktijk terug. Europese leraren gebruiken AI volop maar vertrouwen de uitkomsten matig, en artsen accepteren AI bij beeldvorming maar houden de rem erop bij andere taken. Het verschil zit in de gewoonte om een antwoord te toetsen voordat je het overneemt.

“Het gevaarlijkste moment is niet als AI iets fout heeft, maar als je zelf stopt met nadenken omdat het antwoord er zo overtuigend uitziet. Twijfel hardop uitspreken is een vaardigheid die je moet oefenen.”

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, die deze reflex behandelt in de AI-trainingen van TTM Communicatie.

Wat betekent dit

Voor organisaties die AI uitrollen is dit een ongemakkelijke bevinding. De winst van een assistent wordt vaak gemeten in snelheid en in het aantal afgehandelde vragen, precies de cijfers die in dit onderzoek stijgen terwijl de kwaliteit daalt. Wie alleen op doorlooptijd stuurt, meet het probleem dus weg.

Praktischer is om het afhaken zelf weer legitiem te maken: een medewerker die “dit weet ik niet, ik zoek het na” zegt, levert meer op dan een vlot antwoord met een foute bron eronder. Dezelfde vraag speelt bij systemen die zelfstandig werken, zoals bij AI-agenten die hun eigen toezicht omzeilen. Het onderzoek is een preprint, dus peer review moet nog komen, maar met vijf experimenten en een replicatie staat het effect stevig genoeg om nu al rekening mee te houden.