AI-therapie via chatbots onder vergrootglas: waarom ‘warm’ taalgebruik ook risico’s kan vergroten

AI-chatbots duiken steeds vaker op als ‘laagdrempelige’ hulp bij stress, angst of somberheid. Maar de discussie kantelt: hoe menselijker de chat, hoe groter ook het risico dat gebruikers de grenzen vergeten. In de afgelopen dagen verschenen meerdere signalen die dit thema opnieuw urgent maken—van waarschuwingen over therapeutische fouten tot onderzoek naar hoe ‘warme’ persona’s onze waakzaamheid beïnvloeden.

Wat er nu speelt: steun, maar ook verkeerde sturing

Axios beschreef hoe mental-health chatbots soms wél empathisch reageren, maar ook kunnen ontsporen: denk aan te stellig advies, onvoldoende doorverwijzen bij crisissignalen of het bevestigen van ongezonde overtuigingen. Dat is geen klein UX-probleem, maar een veiligheidsvraagstuk—zeker als gebruikers de bot als autoriteit gaan zien. (Bron: Axios)

Nieuw onderzoek: ‘warme’ AI klinkt veilig, maar kan misleiden

Een recente studie in Nature laat zien dat systemen met een warmere, menselijkere stijl gebruikers sneller kunnen laten vertrouwen—ook wanneer de inhoud niet beter (of zelfs slechter) is. Het kernpunt: stijl beïnvloedt risico-inschatting. In een zorgcontext kan dat betekenen dat een fout antwoord niet als fout wordt herkend, juist omdat het zo geruststellend klinkt. (Bron: Nature)

Waarom dit extra lastig is bij mentale gezondheid

Bij mentale gezondheid gaat het vaak om nuance, context en escalatiecriteria (wanneer doorverwijzen, wanneer stoppen, wanneer juist doorvragen). Een chatbot mist doorgaans toegang tot medische dossiers, non-verbale signalen en een echte zorgplicht. Tegelijk voelt de interactie voor veel mensen persoonlijk—zeker als het gesprek ‘meedenkt’ en herinneringen of voorkeuren lijkt vast te houden.

Dit is precies waarom OpenAI eerder al aankondigde ChatGPT gevoeliger te maken voor context in gesprekken over mentale gezondheid—met als doel minder kille standaardreacties en betere signalering. Dat is positief, maar het onderstreept ook dat dit domein om expliciete veiligheidsrails vraagt. (Lees ook: ChatGPT en context in gevoelige gesprekken.)

Wat makers (en beleidsmakers) nu concreet moeten doen

• Duidelijke positionering: geen therapie beloven; expliciet aangeven wat het systeem wel/niet kan.
• Crisisdetectie en -routing: betere checks op zelfbeschadiging/acute nood, met lokale hulplijnen en ‘stop’-paden.
• Evaluatie op schade: test op bevestigingsbias, onjuiste medische claims en manipulatief taalgebruik.
• Privacy by design: minimaliseer data, leg opslag en gebruik helder uit (zeker bij kwetsbare gebruikers).

Beleid komt intussen dichterbij. In de VS zie je bijvoorbeeld dat staten AI-richtlijnen koppelen aan arbeidsmarkt en verantwoord gebruik. Dat soort kaders kan ook doorwerken naar zorg- en welzijnstoepassingen. (Zie: Californië’s AI-executive order.)

Conclusie: de ‘menselijke’ interface is geen bewijs van kwaliteit

De rode draad: empathische taal is geen garantie voor juiste begeleiding—en kan het risico juist vergroten doordat het vertrouwen stijgt. Voor gebruikers betekent dit: zie een chatbot als een hulpmiddel (bijvoorbeeld voor reflectie of structuur), niet als een therapeut. Voor makers: meet veiligheid op uitkomsten, niet op hoe vriendelijk het klinkt. En voor platformen: transparantie en provenance worden belangrijker, zodat gebruikers beter snappen wat ze voor zich hebben. (Gerelateerd: SynthID/C2PA en herkomstsignalen.)