Common Sense Media: ChatGPT for Teens is onacceptabel risico
De Amerikaanse non-profit Common Sense Media geeft ChatGPT for Teens het laagste oordeel dat de organisatie kent: “Unacceptable Risk”. Volgens het rapport, dat op 7 oktober verscheen, werken de beveiligingen van de tienerversie van ChatGPT in de praktijk vaak niet. De organisatie vraagt OpenAI om te stoppen met het promoten van de tienermodus en vindt dat minderjarigen ChatGPT voorlopig niet moeten gebruiken.
Ruim 4.000 prompts getest
Het onderzoek komt van het Youth AI Safety Institute van Common Sense Media. Volgens Axios testten de onderzoekers meer dan 4.000 prompts op accounts van 13- tot 17-jarigen. Kinderpsychiaters en een kinderarts beoordeelden de antwoorden. De helft van de tests liep voor de lancering van ChatGPT for Teens op 18 augustus, de andere helft daarna, meldt The Next Web. Wij schreven bij die lancering al over de leeftijdsherkenning in ChatGPT for Teens.
Het zwaarste punt gaat over ouders. Gesprekken over suïcidale gedachten, zelfbeschadiging of eetstoornissen konden tot een uur doorgaan zonder dat het gekoppelde ouderaccount een melding kreeg. Alleen accounts met weken aan gevoelige gespreksgeschiedenis triggerden wel een waarschuwing. Ook verwees de chatbot in meer dan een op de vier gevallen niet door naar crisishulp, terwijl dat volgens de onderzoekers wel nodig was. Op drie van de vijf categorieën met ernstige schade bleef ChatGPT onder de drempel van 95 procent die het instituut hanteert.
Studiemodus en leeftijdscheck schieten tekort
De Study Mode moet leerlingen stap voor stap door een opgave helpen. In de tests bood ChatGPT binnen die modus regelmatig een knop “Show me the answer” aan, waarmee het hele idee van begeleid leren verdwijnt. Studietijden die ouders instellen bleken eenvoudig te omzeilen. De leeftijdsschatting faalde ook: accounts die als volwassene waren aangemaakt, schakelden niet over naar de tienermodus, zelfs als de gebruiker aangaf 13 te zijn. Die leeftijdscontrole was juist een kernbelofte, zoals we eerder beschreven in ons stuk over de leeftijdscheck en de tienermodus.
Er waren ook lichtpuntjes. ChatGPT weigerde expliciete seksuele rollenspellen met de testaccounts.
“ChatGPT for Teens could give parents false confidence in guardrails and safety alerts that frequently don’t work”, zegt Tom Siegel, directeur van het instituut, volgens Axios.
OpenAI betwist de resultaten
OpenAI is het niet eens met het rapport. “We do not believe Common Sense Media’s testing accurately reflects how ChatGPT’s teen safeguards work in practice”, zei een woordvoerder tegen Education Week. Het bedrijf stelt dat het koppelen van ouder- en tieneraccounts enkele uren duurt, waardoor de tests van de ouderwaarschuwingen mogelijk te vroeg begonnen. OpenAI heeft gevraagd om de tests opnieuw te doen.
De kritiek komt van een oude bekende. Common Sense Media gaf ChatGPT in oktober 2025 al het oordeel “High Risk” en werkte eerder met OpenAI samen aan beleid voor tieners. Andere techbedrijven liggen ook onder het vergrootglas: Google kreeg kritiek op zijn lobby tegen chatbotwetten in de VS en breidt intussen Gemini in Classroom uit naar jongere leerlingen.
Wat betekent dit
Voor ouders in Nederland is de les praktisch. Een tienermodus met ouderlijk toezicht is geen garantie dat je als ouder op tijd hoort dat je kind het moeilijk heeft. Praat met je kind over waar het AI voor gebruikt en kijk zelf in de instellingen wat er wel en niet gemeld wordt. Scholen die ChatGPT inzetten voor huiswerk doen er goed aan de studiemodus kritisch te testen. Voor OpenAI is het rapport vooral een reputatieprobleem: zolang een onafhankelijke partij de beloofde veiligheid niet kan reproduceren, blijft de vraag of ChatGPT for Teens doet wat het belooft. Hoe jongeren AI nu al gebruiken, lees je in ons stuk over jongeren en AI-zoeken.
