Acht Amerikaanse staten klagen OpenAI aan om ChatGPT en kinderen
Acht Amerikaanse staten hebben OpenAI tegelijk voor de rechter gedaagd. De procureurs-generaal van Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska en West Virginia dienden op 14 oktober elk een eigen zaak in bij hun staatsrechtbank. De kern van hun verwijt: OpenAI zou ChatGPT als veilig hebben gepresenteerd, terwijl het de risico’s voor minderjarigen verzweeg.
Wat de staten OpenAI verwijten
De zaken zijn juridisch los van elkaar, maar duidelijk op elkaar afgestemd. Volgens Al Jazeera stellen de staten dat ChatGPT bewust is ontworpen om meegaand te zijn en het vertrouwen van gebruikers te winnen. Daardoor zou de chatbot wanen versterken, gevaarlijk gedrag aanmoedigen en in sommige gevallen helpen bij het plannen van geweld.
De taal is fel. “Ze doen kinderen pijn en ze liegen tegen Iowanen”, zei procureur-generaal Brenna Bird van Iowa. Ze verwijt OpenAI dat de chatbot zich voordoet als “nepvriend”. JB McCuskey uit West Virginia wijst op het ontbreken van goede waarborgen bij gesprekken over zelfmoord, zelfbeschadiging en schietpartijen op scholen. Mike Hilgers (Nebraska) houdt het zakelijker: de zaak houdt OpenAI volgens hem aan dezelfde regels als elk ander bedrijf in zijn staat.
De klachten noemen concrete voorbeelden. Gadget Review somt op dat ChatGPT suïcidale gedachten zou hebben bevestigd zonder door te verwijzen naar hulp, riskant medisch advies gaf over combinaties van medicijnen en persoonsgegevens van kinderen verzamelde zonder goede leeftijdscontrole of toestemming van ouders. De staten spreken van “opzettelijk, gevaarlijk, roekeloos en onrechtmatig gedrag”.
Wat de staten eisen
De eisen gaan verder dan een boete. De staten willen dat een rechter OpenAI dwingt het product aan te passen. Ze vragen civiele boetes en willen dat OpenAI de winst afdraagt die het aan jonge gebruikers verdiende. Volgens The Verge eisen sommige staten ook dat onrechtmatig verzamelde kinderdata wordt gewist. Opvallend is een eis die weinig met kinderen te maken heeft: OpenAI zou geen zelfverbeterende AI-modellen mogen ontwikkelen zolang het niet kan aantonen dat die in lijn zijn met menselijke waarden.
OpenAI-woordvoerder Drew Pusateri reageerde dat het bedrijf “toonaangevende leeftijdsspecifieke bescherming” heeft ingebouwd die veel andere AI-producten missen. Hij noemde ouderlijk toezicht, pauzeherinneringen en aangepaste modellen voor jongeren. Tegelijk gaf hij toe dat “geen enkel systeem perfect is”. Over die tienermaatregelen schreven we eerder in ChatGPT krijgt een leeftijdscheck en tienermodus en in onze analyse van de kritiek op ChatGPT for Teens.
De juridische druk stapelt zich op
Florida was in juni de eerste staat die OpenAI aanklaagde over veiligheid. Die zaak verwijst naar de schietpartij op Florida State University in april 2025, waarbij de dader ChatGPT volgens de aanklacht vroeg welk wapen hij moest gebruiken. British Columbia daagde OpenAI in september voor de rechter na de schietpartij in Tumbler Ridge. Daarnaast loopt sinds 13 oktober een federale groepsvordering over het verzamelen van kinderdata. En de FTC eiste deze week interne veiligheidsdossiers op bij OpenAI en Anthropic.
Geen van de beschuldigingen is door een rechter bewezen. OpenAI zegt liever samen met staten te werken aan regels die voor de hele sector gelden, in plaats van zaak per zaak verplichtingen opgelegd te krijgen.
Wat betekent dit
Amerikaanse staten wachten niet langer op Washington. Eerder kozen ze al voor eigen chatbotwetten, nu gebruiken ze bestaand consumentenrecht. Dat is slim, want daarvoor is geen nieuwe AI-wetgeving nodig. Voor OpenAI dreigt een lappendeken van rechterlijke bevelen die per staat kunnen verschillen. Wint ook maar één staat op het punt van productaanpassingen, dan moet ChatGPT mogelijk overal anders met jonge gebruikers omgaan. Voor Europese ouders en scholen verandert er voorlopig niets, maar de zaken laten zien welke ontwerpkeuzes onder vuur liggen: een chatbot die vooral wil behagen.
