OpenAI laat honderden mensen ChatGPT-chats lezen

Wie ChatGPT iets toevertrouwt, gaat er meestal van uit dat alleen een model meeleest. Dat klopt niet altijd. 404 Media onthulde maandag dat OpenAI honderden externe beoordelaars inzet die echte gesprekken van gebruikers lezen. Intern heet het programma “Project Lily”.

Wat de beoordelaars te zien krijgen

Volgens interne documenten die 404 Media inzag, lezen de contractors een prompt van een gebruiker, vatten ze de bedoeling samen en geven ze vier mogelijke antwoorden van ChatGPT een score op een schaal van 1 tot 7. Soms gaat het om complete gesprekken. Gebruikersnamen zien ze niet. OpenAI laat de teksten eerst door een eigen Privacy Filter-model halen dat persoonsgegevens moet wegpoetsen, maar het bedrijf erkent tegenover 404 Media dat gevoelige details er soms toch doorheen glippen.

Opvallend is een onderdeel van het dashboard: een “user memories summary”. Die samenvatting van eerdere interacties kan volgens het artikel verraden waar iemand ongeveer woont, welk beroep hij of zij heeft of hoe het privéleven eruitziet. Een van de betrokkenen zei tegen 404 Media: “I don’t think they would imagine some contractor somewhere is analyzing the conversations.”

Waarom OpenAI mensen laat meelezen

Het doel is ChatGPT minder slijmerig en minder menselijk te laten klinken. De beoordelaars moeten vooral de neiging tot overdreven complimenten en vermenselijking terugdringen. De werving loopt via Crossing Hurdles, dat mensen doorverwijst naar Mercor, het AI-trainingsbedrijf dat de beoordelaars uiteindelijk betaalt. Het uurloon ligt vaak boven de 50 dollar, meldt The Next Web.

Menselijke controle van trainingsdata is in de sector geen uitzondering. Anthropic bevestigde tegenover 404 Media dat het ook mensen inzet om modellen te verbeteren. De schaal maakt het verhaal bij OpenAI gevoeliger: ChatGPT heeft meer dan 900 miljoen gebruikers. Eerder deze maand bleek al hoeveel persoonlijke context OpenAI verzamelt, toen ChatGPT Work je schrijfstijl ging leren uit Gmail en Slack.

Het Europese privacyprobleem

The Next Web legt de nadruk op de AVG. Het Europese Hof van Justitie oordeelde in september 2025 in de zaak EDPS tegen SRB dat een verwerkingsverantwoordelijke gebruikers bij het verzamelen van gegevens moet vertellen wie die gegevens ontvangt, ook als die ontvanger personen niet kan identificeren. Toen The Next Web OpenAI vroeg waar gebruikers over menselijke beoordeling worden geïnformeerd, kwam er eerst geen antwoord en later alleen een verwijzing naar een helppagina. De Italiaanse privacytoezichthouder legde OpenAI eerder al een boete van 15 miljoen euro op. Europese toezichthouders zijn strenger dan hun Amerikaanse collega’s, zoals ook bleek toen Siri AI niet op Europese iPhones verscheen. In de VS komt de regelgeving vooral uit de staten, zie de 26 AI-wetten die Californië naar Newsom stuurde.

Wat betekent dit voor jou?

De instelling “Improve the model for everyone” staat bij Free-, Plus- en Pro-accounts standaard aan. Bij Enterprise, Business en Edu staat die uit. Wie de optie uitzet, beschermt alleen nieuwe gesprekken; wat al gedeeld is, blijft buiten schot. Voor bedrijven is dat een concreet argument om medewerkers niet met privéaccounts te laten werken. Gevoelige informatie hoort sowieso niet in een consumentenchatbot. Wie dat toch wil, kijkt beter naar oplossingen die data lokaal houden, zoals Perplexity dat gevoelige data op de Mac verwerkt. Voor OpenAI ligt de vraag nu op tafel of een helppagina genoeg uitleg is voor 900 miljoen mensen die denken dat ze alleen met een machine praten.