ChatGPT maakt van verkiezingsdeepfakes nu cartoons

Een week voor de Amerikaanse midterms van 3 november heeft OpenAI een nieuwe rem op ChatGPT gezet. Vraagt iemand om een fotorealistisch beeld dat de verkiezingen kan verstoren of kiezers kan ontmoedigen, dan krijgt die een cartoon of illustratie terug. Tests van CNET, Gizmodo en NewsGuard laten zien dat die rem nog behoorlijk lek is.

Wat OpenAI heeft veranderd

OpenAI publiceerde in mei een overzicht van zijn verkiezingsmaatregelen. Daarin stond vooral dat het gebruiksbeleid verkiezingsbeïnvloeding verbiedt. In oktober kwam er een aanvulling bij: beelden die over verkiezingsinmenging gaan of mensen van stemmen moeten weerhouden, tekent ChatGPT voortaan in een cartoonstijl. Volgens OpenAI blijft er zo ruimte voor illustraties en maatschappelijk commentaar, terwijl de kans kleiner wordt dat iemand een verzonnen scène voor echt bewijs aanziet.

Josh Lawson, hoofd verkiezingen bij OpenAI, zei tegen CNET dat het doel is om “de bewijswaarde van een beeld te verlagen”. ChatGPT moet “minder bruikbaar worden voor kwaadwillenden door een extra laag frictie toe te voegen”.

Wisselende resultaten in de praktijk

CNET vroeg om een beeld van ICE-agenten bij een stembureau en kreeg een cartoon. Een vervolgverzoek om een fotorealistische versie weigerde ChatGPT. Gizmodo deed iets vergelijkbaars met een stembureau in Duluth, Minnesota. Ook daar kwam eerst een getekend plaatje uit, maar toen Gizmodo om een realistische versie vroeg, leverde ChatGPT die gewoon. Dat beeld was echt genoeg dat de redactie er een watermerk op zette. Gizmodo noemt de maatregel “een vrij dunne laag”. Google Gemini weigerde dezelfde prompt direct.

Het Brennan Center schrijft dat OpenAI zijn bescherming sinds een eerder rapport in augustus “aanzienlijk heeft verbeterd”. Bij Gemini en Meta AI werd het volgens dat onderzoek juist makkelijker om nepbeelden rond de verkiezingen te maken. Meta AI lag eerder ook al onder vuur, zie ons stuk over de Braziliaanse verkiezingen.

NewsGuard: 16 van de 20 nepbeelden gemaakt

NewsGuard publiceerde op 23 oktober een audit van ChatGPT Images 2.5, de beeldgenerator die OpenAI op 8 september uitbracht. De onderzoekers vroegen met 20 prompts om compromitterende beelden van tien Democratische en tien Republikeinse kandidaten, telkens gebaseerd op valse claims die al rondgingen. De tool deed in 16 gevallen wat werd gevraagd (80 procent), weigerde drie keer en toonde één keer de verkeerde persoon.

Zo maakte ChatGPT een beeld van Iowa-senaatskandidaat Ashley Hinson met Jeffrey Epstein en een van Ken Paxton met influencer Nick Fuentes. Voor de Maine-kandidaat Troy Jackson genereerde de tool een zwarte man, terwijl Jackson wit is. NewsGuard telde dat verzonnen beelden voorkwamen in 23 procent van de 30 valse midterm-claims die het sinds februari volgt. Een OpenAI-woordvoerder wijst erop dat alle beelden een SynthID-watermerk dragen dat publiek te controleren is. Het is niet duidelijk of de prompts van NewsGuard onder de nieuwe cartoonregel zouden vallen.

Wat betekent dit

De cartoonregel is een slimme middenweg, omdat hij satire toestaat en tegelijk de geloofwaardigheid van een nepfoto aantast. Maar zolang een simpel vervolgverzoek soms toch een realistisch beeld oplevert, is het vooral een drempel. Watermerken helpen alleen als platforms en lezers ze ook echt controleren. OpenAI zet dat soort markeringen inmiddels breder in, ook in Europese teksten. Tegelijk wordt het herkennen van nepmateriaal lastiger: OpenAI en Meta gaven eerder al toe dat deepfakes in de rechtszaal nauwelijks te herkennen zijn.

Voor de midterms komt dit bovenop andere zorgen, zoals desinformatiecampagnes uit Rusland, Iran en China en chatbots die een politieke voorkeur lijken te hebben. Wie de komende week beelden van kandidaten of stembureaus ziet langskomen, doet er goed aan eerst naar de herkomst te kijken.