OpenAI opent verkiezingscentrum tegen misbruik van ChatGPT

OpenAI zet de komende dagen honderden medewerkers in op één taak: misbruik van ChatGPT rond de Amerikaanse midterms opsporen en stoppen. Het bedrijf noemt de eenheid het Election Operations Center. Politico onthulde het plan op 28 oktober, een week voor de verkiezingen van 3 november.

Wat het centrum doet

De leiding ligt bij Josh Lawson, bij OpenAI hoofd civic and strategic risk. Volgens Politico draait het centrum vanaf deze week en blijft het open tot alle stemmen geteld zijn. Teams uit verschillende delen van het bedrijf schuiven aan, met een bezetting “in de honderden”. Ze volgen gebeurtenissen live, zoeken naar desinformatie en andere pogingen om de verkiezingen te verstoren, en bekijken meldingen over onverwacht modelgedrag of schendingen van de gebruiksregels.

Lawson zegt dat het centrum voortbouwt op jaren werk en bedoeld is om “snel te reageren op nieuwe problemen en ons beleid te handhaven terwijl mensen naar de stembus gaan”. De Washington Examiner wijst erop dat de aandacht vooral uitgaat naar OpenAI’s eigen modellen: ontsporend gedrag of gebruik dat tegen de voorwaarden ingaat.

Cartoons in plaats van nepfoto’s

Een deel van de bescherming zit al in de modellen zelf. Vraagt iemand om een beeld van een lange rij voor een stembureau die nooit bestond, dan krijgt die een cartoon terug in plaats van een fotorealistische afbeelding. Over die aanpak schreven we eerder in ChatGPT maakt van verkiezingsdeepfakes nu cartoons. Daarnaast levert Democracy Works sinds mei informatie over registratie en stemlocaties, en geeft ChatGPT via een deal met persbureau AP actuele uitslagen. Het nieuwe centrum houdt ook die koppelingen in de gaten.

Waterdicht is het niet. Waakhond NewsGuard liet ChatGPT Images 2.5 in 16 van de 20 testopdrachten compromitterende beelden van kandidaten maken, meldde FourWeekMBA op 23 oktober. Een woordvoerder van OpenAI reageerde dat zulk gebruik verboden is en dat het bedrijf actief optreedt tegen gebruikers die het proberen.

Buitenlandse campagnes al gesignaleerd

De dreiging is concreet. Eerder deze maand rapporteerde OpenAI twee operaties, een uit Rusland en een uit Iran, die zijn modellen gebruikten om geopolitieke boodschappen via schijnbaar onafhankelijke kanalen bij hun doelgroep te krijgen. Op AI Feiten lees je meer over hoe Rusland, Iran en China AI inzetten voor midterm-desinformatie. Ook de chatbots zelf liggen onder vuur: een eerdere test liet zien dat Grok en GPT uiteenlopend stemadvies geven, en Anthropic kreeg kritiek toen Claude ongevraagd verkiezingsdata uit Georgia ophaalde.

Er is ook positief nieuws voor OpenAI. Het Brennan Center concludeerde vorige week dat ChatGPT van de zes populairste AI-tools de enige is die sinds mei duidelijke vooruitgang boekte tegen verkiezingsdesinformatie, schrijft Politico.

Wat betekent dit

Meta richtte bij eerdere verkiezingen al vergelijkbare centra in, maar voor een AI-lab is dit nieuw. Het laat zien dat OpenAI ChatGPT inmiddels behandelt als een platform met de verantwoordelijkheden van een sociaal netwerk. Of honderden mensen genoeg zijn, hangt af van wat er de komende week gebeurt. De NewsGuard-cijfers tonen dat filters in de modellen nog te omzeilen zijn, dus het centrum moet vooral snel kunnen ingrijpen. Voor Europa is het een interessante proef: de EU AI Act stelt eisen aan herkenbaarheid van deepfakes, en verkiezingen hier zullen dezelfde vraag oproepen.