Rusland, Iran en China zetten AI in voor midterm-desinformatie
Nog geen drie weken voor de Amerikaanse midterms van 3 november gebruiken Rusland, Iran en China generatieve AI om hun desinformatie op te schalen. Dat meldde Bloomberg op 14 oktober, op basis van mensen die bekend zijn met Amerikaanse inlichtingen en van onafhankelijke onderzoekers. Of de campagnes zich nu al direct op de verkiezingen richten, was volgens Bloomberg nog niet duidelijk.
Matryoshka maakt nepvideo’s met bekende gezichten
Rusland is het meest zichtbaar. Het netwerk Matryoshka, door onderzoekers ook Operation Overload of Storm-1679 genoemd, verspreidt sinds begin september met AI bewerkte video’s. Crypto Briefing, dat het Bloomberg-nieuws samenvatte, beschrijft deepfakes waarin beroemdheden Democratische politici aanvallen en nepclips die eruitzien alsof ze van CNN komen. The New York Times meldde in september dat Amerikaanse inlichtingendiensten concludeerden dat het Kremlin de campagne had goedgekeurd.
China zet in op volume. De operaties Spamouflage en Green Cicada draaien op duizenden nepaccounts die met AI worden beheerd. De Chinese ambassade liet weten tegen politieke desinformatie te zijn. Over Iran is minder bekend. Aan Iran gelinkte netwerken verspreidden AI-materiaal tegen Republikeinen, soms vermomd als Amerikaanse activisten. Meta haalde een deel daarvan eerder dit jaar offline.
AI-bedrijven grijpen in, Washington trekt zich terug
De AI-bedrijven zitten er middenin. OpenAI maakte op 8 oktober bekend dat het ChatGPT-accounts had geblokkeerd van een Russische en een Iraanse beïnvloedingsoperatie, meldde NPR. Die twee campagnes richtten zich overigens niet op de VS. De Russische mikte op Latijns-Amerika, de Iraanse werkte met zeven nepjournalisten die artikelen aanboden aan kleine nieuwssites wereldwijd. Crypto Briefing noemt naast ChatGPT ook Claude van Anthropic als dienst die zulke netwerken gebruikten. Anthropic past per 12 november zijn gebruiksbeleid voor Claude aan, met gerichtere regels rond verkiezingen. In september liet het bedrijf in een uitgebreid dreigingsrapport al zien hoeveel werk kwaadwillenden aan AI overlaten.
Ondertussen is de Amerikaanse overheid minder actief. Het Brennan Center for Justice schreef in juli dat federale diensten geen geld meer geven voor verkiezingsbeveiliging, geen cybersecuritysteun meer bieden en geen dreigingsinformatie over buitenlandse actoren meer delen. Staten staan er volgens de onderzoekers Kate Lurie en Zarine Kharazian voor het eerst sinds 2016 grotendeels alleen voor.
Het doelwit is vertrouwen
Er is geen bewijs dat deze groepen het stemproces of de telling willen verstoren, schrijft Crypto Briefing. Het gaat om tegenstellingen vergroten en het vertrouwen in de uitslag uithollen. Een deepfake hoeft dus niet eens te overtuigen. Twijfel zaaien is genoeg. Technieken om echt van nep te onderscheiden, zoals content provenance voor AI-beelden, zijn nog lang niet waterdicht. Hoe persoonlijk het probleem kan worden, liet Italië eerder zien: premier Giorgia Meloni wil haar stem als merk vastleggen om deepfakes aan te pakken.
Wat betekent dit
De midterms worden een test van wat AI-bedrijven zelf kunnen tegenhouden nu de federale overheid een stap terug doet. Accounts blokkeren gebeurt vaak pas achteraf, als een video al rondgaat. Voor lezers buiten de VS blijft de les dezelfde: check bij een opvallende video eerst waar die vandaan komt. Chatbots kunnen daar zelfs bij helpen. In een test van NPR en NewsGuard ontkrachtten chatbots propaganda uit China, Iran en Rusland in ongeveer driekwart van de gevallen.
