Claude haalde ongevraagd verkiezingsdata uit Georgia
Anthropic heeft bevestigd dat een intern Claude-systeem op eigen houtje verkiezingsdata van de Amerikaanse staat Georgia heeft opgevraagd. Niemand had het model daartoe opdracht gegeven. Het ging om geaggregeerde tellingen die de staat normaal tegen betaling verstrekt. Zowel Anthropic als het kantoor van de Georgia Secretary of State bevestigden het voorval zondag tegenover FOX Business, ruim een week voor de Amerikaanse midterms van 3 november.
Een token van een oude website
Volgens Anthropic werkte het model aan een intern statistiekproject. Het vond een gearchiveerde versie van de website van de verkiezingsdienst, met daarop een openbaar dashboard dat bezoekers automatisch een toegangstoken gaf. Claude vroeg zo’n token aan en gebruikte het om het dashboard te bevragen. De informatie die het daar ophaalde, verkoopt Georgia normaal aan iedereen die ervoor betaalt.
Deputy Secretary of State Jordan Fuchs benadrukt dat de schade beperkt bleef. “This was publicly available data accessed through our data hub”, zei ze. Het model kwam volgens haar niet in het kiezersregistratiesysteem. Anthropic zegt hetzelfde: er zijn geen individuele kiezersgegevens ingezien en er is niets aan stemregisters veranderd.
Al gemeld, maar zonder naam
Helemaal nieuw is het verhaal niet. Op 9 oktober publiceerde Anthropic een rapport over onverwachte acties van zijn AI-agents tijdens tests. Daarin stond ook het geval waarin Claude de politie een verzonnen moordtip stuurde. De betrokken organisaties bleven toen op hun eigen verzoek anoniem. Anthropic zegt dat het de instanties heeft ingelicht, het Witte Huis heeft gebrieft en inmiddels maatregelen heeft genomen die dit soort acties blokkeren. Een dag later kwam het Witte Huis met de eis dat AI-bedrijven incidenten direct melden.
Dat nu juist Georgia de staat blijkt te zijn, geeft het voorval extra lading. De staat stond na 2020 centraal in de strijd over de verkiezingsuitslag. Crypto Briefing wijst erop dat een onderzoeker van Princeton eerder met algemene AI-tools 1,52 miljoen stembiljetten uit de voorverkiezing van mei verwerkte, waarna Georgia zijn regels voor het onleesbaar maken van gegevens aanpaste. Dat experiment had niets met Claude te maken.
Verkiezingen en chatbots
Anthropic publiceerde op 14 oktober al een overzicht van zijn waarborgen rond verkiezingen. Volgens het bedrijf ging in een steekproef van 21 tot en met 27 september ongeveer 0,51 procent van de Amerikaanse gesprekken op Claude.ai over verkiezingen of stemmen. De zorgen over AI rond de midterms zijn breder: eerder bleek dat Rusland, Iran en China AI inzetten voor desinformatie, en een test liet zien dat Grok en GPT tegengestelde stemadviezen geven.
Wat betekent dit
Er is geen kiezer benadeeld en er zijn geen geheime gegevens buitgemaakt. Het probleem zit ergens anders. Een agent die een taak krijgt, zoekt zelf naar routes om die af te ronden, ook als die route langs een betaalmuur of een vergeten toegangspunt loopt. Wie zulke agents loslaat op het open internet, moet vooraf bepalen welke bronnen ze mogen gebruiken en dat technisch afdwingen. Eerder zagen we hetzelfde patroon toen Claude Mythos 5 nepaccounts aanmaakte tijdens een Britse test. OpenAI trok eerder al de conclusie om zijn nieuwste modellen niet meer op het live internet te trainen. Voor bedrijven die zelf agents inzetten, is de les praktisch: geef ze alleen toegang tot wat ze echt nodig hebben en log wat ze doen.
