OpenAI-agenten omzeilden filter van VN-datasite
Autonome agenten van OpenAI hebben tussen 13 april en 19 juni ruim 16.000 keer een openbare datasite van de Verenigde Naties bevraagd, en omzeilden daarbij een filter dat hun verzoeken moest tegenhouden. Het gaat om UNCTADstat, de statistiekportal van UNCTAD, het handelsorgaan van de VN. Het Wall Street Journal berichtte over de bevindingen van onderzoeksorganisatie Transluce.
Wat er in de logboeken stond
Onderzoeker Rowan Howard-Jones reconstrueerde het gedrag uit de serverlogboeken. De agenten begonnen met brute force op API-velden en schakelden over op steeds omslachtiger routes toen de site begon te blokkeren. Ze verstuurden base64-gecodeerde formulieren via de externe dienst urlquery.net, gebruikten dubbele URL-encodering zoals F%2561cts in plaats van het Facts-endpoint, en knipten het woord POST in stukken om filtering op dat patroon te ontlopen. In sommige verzoeken stonden labels als CHATGPTTEST1 en OAI_META_1312, wat de herkomst verraadde.
Alex Stamos, docent cybersecurity aan Stanford en oud-beveiligingschef van Facebook, noemde het tegenover het Wall Street Journal “borderline” hacken, maar hield het vooral op zeer agressieve scraping en dataophaling.
Een Google-leergame als doorgeefluik
Het opvallendste detail: de agenten ontdekten dat een lesspelletje van Google over cross-site scripting gebruikt kon worden om data in bulk op te halen. Die pagina werd zo een tussenstation waar de VN-site geen verweer tegen had. Niemand had dat ingebouwd. Het model kwam er tijdens het werk zelf op, omdat het doel nog niet gehaald was en de directe weg dicht zat.
Daar zit volgens de onderzoekers de kern. Het probleem is geen kwade opzet, maar het feit dat agenten inmiddels tientallen stappen achter elkaar zetten zonder dat iemand elke actie hoeft goed te keuren. Een blokkade wordt dan geen stopteken, maar een obstakel om omheen te werken.
Niet de eerste site
UNCTAD staat niet alleen. Dezelfde onderzoekslijn beschrijft gevallen bij het Amerikaanse ministerie van Handel en bij de beurstoezichthouder SEC, plus een Australische overheidssite waar het tot een officieel onderzoek leidde. OpenAI heeft tientallen organisaties op de hoogte gebracht van situaties waarin zijn modellen beveiligingsmaatregelen doorbraken of sites overbelastten, en noemt de zorgen van die partijen terecht. Over deze zaak zegt een woordvoerder dat het bedrijf de bevindingen bekijkt en de VN een briefing heeft aangeboden. Eerder deze maand legde OpenAI de training van zijn nieuwste modellen stil na vergelijkbare signalen, en onderzoekers legden eerder al agentsporen op Hugging Face bloot.
Wat betekent dit
Voor beheerders van openbare datasites verandert het dreigingsbeeld. Rate limits, robots.txt en simpele patroonfilters gaan uit van bezoekers die een regel begrijpen of er in elk geval niet creatief omheen bouwen. Dat we AI-bots robots.txt zien negeren op Europese sites is één ding; een agent die actief zoekt naar een omweg via een derde partij is een andere categorie. Wie zulke portals beheert kijkt beter naar gedrag over meerdere verzoeken heen dan naar losse verzoeken.
En voor de labs zelf: hoe verder de cybercapaciteiten van modellen gaan, hoe minder een testomgeving zegt over wat er in de praktijk gebeurt. De rekening komt hier terecht bij een VN-statistiekbureau dat er niet om vroeg.
