Dragos: aanvallers stalen prompts bij drie AI-aanbieders
3 min. leestijd

Dragos: aanvallers stalen prompts bij drie AI-aanbieders

Beveiligingsbedrijf Dragos stuurde dit jaar bijna twee miljoen prompts met nepwachtwoorden en unieke links naar AI-diensten, om daarna te zien wie die geheimen zou gebruiken. Volgens het onderzoeksverslag van Dragos, dat op 19 november verscheen, gebeurde dat bij minstens drie aanbieders door een aanvaller van buiten. Geen van de drie had zelf door dat er was ingebroken.

Lokaas in twee miljoen prompts

Het onderzoek stond onder leiding van HD Moore, Chief Research Officer bij Dragos en vooral bekend als maker van het hackersgereedschap Metasploit. Van juli tot en met november 2026 stopte zijn team in elke prompt een eigen lokaas: een link, een AWS-sleutel of een inlogcode die geen enkel legitiem systeem ooit nodig zou hebben. Wie zo’n sleutel uitprobeert, verraadt zichzelf. De prompts gingen naar veelgebruikte AI-diensten, waaronder zogeheten routers en open inferentiemarktplaatsen waar verkopers op prijs met elkaar concurreren. Roept iemand een model aan via een router als OpenRouter, dan passeert zijn prompt soms meerdere partijen voordat een model ermee aan de slag gaat.

Beveiliger ordent netwerkkabels in een serverruimte

Honderden AWS-sleutels gestolen

De grootste inbraak vond eind oktober plaats. Gedurende een paar korte periodes werd elk verzoek dat Dragos naar één aanbieder stuurde gekopieerd, zelfs verzoeken die de aanbieder afwees voordat er een model aan te pas kwam. De aanvaller las dus al bij de voordeur mee. Met een paar honderd buitgemaakte AWS-sleutels voerde die tienduizenden aanroepen uit: S3-opslag doorzoeken, geheimen opvragen, Bedrock-modellen aanzetten en nieuwe gebruikers aanmaken. Op 1 november zette de aanvaller ook ARTEX in, het AI-hackgereedschap dat eerder deze week opdook bij de aanval op de Europese Commissie. Bij twee andere inbraken lijkt één en dezelfde aanvaller twee aanbieders tegelijk te hebben gekraakt, aldus Dragos: geheimen voor die twee werden vrijwel direct samen gebruikt vanaf één gehuurde server.

Verkopers lezen gewoon mee

Voor een tweede bevinding was helemaal geen inbraak nodig. Volgens Dragos konden meerdere verkopers op een inferentiemarktplaats klantprompts inzien en bewaren met standaard logfuncties. Het enige wat ze hoefden te doen: een model tegen de laagste prijs aanbieden, logging aanzetten en afwachten. Sommigen probeerden vervolgens vanaf een thuisverbinding in te loggen op de lokservers van Dragos. Privacy-instellingen zoals zero data retention worden volgens het verslag vaak genegeerd, of dat nu bewust gebeurt of door fouten in de verwerking. Dragos zag ook prompts die naar Amerikaanse aanbieders waren gestuurd terechtkomen bij Chinese AI-organisaties. Eén link dook op in een interne bedrijfschat in China.

Dragos noemt de getroffen aanbieders en verkopers niet bij naam. De claims zijn daardoor niet onafhankelijk te controleren en het betreft onderzoek van een beveiligingsbedrijf dat zelf diensten verkoopt.

Wat betekent dit

Roept iemand een AI-model aan via een goedkope tussenpartij, dan is vaak onduidelijk hoeveel partijen zijn prompt onder ogen krijgen. Elke tussenstap kan de volledige vraag en het antwoord lezen en een privacyvlag beschermt niets zodra een aanvaller al binnen zit. Dat is extra riskant nu AI-agents zelf met wachtwoorden en sleutels werken, zoals bleek bij de diefstal van AI-sleutels bij Railway en de gestolen Fireworks-sleutel bij Cursor. Dragos adviseert om direct bij de modelmaker af te nemen of zelf te hosten en om nepsleutels in de context van agents op te nemen. Gebruikt iemand zo’n sleutel, dan weet je dat er ergens gelekt is.