Google betrapt AI-agent die patches zelf omzet in aanvallen
3 min. leestijd

Google betrapt AI-agent die patches zelf omzet in aanvallen

Google heeft voor het eerst aanvallers betrapt die het hele traject van het zoeken van een kwetsbaarheid tot het inbreken aan AI overlaten, zonder dat er nog een mens aan te pas komt. Dat schrijft de Google Threat Intelligence Group (GTIG) in een nieuw kwartaalrapport over misbruik van AI, dat op 16 november verscheen. Het framework heet exploit_agent.

Wat exploit_agent doet

GTIG stuitte op een slecht beveiligde testserver van een aanvaller. Daarop draaide een systeem met meerdere AI-agents dat volgens het rapport van Google continu de code van populaire webapplicaties vergelijkt van vóór en na een beveiligingsupdate. Komt er een waarschijnlijk lek naar voren, dan schrijft het systeem zelf een exploit en voert die meteen uit. Het framework werkt met meerdere grote taalmodellen, zowel commerciële als lokaal gedraaide exemplaren. Welke modellen dat precies zijn, zegt Google er niet bij.

Op dezelfde server troffen de onderzoekers buitgemaakte gegevens van slachtoffers aan, plus scripts om wachtwoorden te raden en webshells te plaatsen. Er stonden ook tools bij om webshells van concurrerende aanvallers te verwijderen. Uit de slachtoffersgegevens leidt GTIG af dat de aanvaller vooral Franse websites van media, entertainment en onderwijs op het oog had. Een configuratiebestand bevatte commentaar in het Russisch. Een van de voorbeelden in het rapport laat zien hoe het systeem de toegangscontrole van een WordPress-plugin analyseerde.

Technicus loopt met laptop door een serverruimte

Van uitzondering naar werkwijze

Het verschil met twee maanden geleden is groot. In de vorige editie schreef GTIG nog dat het geen volledig autonome aanvalsketens tegen echte doelwitten had waargenomen, meldt SiliconANGLE. Google denkt dat aanvallers het efficiënter vinden om bekende, net gepatchte lekken te misbruiken dan zelf op zoek te gaan naar onbekende zero-days.

Het rapport noemt meer voorbeelden. Zo werd het open source framework CAIRN ingezet bij inbraken in onder meer de Amerikaanse lucht- en ruimtevaartsector. Een andere groep scande van eind augustus tot begin oktober met een aangepaste versie van PentAGI organisaties in Azië. Bij twee lekken in printbeheersoftware van PaperCut hadden onderzoekers van onder andere Huntress binnen een dag na de bekendmaking al werkende exploits, gemaakt met taalmodellen. GreyNoise zag vier dagen later een campagne tegen honderden organisaties.

Ook ontwikkelaarstools zijn een doelwit. Een vermoedelijk Noord-Koreaanse groep wijzigde bij een slachtoffer de instellingen van Claude Code, waardoor elke start van die tool een backdoor binnenhaalde. Eerder schreven we al over Claude Code dat wachtwoorden en sleutels op GitHub zette en over Noord-Koreaanse hackers die AI overal inzetten.

Wat betekent dit

De tijd tussen een beveiligingsupdate en de eerste aanval wordt steeds korter. The Next Web vat het rapport samen met de conclusie dat de patch zelf de routekaart voor de aanvaller is geworden. Wie updates een paar weken laat liggen, loopt daardoor meer risico dan vroeger. GTIG schrijft dat de huidige tools nog veel lawaai maken en daardoor op te sporen zijn, maar verwacht dat ze onopvallender worden.

Verdedigers zetten dezelfde technieken in. Zo vonden agents van OpenAI 948 rootlekken in de Linux-kernel en zagen we eerder hoe criminelen AI-agents voor minder dan 1.500 dollar laten hacken. Voorlopig heeft wie het snelst patcht de beste kaarten in handen. Google heeft de accounts geblokkeerd die bij misbruik van Gemini betrokken waren.