AI-agents van hackers vonden zelf lek in medische beeldsoftware
3 min. leestijd

AI-agents van hackers vonden zelf lek in medische beeldsoftware

AI-agents van een vermoedelijk Chinese aanvaller hebben zelfstandig een tot dan toe onbekend lek gevonden in MONAI Label, open-source software waarmee onderzoeksgroepen medische scans labelen. Dat meldt Amazon Threat Intelligence in een incidentrapport dat deze week uitkwam. Sinds vannacht is er een gepatchte versie, 0.8.6, die beheerders meteen moeten installeren.

Van verkenning tot root in twee stappen

Volgens het rapport van Amazon, samengevat door The Hacker News, duurde de aanval ongeveer 48 uur in september. De agents brachten de serverinterface in kaart en konden binnen zo’n 11 minuten bestanden op de machine wegschrijven. De operator gaf het doel (shell-toegang) en de doelwitten aan, maar de agents bepaalden zelf hoe ze daar kwamen.

Rootrechten volgden in een latere sessie. De agents plaatsten een Python-bestand dat automatisch bij het opstarten wordt geladen en startten daarna een trainingsjob. Dat nieuwe Python-proces laadde het bestand en maakte als root verbinding met de aanvaller. Eén universiteitsserver is zo zeker overgenomen. Bij een tweede universiteit met dezelfde software vermoedt Amazon hetzelfde, maar dat is niet bevestigd.

Beveiligingsspecialist typt op een toetsenbord voor een scherm met een netwerkgrafiek

Open controlepaneel verraadde de aanvaller

Dat Amazon het verloop zo precies kon reconstrueren, is te danken aan een fout van de aanvaller zelf. Die gebruikte Cairn, een open-source framework om AI-agents als geautomatiseerde pentesters te laten werken. Het controlepaneel daarvan stond zonder wachtwoord op internet, met taakinstellingen, prompts en de volledige geschiedenis van de runs. Op basis van prompts in vereenvoudigd Chinees, instellingen in China Standard Time en de gekozen doelwitten koppelt Amazon de campagne met gemiddelde zekerheid aan een actor met banden met China. Een bekende groep of betrokkenheid van een overheid is niet aangetoond. Bewijs dat patiëntgegevens zijn buitgemaakt is er ook niet.

Het patroon is bekend. Eerder deze week betrapte Google al een AI-agent die patches omzette in aanvallen en de aanval met hacktool ARTEX op de Europese Commissie liet zien hoe snel geautomatiseerde aanvallers tegenwoordig werken.

Lek zat in het uploaden van scans

Het probleem is een path traversal-lek met code CVE-2026-133968. Volgens de beveiligingsmelding van het MONAI-project controleerde de server bij het uploaden van beelden en labels niet of een bestandsnaam binnen de opslagmap bleef. Met een naam als ../../../tmp/x kon iemand overal schrijven waar het serverproces rechten had. Omdat inloggen standaard uit staat, kon in de standaardinstelling iedereen die de server via het netwerk kon bereiken het lek misbruiken. Alle versies tot en met 0.8.5 zijn kwetsbaar.

De ontwikkelaars voegden de reparatie al op 19 oktober toe aan de broncode, maar een installeerbare versie bleef lang uit. De vorige release op PyPI dateerde van oktober 2023. Pas in de nacht van 21 op 22 november verscheen versie 0.8.6, die het project zelf een beveiligingsrelease noemt. De release dicht ook een tweede path traversal-lek bij het uploaden van sessies.

Wat betekent dit

Voor ziekenhuizen en onderzoeksinstellingen die MONAI Label draaien is de boodschap helder: updaten naar 0.8.6, de server afschermen van het open internet, inloggen aanzetten en het proces onder een beperkt account draaien. Amazon raadt daarnaast aan te zoeken naar onverwachte Python-opstartbestanden en vreemde trainingsjobs.

Belangrijker is de les voor iedereen. Een lek in software met een kleine gebruikersgroep was aanvallers vroeger weinig interessant, omdat het speurwerk veel tijd kostte. Met agents die in minuten een interface doorlichten, valt die drempel weg. Daardoor wordt het gat tussen een fix in de broncode en een release die je kunt installeren gevaarlijker. Anthropic gaf makers al nog maar 30 dagen om lekken te dichten en ook de snelle vondst van het Java-lek Java4Shell wees al in die richting. Bij MONAI Label zat er ruim vier weken tussen de fix en de release.