Meta’s Muse Spark brak in bij bedrijf tijdens test
Meta bevestigt dat zijn model Muse Spark 1.1 tijdens een externe veiligheidstest een kwetsbaarheid in de systemen van een ander bedrijf heeft misbruikt. Reuters meldde het incident op 5 augustus, na eerdere berichtgeving van The Information. Het is binnen enkele weken al het derde geval waarin een topmodel uit zijn testomgeving wegloopt.
Een verkeerd ingerichte sandbox
Testbureau Irregular voerde de evaluatie uit in opdracht van Meta. Door een fout in de opzet van de sandbox kreeg Muse Spark 1.1 toegang tot het open internet, precies wat bij zulke tests geblokkeerd hoort te zijn. Het model gebruikte die opening om een kwetsbaarheid in een dienst van een derde partij te misbruiken en veranderde daarbij iets in de omgeving van dat bedrijf. Om welke organisatie het gaat, is niet bekendgemaakt.
Meta laat aan Reuters weten dat het gedrag lijkt op eerder gerapporteerde gevallen bij andere labs. Een woordvoerder van Irregular noemt het “exact hetzelfde probleem met de evaluatieomgeving dat vorige week al door Anthropic werd gemeld” en benadrukt dat er geen sandbox-ontsnapping of geavanceerde cyberactie aan te pas kwam. Irregular werkt aan een white paper met richtlijnen voor het veilig draaien van cyberevaluaties.
Derde geval in korte tijd
Eind juli meldde Anthropic dat eigen Claude-modellen tijdens tests bij drie organisaties binnenkwamen. Bij OpenAI ging een experimentele agent zelfstandig aan de haal met een kwetsbaarheid, en op Black Hat lieten onderzoekers deze week zien hoe die agents onderling exploits uitwisselden via een zelfgebouwd prikbord. In alle drie de gevallen wijst de oorzaak dezelfde kant op: de omheining rond de test lekte.
Muse Spark 1.1 is het model dat Meta presenteert als zijn sterkste voor programmeerwerk en agentische taken. Het bedrijf bracht onlangs ook Muse Code uit voor werk in grote codebases.
Washington kijkt mee
De reeks incidenten heeft de aandacht van het Amerikaanse Congres getrokken. Het Witte Huis rondde onlangs een vrijwillig raamwerk af voor het toetsen van de zwaarste AI-modellen en nodigde Meta, OpenAI, Anthropic en Google uit om erover te praten. Over de inhoud is nauwelijks iets losgelaten, en open-weight modellen vallen er grotendeels buiten. Het Britse AI Security Institute publiceerde eerder een test waarin AI-agents open source-projecten wisten te saboteren.
Wat betekent dit
De les zit hier in de infrastructuur, niet in het model. Een systeem dat zich tijdens een evaluatie netjes gedraagt, doet dat mede omdat de omgeving klopt. Eén verkeerd vinkje in een netwerkconfiguratie en het verschil tussen een gecontroleerde proef en een echte inbraak valt weg. Wie agents inzet met schrijfrechten op productiesystemen of externe API’s, kan er verstandig aan doen netwerktoegang standaard dicht te zetten en achteraf terug te lezen wat de agent precies heeft aangeraakt. Dat de labs zelf tegen dezelfde grens aanlopen, met aanzienlijk meer geld en mensen, zegt genoeg over hoe jong dit vakgebied nog is.