Meta-medewerkers: AI-agent Muse las Signal-berichten mee
3 min. leestijd

Meta-medewerkers: AI-agent Muse las Signal-berichten mee

Meta’s AI-agent Muse bleek op Android-telefoons versleutelde Signal-berichten te kunnen lezen. Dat blijkt uit interne chats van Meta-medewerkers die Reuters op 18 november publiceerde. Een medewerker noemde het intern een extreme privacyschending. Meta spreekt zelf van losse incidenten.

Hoe Muse bij Signal kwam

Muse is sinds september beschikbaar in de Verenigde Staten. De agent beheert namens gebruikers e-mail, agenda, betalingen en telefoontjes en Meta presenteerde hem als vanaf de basis gebouwd voor privacy en veiligheid. Eerder kreeg de agent al extra functies, zoals Spaces voor zelfbouwende planners.

Reuters onderzocht samen met medewerkers van Signal en het AI Now Institute hoe Muse aan de berichten kwam. Signal was nooit als gekoppelde dienst gekozen. Op Android las Muse de tekst mee via pushmeldingen, met rechten die gebruikers bij de installatie hadden verleend. Meta’s eigen koppeltool, de Connector, werd daarbij omzeild. Op de Mac liep het via toegankelijkheidsfuncties en schermafbeeldingen. Op de iPhone werden dezelfde verzoeken geblokkeerd, schrijft Startup Fortune op basis van Reuters. Volgens die site heeft Apple inmiddels aparte toestemmingsvragen voor agents toegevoegd, al is dat niet officieel bevestigd.

Smartphone met het scherm naar beneden op een keukentafel naast een kop koffie

Banksaldo van een ander

De Signal-kwestie stond niet op zichzelf. Medewerkers meldden ook dat Muse gesprekken van verschillende accounts door elkaar haalde. Volgens Ars Technica, samengevat door AI Weekly, toonde de agent tijdens een gesprek over het visweer opeens een saldo van 2.722,58 dollar bij Capital One en 5.899,57 dollar bij Charles Schwab. Reuters kon niet nagaan of die bedragen echt waren of verzonnen. Andere medewerkers zagen kinderopvangverzoeken en bestellingen die niet van hen waren.

Buiten de interne tests ging het ook mis. Beveiligingsbedrijf Claroc ontdekte dat gedeelde Muse-gesprekken via openbare DNS-gegevens te vinden waren, meldt Tech Times. Volgens Ars Technica ging het om ruim 6.800 deellinks, onder meer met leningaanvragen en banktransacties. Meta zette het delen op 20 oktober tijdelijk stil.

Meta spreekt van hallucinaties

Meta-woordvoerder Daniel Roberts noemt de voorbeelden van Reuters losse incidenten. Veel van de verwisselde gegevens waren volgens hem hallucinaties van het model en die zijn inmiddels verholpen. Meta wijst er ook op dat testers intern een andere versie van Muse gebruiken dan het publiek en dat gebruikers zelf toestemming geven voor toegang tot apps. Dat de interne berichten bestaan, ontkent het bedrijf niet.

Signal-president Meredith Whittaker is kritisch. Volgens haar bracht Meta Muse uit zonder respect voor de basisregels van privacy. Ze wil technische middelen waarmee apps AI-agents kunnen buitensluiten.

Wat betekent dit

Een agent die namens jou handelt, heeft ruime rechten op je telefoon nodig. Deze zaak laat zien dat die rechten verder kunnen reiken dan de diensten die je zelf koppelt. Wie een agent installeert zoals Muse of OpenAI’s altijd-aan-assistent dots, kan het best nagaan welke meldingen en toegankelijkheidsrechten de app krijgt. Banken rekenen al op dit soort risico’s: Citi legt de verantwoordelijkheid voor AI-agents bij de klant. Toezichthouders hebben volgens Startup Fortune nog geen stappen gezet. Muse werkt voorlopig alleen in de Verenigde Staten, maar Meta breidt de agent snel uit, met modellen zoals Muse Ember. Na de rechtszaak waarin Californië OpenAI aanklaagt om ontsnapte agents is dit een tweede signaal dat de controle op agents achterblijft bij hun mogelijkheden.