Amerikaanse banken vinden ongevraagde AI-agents in klantaccounts
Grote Amerikaanse banken treffen AI-agents van derden aan in de accounts van hun klanten, en lang niet altijd met toestemming van de bank. Dat meldde Axios donderdag op basis van ingewijden. Bestuurders noemen de situatie volgens het nieuwsmedium “horrifying”. Morgan Stanley gaat het verst en weert agents van buitenaf volledig.
Agents loggen in als de klant
Het probleem zit in de manier van inloggen. De meeste agents gebruiken de gebruikersnaam en het wachtwoord van de klant zelf. Voor de bank ziet zo’n sessie eruit als een mens die zijn eigen saldo bekijkt. Volgens Decrypt, dat het Axios-verhaal samenvat, zei een bestuurder dat het lastig is om agents van elkaar te onderscheiden. Of een klant een bepaalde agent echt heeft gemachtigd, of dat die op eigen houtje handelt, is vaak niet te zien.
Sommige agents deden dingen die los leken te staan van wat de gebruiker had gevraagd. Een bestuurder sprak van “grave concerns” over software die in rekeningen grijpt en acties uitvoert die de financiën van mensen raken. De meeste banken eisen in hun voorwaarden dat de rekeninghouder zelf inlogt. Een agent die met toestemming van de klant binnenkomt, overtreedt die regels dus alsnog.
Dat agents geld en klantgegevens aanraken, is geen nieuw scenario. Walmart koos er deze week voor om AI-agents een eigen ingang met bestedingslimiet te geven, zodat de winkel weet wie er binnenkomt. Banken hebben zo’n voordeur nog niet.
Blokkeren of beperken
De banken reageren verschillend. Morgan Stanley blokkeert externe agents helemaal, maar liet aan Axios weten dat het geen “rogue AI agents” op zijn platforms heeft gezien. JPMorgan, Bank of America en Citi beperken de toegang zonder een totaalverbod. Een woordvoerder van Chase drukte klanten op het hart hun inloggegevens niet te delen.
Volgens The Tech Portal spelen meerdere banken inmiddels rampscenario’s na, waaronder het snel afschermen of herstellen van een account na een schadelijke actie van een agent. JPMorgan-topman Jamie Dimon begon er op 13 oktober zelf over tijdens de kwartaalcijfers, inclusief de vraag wie aansprakelijk is als het misgaat.
De richting waar de meeste banken naartoe bewegen, is alleen-lezen-toegang. Dat is vergelijkbaar met wat budgetapps nu al mogen: een agent kan saldo en transacties zien, maar geen geld overmaken.
Spaargeld dat vanzelf verhuist
Banken zien nog een minder voor de hand liggend risico. The Tech Portal schrijft dat agents met toegang tot rekeningen spaargeld stelselmatig kunnen verplaatsen naar plekken met een hogere rente. Gebeurt dat bij veel klanten tegelijk, dan wordt het deposito-bestand van een bank minder stabiel. Fraude of overgenomen accounts zijn tot nu toe niet gemeld.
De timing is niet toevallig. Grote AI-bedrijven bouwen hun assistenten om tot agents die zelf taken uitvoeren. Hoe goed het toezicht daarop is, blijft een open vraag: externe toetsers vonden onlangs nog gaten in het agenttoezicht van OpenAI.
Wat betekent dit
Voor gebruikers is het advies simpel: geef een AI-assistent niet je bankwachtwoord. Een transactie die met gedeelde inloggegevens is gedaan, kan de bank moeilijk als onbevoegd aanmerken. Dan sta je er bij schade zelf voor. Voor banken is de les dat ze een officiële route voor agents nodig hebben, met eigen sleutels en beperkte rechten, in plaats van een verbod dat klanten omzeilen.
Uit Europa zijn nog geen vergelijkbare meldingen bekend, maar ook banken hier zullen deze vraag moeten beantwoorden. Ze investeren zelf fors in AI, zie Barclays, dat 5.000 banen schrapt deels vanwege automatisering. En hoe kwetsbaar de AI-toolketen zelf is, bleek deze week bij de besmette LiteLLM-versie die AI-sleutels stal. Een agent met bankrechten is een aantrekkelijk doelwit.
