Bank of America zet 1.000 extra mensen op lekken die Mythos vond
Bank of America heeft in het tweede kwartaal ongeveer 1.000 externe contractors binnengehaald om softwarefouten te dichten die AI-modellen in zijn systemen hadden gevonden. Topman Brian Moynihan vertelde dat op 14 oktober aan CNBC, na de publicatie van de kwartaalcijfers. Hij noemde daarbij met name Mythos van Anthropic als een van de modellen die de zwakke plekken blootlegden. De contractors werken naast ongeveer 3.000 eigen medewerkers die al met dit werk bezig waren.
Wat Moynihan precies zei
“We hebben in het tweede kwartaal 1.000 contractors aangenomen om ons te helpen met het patchwerk”, zei Moynihan in het gesprek met CNBC-presentator Leslie Picker. Die mensen zijn er nog steeds. Volgens The Next Web lichtte hij toe dat de contractors als consultants zijn ingehuurd en daarom niet in het personeelsbestand meetellen. De fouten zaten in code van de bank zelf en in software van externe leveranciers.
Op de analistencall sprak Moynihan van “een paar honderd miljoen dollar plus” aan kosten in het derde kwartaal. Dat bedrag dekt twee dingen tegelijk: het herstelwerk na de AI-scans en reparaties aan de controles tegen witwassen. Een los bedrag voor het patchen gaf hij niet. Wel verwacht hij dat dit deel van de kosten daalt nu de extra mensen aan boord zijn. “Dat risico is een echt risico”, zei hij over de komst van frontier-modellen.
Van Project Glasswing tot 4.000 man herstelwerk
Anthropic stelde Mythos in april alleen beschikbaar aan een kleine groep bedrijven, banken en overheden via Project Glasswing. Het idee: kwetsbaarheden vinden en dichten voordat aanvallers ze gebruiken. Later opende Anthropic Mythos voor meer beveiligers. Volgens The Next Web pauzeerden Amerikaanse toezichthouders ongeveer een maand na de start van Glasswing een deel van hun cyberonderzoeken, zodat de grootste banken konden fixen wat het model had gevonden.
Bank of America is daarmee een van de eerste grote Amerikaanse bedrijven die concreet zegt hoeveel mensen het op dit werk heeft gezet, schrijft The Decoder. JPMorgan-topman Jamie Dimon zei in mei al dat zijn bank honderden mensen fulltime aan hetzelfde probleem had. Eerder bleek al dat AI duizenden kwetsbaarheden vindt die zelden worden misbruikt. De rekening voor het opruimen ligt nu bij de bedrijven die de software draaien.
Slechte week voor de bank
De timing hielp niet. De omzet over het derde kwartaal steeg volgens The Next Web met ongeveer 3 procent tot bijna 30 miljard dollar, maar de aangepaste winst van 1,08 dollar per aandeel bleef onder de verwachting van analisten. Het aandeel sloot bijna 5 procent lager. Een dag eerder, op 13 oktober, had het Amerikaanse ministerie van Financiën de bank al boetes van ruim 1,21 miljard dollar opgelegd omdat ze verdachte transacties ter waarde van 5 miljard dollar niet had gemeld.
De druk komt ook van buiten de VS. Amerikaanse en Europese toezichthouders stellen banken vragen over AI-agents en cyberrisico’s. De Europese Centrale Bank wil dat banken eind oktober een plan hebben tegen dreigingen waarbij AI een rol speelt. Dat past bij de bredere lijn waarin ook cloudleveranciers onder bankentoezicht komen.
Wat betekent dit
Modellen als Mythos vinden fouten sneller dan organisaties ze kunnen repareren. Dat zie je terug in de cijfers van Bank of America: 4.000 mensen en honderden miljoenen dollars, en dan nog alleen voor het deel dat de bank zelf beheert. Deze week vroegen ruim 480 wetenschappers om hackende AI-modellen offline te houden tijdens de eerste tests. De ervaring van Bank of America laat de andere kant zien. Zelfs met gecontroleerde toegang via Glasswing is het herstelwerk zo groot dat het de kwartaalcijfers raakt. Voor Nederlandse banken en hun leveranciers is dit een voorproefje: de ECB-deadline van eind oktober is geen papieren oefening meer.
