Fireworks AI opnieuw gehackt: klantdata en modelgewichten ingezien

Het Amerikaanse AI-bedrijf Fireworks AI is binnen korte tijd voor de tweede keer gehackt. In een bijgewerkte melding van 9 november bevestigt het bedrijf dat aanvallers mee hebben gekeken naar factuurgegevens van klanten. Bij een deel van hen ging het daarnaast om datasets en stukken van modelgewichten die nog niet af waren. Bloomberg meldde als eerste dat het om tienduizenden bestanden gaat.

Twee inbraken in drie weken

De eerste inbraak ontdekte Fireworks op 6 oktober. Iemand gebruikte toen interne inloggegevens om informatie van een klein aantal klantaccounts te bekijken. Volgens Cyber Security News kreeg de aanvaller daarbij toegang tot omgevingsvariabelen van evaluatietaken. Daarin staan vaak API-sleutels en tokens. Een dag later lichtte Fireworks klanten in.

De tweede aanval verliep via een externe cloudleverancier die de ontwikkelmachines van Fireworks host. Die leverancier kreeg op 23 oktober zelf te maken met een beveiligingsincident. Een dag later gebruikte een onbekende partij die opening om bij de ontwikkelmachines van Fireworks te komen en er een eigen workload te draaien. Fireworks zegt dat het die inbraak dezelfde dag ontdekte en dat er sinds 25 oktober geen geslaagde toegang tot het klantplatform meer is waargenomen. Hoe de cloudleverancier heet, is niet bekendgemaakt.

Wat de aanvallers zagen

Het gaat om factuur- en verzendadressen, facturen, betaalgeschiedenis, saldo’s en het verbruik van tegoed. Creditcardnummers zijn volgens Fireworks niet gelekt, omdat het bedrijf die niet opslaat. De diensten Inference, Training SDK en Nexus zijn volgens het bedrijf niet geraakt. Die bewaren standaard geen klantdata. Of complete productiemodellen zijn gestolen, is niet vastgesteld.

De gevolgen zijn wel merkbaar. Volgens The Neuron, dat zich op Forbes baseert, zijn twee klanten na de incidenten vertrokken. Fireworks werkt voor meer dan 10.000 bedrijven, waaronder Notion en Cursor, meldt het Oekraïense persbureau UNN op basis van Bloomberg. Het bedrijf, met NVIDIA en AMD als investeerders, werd in juli nog gewaardeerd op 17,5 miljard dollar. Toen haalde Fireworks 1,5 miljard dollar op voor goedkope inferentie. Volgens Bloomberg lopen er gesprekken over een nieuwe ronde tegen een waardering van 30 tot 40 miljard dollar.

Doelwit: doorverkoop van AI-toegang

Fireworks wijst een financieel gedreven criminele groep aan die gestolen toegang tot taalmodellen wil doorverkopen via illegale gateways. Dat heet LLMjacking. Klanten draaien in zo’n geval op voor de rekening van andermans gebruik. Eerder kaapten criminelen op die manier al open Ollama-servers voor hun eigen hacktool. Ook de besmette versie van LiteLLM die AI-sleutels stal paste in dat patroon.

Fireworks heeft justitie ingeschakeld en laat Unit 42 van Palo Alto Networks forensisch onderzoek doen. Het bedrijf vervangt inloggegevens, beperkt rechten en heeft de zelfbediening voor het uploaden en downloaden van datasets bij Batch Inference en training tijdelijk uitgezet.

Wat betekent dit

Voor klanten van Fireworks is het advies concreet: vervang ingetrokken sleutels, laat sleutels van andere diensten die in de omgeving stonden opnieuw uitgeven en controleer logboeken, gebruikers en trainingstaken. Een opgeslagen geheim verwijderen maakt de onderliggende sleutel namelijk niet ongeldig. Breder laat de zaak zien dat AI-platforms een aantrekkelijk doelwit zijn, omdat API-toegang direct geld waard is. Na de hack bij Chainalysis en het lek bij Cloudflare is dit alweer een incident dit najaar. Wie AI-diensten van derden gebruikt, doet er verstandig aan sleutels kort geldig te houden en het verbruik in de gaten te houden.