Grok Build-apps lekten interne data van SpaceXSI en X

Tienduizenden apps die gebruikers met Grok Build hebben gemaakt, staan open voor iedereen die de link kent. Dat meldt beveiligingsbedrijf Claroc in een rapport van 10 november. Onder die apps zaten 24 interne toepassingen van medewerkers van SpaceXSI (het vroegere xAI) en X, met vertrouwelijke verkoopplannen en advertentiecijfers. Ars Technica en TeslaNorth berichtten over de bevindingen.

35.578 apps zonder inlog

Met Grok Build kun je vanuit een chatvenster een webapp laten bouwen en die meteen publiceren op een adres onder grok.me. Claroc verzamelde via gangbare subdomeinzoektechnieken ruim 43.600 van die adressen. Van de 37.571 apps die nog online waren, openden er 35.578 (94,7 procent) zonder dat er een wachtwoord of inlog nodig was.

Het gros daarvan is onschuldig: spelletjes, rekenhulpen en simpele websites. Claroc schat wél dat 650 tot 800 apps privégegevens bevatten. Onder de voorbeelden die het bedrijf noemt: een personeelsapp van een ziekenhuisgroep met een doorzoekbare lijst van ruim 3.500 medewerkers, een briefing over één patiënt op de intensive care met labuitslagen en een urenregistratie waarvan de code 18 accounts met leesbare wachtwoorden bevatte. De onderzoekers vonden interne data van 30 herkenbare organisaties, onder wie zes Fortune 500-bedrijven. Welke dat zijn, maakt Claroc niet bekend.

Verkoopkaart en advertentieplannen van X

Pijnlijk voor SpaceXSI zelf: 24 open apps waren gebouwd door eigen personeel en dat van X. Claroc trof onder meer een als vertrouwelijk gemarkeerd inwerkplan voor enterprise-verkopers aan, een kaart met 594 strategische klantaccounts en acht advertentievoorstellen van X, waarvan één aan een Amerikaanse federale overheidsinstantie. Ook stonden er dashboards van adverteerders met campagnebestedingen online. Claroc meldde de eerste vondsten op 8 november bij SpaceXSI en op 10 november werden de 24 apps offline gehaald. Apps van andere gebruikers bleven staan.

Het lek zit volgens Claroc in de standaardinstelling. Na het klikken op publiceren stond de toegang in het onderzochte account op Anyone with the link, zonder waarschuwing. Omdat elke app een eigen subdomein krijgt, duiken de adressen op in openbare DNS-gegevens en zijn ze met één zoekopdracht te vinden. SpaceXSI liet aan een verslaggever weten dat apps privé zijn tot de maker ze deelt en dat medewerkersaccounts standaard op Only you staan. Claroc wijst erop dat die 24 apps van personeel desondanks openstonden.

Niet het eerste privacyprobleem

Grok Build lag eerder onder vuur. In juli ontdekte onderzoeksbureau Cereblab dat de codeeragent complete repositories, inclusief Git-geschiedenis, naar de servers van het bedrijf stuurde, meldde GIGAZINE. Dat werd daarna aangepast. Ook bij andere tools gaat het mis: zo zette Claude Code duizenden wachtwoorden op GitHub en vonden onderzoekers eerder lekken in sandboxes van codeeragenten. Bij OpenAI ging het mis met een lek dat Lockdown Mode van ChatGPT omzeilde.

Wat betekent dit

AI-appbouwers maken het makkelijk om in een paar minuten een interne tool online te zetten, buiten de IT-afdeling om. Claroc vraagt SpaceXSI om Only you overal de standaard te maken en te waarschuwen wanneer een app met een database geen inlog heeft. Organisaties raadt het aan na te gaan welke AI-bouwers hun medewerkers gebruiken en apps met interne gegevens te testen in een incognitovenster. Wie Grok gebruikt, kan ook lezen hoe xAI eerder een onzichtbaar watermerk op Grok-tekst invoerde. Voor bedrijven is de les simpel: een app die je in een chat bouwt, is pas privé als je dat zelf controleert.