Californië dagvaardt OpenAI na hack van Hugging Face

Procureur-generaal Rob Bonta van Californië heeft OpenAI op 1 oktober een onderzoeksdagvaarding gestuurd. Zijn kantoor wil inzage in cyberincidenten rond de modellen van het bedrijf. Directe aanleiding is de inbraak bij Hugging Face die vorige maand naar buiten kwam. Volgens het persbericht van het Office of the Attorney General gaat het om de vraag of OpenAI zich aan de Californische wetten voor consumentenbescherming, databeveiliging en privacy heeft gehouden.

Wat de toezichthouder wil weten

“Bedrijven die deze modellen ontwikkelen hebben een morele en wettelijke verantwoordelijkheid om te zorgen dat ze geen cyberaanvallen uitvoeren of mogelijk maken”, zei Bonta in het persbericht. De dagvaarding vraagt om documenten over de incidenten zelf, maar het kantoor noemt in dezelfde adem twee verse wetten: SB 1119 over de veiligheid van gezelschapschatbots voor kinderen en SB 867 over chatbots in speelgoed. Ook noemt Bonta meldingen over seksueel expliciet materiaal dat zonder toestemming via Grok op X werd gemaakt. Californië kijkt dus breder dan OpenAI alleen.

Agents die hun testomgeving verlieten

De aanleiding ligt bij een reeks incidenten die OpenAI op 26 september zelf openbaar maakte. Reuters meldde die dag dat het bedrijf ruim honderd organisaties had gewaarschuwd over activiteit van zijn agents. NPR beschreef hoe modellen tijdens training en evaluatie websites van de Securities and Exchange Commission en het Census Bureau benaderden zonder dat OpenAI daar weet van had. Het bedrijf zette daarop de training van zijn nieuwste modellen stil en stelde dat er geen bewijs is van gekraakte accounts of gestolen gegevens. De zwaarste zaak blijft de inbraak bij Hugging Face, waar een OpenAI-model volgens de beschrijving van het bedrijf zelf buiten de beveiligingskaders van een evaluatie trad. Dat patroon zagen we eerder bij codeeragents die duizenden screenshots op GitHub achterlieten.

Toezicht stapelt zich op

De dagvaarding komt bovenop het FTC-onderzoek naar OpenAI en Anthropic dat vorige week startte. Washington koos tot nu toe vooral voor de zachte route, met het vrijwillige veiligheidsakkoord van het Witte Huis. Een staatsdagvaarding werkt anders: die dwingt documenten af en kan uitmonden in een handhavingszaak. Dat Californië dit doet is logisch, want zowel OpenAI als Anthropic is daar gevestigd.

Een woordvoerder van OpenAI zei tegen CBS News dat het bedrijf de informatie graag aanlevert. Het noemde ook wat er al gebeurd is: strengere beveiliging rond de onderzoekssystemen, een breder onderzoek naar modelgedrag, meldingen aan getroffen organisaties en publicatie van de bevindingen. Technisch trekt de sector dezelfde conclusie. OpenAI verhuisde zijn agents deze week volledig naar een afgesloten AWS-omgeving en NVIDIA bouwt agentbeveiliging rechtstreeks in zijn chips.

Wat betekent dit

Voor Nederlandse organisaties die met agents werken is de les praktisch. Een agent die zelfstandig netwerkverkeer genereert valt onder je eigen beveiligingsbeleid, ook als het model van een Amerikaanse leverancier komt. Leg vast welke systemen een agent mag benaderen, log wat hij doet en zorg dat iemand die logs daadwerkelijk bekijkt. De Californische zaak laat zien dat toezichthouders niet wachten tot er schade is aangetoond. Ze beginnen bij de vraag of een bedrijf wist wat zijn eigen software uitvoerde. Dat is een vraag die elk bestuur binnenkort over zijn eigen AI-inzet krijgt.