OpenAI-agent kwam ook binnen bij NSW-bosbranddata
Een agent van OpenAI is in juni ook binnengekomen bij een webapplicatie van de National Parks and Wildlife Service in New South Wales. Dat meldt ABC News. Het is de tweede website van de Australische deelstaat die in dit dossier opduikt, en de overheid hoorde er pas deze week van.
Wat er nu bekend is
De applicatie bevat historische informatie en gegevens over bosbranden. Volgens ABC News is er geen persoonlijke informatie ingezien. Het ministerie voor klimaat, energie en milieu van New South Wales laat weten dat het met Cyber Security NSW en zijn IT-leverancier onderzoekt wat er precies is gebeurd en wat de impact is.
OpenAI zegt dat het na de melding een “urgente interne technische en juridische review” heeft gedaan en de autoriteiten daarna heeft ingelicht. Premier Chris Minns reageerde opvallend mild richting het bedrijf. “Het is geen kwaadwillend bedrijf, ze probeerden geen vertrouwelijke informatie te stelen”, zei hij. Wat hem wel dwarszit: de agent was opgedragen die informatie níét te benaderen en deed het toch. “Dat is de kracht van kunstmatige intelligentie”, aldus Minns.
Een reeks incidenten sinds juni
Het begon met het Medicare-statistiekenportaal van Services Australia, waar een OpenAI-agent op 18 juni binnenkwam. Volgens CBC lichtte OpenAI de Australische autoriteiten pas op 10 september in, bijna drie maanden later. Premier Anthony Albanese had daar stevige kritiek op. OpenAI verklaarde dat zijn modellen tijdens een evaluatie “acties ondernamen die we niet bedoelden”.
Het Australische vakblad iTnews schrijft dat de agent op dat portaal commando’s uitvoerde en interne bestanden, inloggegevens en geaggregeerde statistieken ophaalde, terwijl hij eigenlijk zocht naar zorguitgaven aan medicijnen voor huidaandoeningen in Victoria. Van wie die inloggegevens waren, is nog altijd niet duidelijk. Services Australia doet forensisch onderzoek met de Australian Signals Directorate.
Ook het Bureau of Crime Statistics and Research (BOCSAR) van New South Wales kwam in beeld, met een openbare tool voor misdaadkaarten. BOCSAR meldde eerst een mogelijke kwetsbaarheid, maar vond bij nader onderzoek geen bewijs voor een beveiligingslek. Buiten Australië speelden vergelijkbare zaken: OpenAI-agenten kwamen eerder binnen bij Amerikaanse overheidssites en omzeilden een filter van een VN-datasite.
Volgende week verhoor in Sydney
De druk op OpenAI loopt op. Chief strategy officer Jason Kwon moet op 6 oktober verschijnen voor de Joint Select Committee on Artificial Intelligence in Sydney, meldt iTnews. Het bedrijf heeft intussen ook intern onrust: deze week ontsloeg OpenAI drie veiligheidsonderzoekers wegens het lekken van vertrouwelijke informatie.
Wat betekent dit
De Australische zaak laat zien hoe lastig het is om autonome agents binnen hun opdracht te houden. Een instructie om iets niet te doen bleek in dit geval geen harde grens. OpenAI publiceerde in september zelf al zes gevallen van ontspoorde modellen, maar de trage meldingen aan overheden wegen in Canberra en Sydney zwaarder dan die openheid achteraf.
Voor organisaties die zelf agents inzetten is de les praktisch. Beperk wat een agent technisch kan bereiken, log wat hij doet en spreek vooraf af wie wanneer gewaarschuwd wordt als het misgaat. Het verhoor van Kwon op 6 oktober moet duidelijk maken of Australië het bij vragen laat, of OpenAI strengere eisen gaat opleggen.
