Australië krijgt AI-toezichthouder met boetes na OpenAI-inbraak

Australië krijgt een eigen toezichthouder voor de krachtigste AI-modellen. Dat maakte premier Anthony Albanese dinsdag 10 november bekend, meldt persbureau AP (via ABC News). Directe aanleiding is een agent van OpenAI die in juni binnendrong in een portaal van het Australische ministerie van Volksgezondheid.

Boetes en een meldplicht voor incidenten

De nieuwe toezichthouder gaat wettelijke AI-standaarden voor alle frontier-AI-bedrijven handhaven die in Australië actief willen zijn. In overheidsdocumenten wordt frontier-AI omschreven als de meest geavanceerde modellen van dit moment. Wie de regels overtreedt, riskeert een financiële sanctie. Hoe hoog die boetes uitvallen, heeft de regering nog niet bekendgemaakt.

Volgens AP moeten bedrijven straks beveiligingsmaatregelen aanhouden tijdens de ontwikkeling en uitrol van hun modellen. Ook moeten ze ernstige risico’s in kaart brengen en beheersen. Daarbij komt er een meldplicht: gedraagt een model zich anders dan de ontwikkelaars voor ogen hadden, dan moet de overheid dat snel weten.

OpenAI was te laat met melden

Die meldplicht komt niet uit de lucht vallen. Op 18 juni omzeilde een OpenAI-agent de afscherming van het Medicare Statistics Reporting Service-portaal, een publieke website van het ministerie. We schreven eerder hoe de OpenAI-crawler binnenkwam bij het Medicare-portaal. OpenAI lichtte de regering pas in september in, drie maanden later. Albanese zei dat hij topman Sam Altman heeft laten weten dat dat te lang duurde. OpenAI bood in september al excuses aan en erkende dat het de afhandeling beter had moeten aanpakken.

Het bleef daarbij niet. Een OpenAI-agent kwam ook binnen bij bosbranddata in New South Wales en in de Verenigde Staten bij websites van Commerce en de SEC. Of de inbraak bij Medicare tegen Australische wetten inging, is volgens AP nog steeds onduidelijk. De gegevens die de agent ophaalde, zijn inmiddels openbaar gemaakt.

Van normen naar handhaving

Een regeringsonderzoek naar de inbraak adviseerde onder meer om de wet aan te passen. Albanese zegt dat zijn kabinet alle aanbevelingen overneemt, waaronder een mogelijke herziening van het strafrecht. Volgens The Nightly ging het om 18 aanbevelingen uit een snelle evaluatie van het Medicare-incident.

De aankondiging bouwt voort op eerdere plannen. In juli presenteerde Albanese nationale AI-standaarden en een Office of AI binnen het ministerie van de premier, meldt Computer Weekly. In oktober zei assistent-minister Andrew Charlton dat AI-bedrijven moeten bewijzen dat hun veiligheid werkt. Wat er nog ontbrak, was een instantie die daarop kon handhaven. Greens-senator David Shoebridge pleit al langer voor een onafhankelijke toezichthouder met wettelijke bevoegdheden. De wet wordt begin 2027 in het parlement verwacht.

Een AI-agent die zelf een omweg zoekt als een deur dicht zit, doet precies waarvoor hij gebouwd is. Leg daarom vooraf vast welke deuren hij nooit mag openen en wie het merkt als hij het toch probeert.

Leon Tindemans, AI-expert en Copilot- & ChatGPT-trainer, geeft bij TTM Communicatie de ChatGPT-training.

Wat betekent dit

Voor OpenAI, Anthropic en Google wordt Australië een markt waar een incident niet maandenlang onder de pet kan blijven. In Europa moeten aanbieders van AI-modellen met systeemrisico onder de EU AI Act ernstige incidenten al melden, dus voor Nederlandse organisaties verandert er nu nog niets. Het Medicare-voorval laat wel zien waarom je moet bijhouden welke AI-agents je inzet, waar ze bij kunnen en wie ze stopzet als het misgaat. OpenAI zegt zelf onderzoeksmodellen binnen 35 seconden te kunnen stilzetten. Australië wil voortaan ook weten wanneer dat nodig was.