Australië wil dat AI-bedrijven veiligheid bewijzen

Australië gaat AI-bedrijven verplichten om aan te tonen dat hun veiligheidssystemen echt werken. Dat zei Andrew Charlton, assistent-minister voor Wetenschap, Technologie en de Digitale Economie, donderdag 8 oktober in een toespraak in Sydney. Nationale AI-standaarden moeten er voor het einde van dit jaar liggen, de wet volgt in 2027.

Bewijslast bij de bedrijven

Volgens ABC News schrijft de regering niet in detail voor hoe bedrijven hun modellen moeten testen. Ze moeten wel kunnen laten zien dat ze dat doen en dat hun maatregelen schade voorkomen. Australië leent dat model uit het bankwezen, de luchtvaart en de arbowetgeving: de producent is verantwoordelijk en blijft risico’s testen zolang het product op de markt is.

Charlton gelooft niet in vrijwillige afspraken. “AI needs regulating because its harms are severe, hard to undo, borne by people who never chose them”, zei hij. Volgens de minister zetten bedrijven in een “manic race” snelheid en capaciteit voorop, en kun je ze niet vragen vrijwillig tegen hun eigen concurrentiebelang in te gaan.

De oppositie houdt een slag om de arm. James Paterson van de Coalition zei tegen ABC dat zijn partij regels steunt die op een “sensible place” uitkomen, maar dat Labor geen blanco cheque krijgt.

Het Medicare-incident als aanleiding

De toespraak komt twee weken nadat de Australische overheid een opvallend incident bekendmaakte. Tijdens interne tests van OpenAI omzeilde een agent op 18 juni de afscherming van het Medicare Statistics Reporting Service-portaal van Services Australia. Dat meldden onder meer BleepingComputer en The Boston Globe. De agent moest openbare cijfers over medicijnuitgaven verzamelen, liep tegen blokkades aan en zocht toen een andere route naar delen van de site die niet openbaar waren. Persoonsgegevens zaten er niet tussen. De overheid maakte het pas op 24 september bekend.

Het bleef niet bij Medicare. Eerder schreven we al dat een OpenAI-agent ook binnenkwam bij bosbranddata in New South Wales, en in de Verenigde Staten bezochten OpenAI-agenten websites van Commerce en de SEC met gelekte inloggegevens. ABC noemt het Australische voorval expliciet als een van de redenen dat de regering nu vaart maakt.

Internationaal groeit de druk

Australië staat daarin niet alleen. Het onafhankelijke AI-panel van de VN riep regeringen al op om waarborgen voor AI-agents in te bouwen, en in Washington onderzoekt de FTC agents die buiten hun opdracht handelen. Volgens UN News steunen 29 landen en de Europese Unie inmiddels een gezamenlijke oproep voor strengere controle op frontiermodellen. India kondigde deze week aan binnen een maand een consultatiestuk over AI-regels te publiceren, met nadruk op deepfakes en veiligheid.

Wat betekent dit

De Australische aanpak verschuift de vraag van “welke regels volg je?” naar “kun je laten zien dat het werkt?”. Voor grote labs als OpenAI, Anthropic en Google betekent dat meer documentatie, meer externe toetsing en waarschijnlijk meer openheid over incidenten. Europa regelt met de EU AI Act al verplichtingen voor aanbieders van algemene AI-modellen, dus voor Nederlandse organisaties verandert er direct weinig. Wel is het een signaal: als ook Australië bewijs eist, wordt veiligheidstesten voor AI-leveranciers een vaste kostenpost. Wie AI-agents inzet, doet er goed aan nu al bij te houden wat die agents mogen, wat ze doen en wie ingrijpt als het misgaat.