MI5 opent eigen centrum voor AI-dreigingen
De Britse binnenlandse veiligheidsdienst MI5 heeft een eigen AI Threat Assessment Centre opgezet. Directeur-generaal Sir Ken McCallum maakte dat dinsdag 13 oktober bekend in zijn jaarlijkse dreigingsspeech in Thames House. Het team moet uitzoeken welke AI-risico’s reëel zijn en welke vooral lawaai, en die kennis doorspelen aan de Britse overheid.
Wat het nieuwe centrum gaat doen
Volgens MLex is het centrum bedoeld om overheidsbeleid te voeden. Het zit binnen MI5, maar haalt mensen uit andere delen van de overheid en werkt samen met de National Crime Agency en het National Cyber Security Centre van GCHQ. Het draait al: er worden nu al zogeheten all-source-analyses gemaakt, waarin inlichtingen uit meerdere kanalen samenkomen.
Een directe lijn loopt naar het AI Security Institute (AISI), het Britse instituut dat nieuwe modellen test. Eerder deze maand meldden we nog dat Amerikaanse labs de Britse testers weer toegang geven tot nieuwe modellen. McCallum zei volgens een samenvatting van Resultsense op basis van Sky News dat het centrum “de bluf van de realiteit” moet scheiden. Het moet ook het “aantoonbare bewijs” leveren waar AI-bedrijven zelf om vragen voordat ze ingrijpen.
Hoe groot het team is en of rapporten rechtstreeks bij bedrijven terechtkomen, heeft MI5 niet gezegd.
Biowapens bovenaan de zorgenlijst
De grootste zorg van McCallum is dat AI de drempel verlaagt om biologische wapens te maken. ITV News vatte zijn waarschuwing samen als: terroristen kunnen toegang krijgen tot biowapens als de vangrails van AI-modellen falen. Hij benadrukte dat dit scenario nog niet is uitgekomen. Over misbruik van modellen sprak ook Anthropic-topman Dario Amodei zich eerder uit.
Andere dreigingen zijn wel al zichtbaar. McCallum zei dat AI de strijd tussen cyberaanvallers en verdedigers “opjaagt”. Terroristen zijn betrapt op het gebruik van AI voor verkenning en het plannen van aanslagen, waaronder drones met AI-functies. Ook ziet MI5 propaganda die met AI op individuen wordt afgestemd.
Staatsdreiging groeit hard
De speech ging over meer dan AI. Het aantal zaken met vijandige staten is in tien jaar verviervoudigd, vooral rond Rusland, Iran en China. In twaalf maanden tijd zijn meer dan vijftig mensen gearresteerd voor activiteiten met een link naar Iran. Diezelfde drie landen zetten AI ook in voor desinformatie rond de Amerikaanse midterms, schreven we eerder vandaag.
Wat betekent dit
De timing is opvallend. Op dezelfde dag vertelden OpenAI en Anthropic een commissie van het Lagerhuis dat ze waarschuwingen van MI5, MI6, GCHQ of het AISI serieus nemen, tot het stilleggen van een model aan toe. Wij schreven daar al over in OpenAI en Anthropic vragen Britse MPs om bindende AI-regels. Met een eigen analysecentrum krijgt Londen een kanaal om die waarschuwingen ook echt te onderbouwen.
Voor Nederland is het een interessant model. Hier liggen AI-risico’s verspreid over de AIVD, het NCSC en toezichthouders als de AP. Of Den Haag een vergelijkbaar centrum overweegt, is niet bekend. Wel zal de vraag terugkomen wie bepaalt wanneer een AI-risico zwaar genoeg is om een bedrijf aan te spreken.
