Koning Charles waarschuwt AI-top in Schotland

Koning Charles III heeft op zijn landgoed Dumfries House in het zuidwesten van Schotland een besloten bijeenkomst gehouden met de top van de AI-industrie. Hij waarschuwde zijn gasten voor de “existentiële gevaren” van krachtige AI-systemen die in verkeerde handen vallen. De ABC en NPR berichtten over de ontmoeting, die geen bindende afspraken opleverde.

Wie zaten er aan tafel

Aan de bijeenkomst namen onder anderen NVIDIA-topman Jensen Huang deel, samen met Google DeepMind-oprichter Demis Hassabis en OpenAI-financieel directeur Sarah Friar. Ook Anthropic was vertegenwoordigd, net als de Britse AI-minister Kanishka Narayan en de Italiaanse theoloog Paolo Benanti, die het Vaticaan adviseert over technologie. Volgens ABC News gaf Charles aan Huang persoonlijk een kopie van zijn eigen toespraak over AI-veiligheid uit 2023.

Buckingham Palace liet vooraf weten dat de deelnemers zouden verkennen of een gedeelde set principes de toepassing van AI kan sturen, niet puur als motor voor capaciteit en efficiëntie maar als techniek die menselijke waardigheid respecteert. Buiten het hek protesteerden demonstranten tegen de bouw van datacenters.

De waarschuwing zelf

“Er lijkt urgentie te zitten in het serieus overwegen van de existentiële gevaren van zulke technologieën in verkeerde handen”, zei de koning volgens ABC News. Hij sprak over voldoende controlemiddelen “voordat het te laat is” en noemde daarbij de mogelijkheid dat systemen schadelijke capaciteiten ontwikkelen, tot het nemen van levens toe. Tegelijk wees hij op de medische kant, waar AI levens kan redden, en op de milieudruk van de rekencentra die de modellen draaiend houden.

Een staatshoofd dat zich zo direct over technologiebeleid uitspreekt is ongebruikelijk. De Britse monarch houdt zich normaal ver van politieke dossiers. Gina Neff van Responsible AI UK zei tegen NPR dat de topmannen onderling sterk verschillende opvattingen hebben over veiligheidsmaatregelen, en dat de koning misschien juist daarom bruggen kan slaan.

Een Britse positie tussen Washington en Peking

Het Verenigd Koninkrijk probeert zich neer te zetten als middenweg tussen de terughoudende Amerikaanse aanpak en het Chinese model van staatstoezicht. Die ruimte wordt kleiner nu andere spelers zich roeren. In Brussel sprak Ursula von der Leyen zich recent uit voor een rem op de snelste AI-ontwikkeling, en in Washington trokken Bernie Sanders en Steve Bannon samen op voor een verbod op superintelligentie. Canada en Duitsland zetten geld in op alternatief onderzoek via Yoshua Bengio’s LawZero.

De publieke stemming schuift mee. Uit recent Pew-onderzoek bleek dat de zorgen over AI in de Verenigde Staten breed leven en inmiddels het sterkst onder Democraten.

Wat betekent dit

Dumfries House levert geen regels op. Wel is het een teken dat de discussie over AI-risico’s zich verplaatst van conferentiezalen naar plekken met symbolische lading, waar bedrijven moeilijk kunnen wegblijven. Voor Nederlandse organisaties die AI inzetten verandert er vandaag niets aan hun compliance, maar de richting is duidelijk: de druk om te laten zien hoe je systemen worden gecontroleerd neemt toe, vanuit Brussel, Londen en Washington tegelijk. Wie nu al vastlegt welke modellen waarvoor worden gebruikt en wie ze bijstuurt, heeft straks minder in te halen.