Amodei legt VN drie AI-afspraken voor, VS wijst ze af
De VN-Veiligheidsraad hield woensdag zijn eerste hoogwaardige briefing over de veiligheidsrisico’s van geavanceerde AI-systemen. Frankrijk, deze maand voorzitter van de raad, plande de zitting tijdens het hoge segment van de 81e Algemene Vergadering. Aan het woord kwamen OpenAI-topman Sam Altman, Anthropic-baas Dario Amodei, Hugging Face-oprichter Clement Delangue en AI-onderzoeker Yoshua Bengio.
Bouwers waarschuwen voor hun eigen modellen
Amodei sprak de raad op afstand toe en koos harde bewoordingen. “Als dit slecht wordt aangepakt, geloof ik zelfs dat AI een risico kan vormen voor de mensheid als geheel”, zei hij volgens Al Jazeera. Altman, die wel in New York aanwezig was, waarschuwde dat mensen de controle over steeds capabelere systemen kunnen verliezen en zei dat de regels “gevormd moeten worden via democratische processen en door regeringen”.
Bengio, co-voorzitter van het onafhankelijke wetenschappelijke VN-panel over AI, hield het korter: “De gevaren zijn reeel en ophanden.” Delangue beschreef hoe een cyberaanval werd afgeslagen met hulp van Chinese AI-modellen, een detail dat de verwevenheid van de sector illustreert. Dat panel kreeg eerder kritiek op de toon van zijn eigen rapportage.
Drie concrete voorstellen van Amodei
Waar de meeste sprekers bij algemeenheden bleven, legde Amodei volgens CNBC drie afgebakende ideeen op tafel. Ten eerste smalle mondiale afspraken, bijvoorbeeld een verbod op het inzetten van AI voor de ontwikkeling van biologische wapens. Ten tweede evaluatie- en verificatiesystemen waarmee landen elkaars toezeggingen kunnen controleren. Ten derde gedeelde standaarden voor het testen van modellen, gekoppeld aan een meldingssysteem voor AI-beveiligingsincidenten.
Die derde suggestie sluit aan bij wat labs nu al vrijwillig doen. Het verschil zit in de verplichting: een meldplicht dwingt bedrijven om ook incidenten te delen die commercieel ongemakkelijk liggen. De aangekondigde opzet van de briefing liet al zien dat de raad bewust ook Chinese aanbieders bij het gesprek wilde betrekken.
Washington houdt de deur dicht
De Amerikaanse vertegenwoordiger Michael Kratsios maakte in dezelfde zaal duidelijk dat zijn regering niets voelt voor internationale kaders. “Wij verwerpen alle pogingen van internationale organen om gecentraliseerde controle op te eisen”, zei hij. Daarmee herhaalt Washington de lijn van eerder dit jaar, toen de VS en China een AI-verklaring van twintig landen lieten liggen.
Binnenlands loopt het debat wel door. In het Congres ligt een voorstel om de ontwikkeling van superintelligentie strafbaar te stellen, en Californie werkt aan eigen noodremregels. De federale regering wil vooral zelf bepalen waar die grenzen liggen.
Wat betekent dit
De Veiligheidsraad kan geen AI-verdrag afdwingen, en met een Amerikaans veto op elk bindend voorstel blijft het bij praten. Toch is de zitting niet zonder waarde: de drie voorstellen van Amodei zijn technisch uitvoerbaar en kosten weinig, en juist een meldsysteem voor incidenten kan buiten de VN om ontstaan, tussen labs en nationale toezichthouders. Voor Europese organisaties verandert er op korte termijn niets aan de verplichtingen uit de EU AI Act. Wie afhankelijk is van Amerikaanse modellen, doet er verstandig aan zelf vast te leggen welke incidenten een leverancier moet melden. Dat staat nu in contracten, niet in verdragen.
