VS en Rusland schrappen mens uit VN-wapenpact

Na drie jaar praten lag er op 5 september een VN-tekst over dodelijke autonome wapens. Wat er uiteindelijk werd vastgesteld, ziet er anders uit dan het concept waarmee de onderhandelaars in Genève begonnen. De Washington Post beschreef deze week hoe Amerikaanse en Russische delegaties in de slotfase de scherpste passages uit het document haalden.

Wat er uit de tekst verdween

De belangrijkste schrapping betreft de menselijke controle. Het concept bevatte een bepaling dat een mens door AI aangewezen doelen moest nakijken voordat er wordt geschoten. Die zin haalde de eindtekst niet. Ook de eisen dat zulke systemen zich voorspelbaar en betrouwbaar gedragen zijn weggevallen, net als de passage over ethische afwegingen bij de inzet ervan. De reikwijdte werd bovendien versmald: waar eerst het volledige internationale recht werd genoemd, staat er nu alleen humanitair oorlogsrecht.

Het gebeurde achter gesloten deuren. De VN-camera’s gingen uit, waarnemers van maatschappelijke organisaties moesten de zaal verlaten, en in een sessie van zo’n vijftien uur werkten Washington en Moskou elk met een juridisch team dat bijna twee keer zo groot was als dat van andere landen. Kleinere delegaties konden het tempo van de wijzigingen nauwelijks volgen. Human Rights Watch legde de gang van zaken op 7 september vast in een eigen verslag.

Waarom het nu al telt

De tekst is niet bindend. Dat maakt hem niet betekenisloos. Richard Lennane van het Internationale Comité van het Rode Kruis wijst erop dat verdragen vooral werken als vastlegging van een norm, minder als strafinstrument. Wie de norm alvast afzwakt, verandert het vertrekpunt van elke volgende ronde. In november komen de diplomaten terug naar Genève om te beslissen of er formele verdragsonderhandelingen komen. Volgens Human Rights Watch steunen 76 landen die stap.

Nicole van Rooijen van de coalitie Stop Killer Robots verwijt de twee landen dat ze het document bewust hebben uitgekleed. Mensenrechtenorganisaties vrezen vooral het gat in de verantwoordelijkheid: zonder verplichte menselijke toets bij doelselectie is moeilijk aan te wijzen wie aanspreekbaar is als burgers omkomen.

De Amerikaanse kant van het verhaal

Het Pentagon werkt al langer met richtlijn 3000.09, die menselijk oordeel voorschrijft bij wapensystemen met autonome functies. Een aangekondigde herziening daarvan had er in juni moeten liggen, na een termijn van negentig dagen, en is nog altijd niet openbaar. Die stilte maakt de Geneefse ingrepen lastiger te lezen als een losse diplomatieke manoeuvre. Het past in een bredere lijn waarin de Verenigde Staten bindende internationale AI-afspraken afhouden, zoals eerder bleek toen Washington de drie voorstellen van Anthropic-topman Dario Amodei bij de VN afwees. Tegelijk zoeken dezelfde landen elkaar op andere dossiers wel op, getuige de recente hotline tussen de VS en China voor AI-incidenten.

Wat betekent dit

Voor wie AI volgt buiten het defensiedomein is dit een nuttige graadmeter. De vraag of een mens in de besluitketen blijft zitten, speelt overal: bij militaire doelselectie, maar evengoed bij kredietbeoordeling of fraudedetectie. Dat juist die eis sneuvelt in het dossier met de hoogste inzet, zegt iets over hoe hard zulke waarborgen zijn zodra ze geld of slagkracht kosten. De bijna-botsing tussen de VS en China na een AI-hallucinatie in een inlichtingenrapport liet zien wat er misgaat als niemand de output nog nakijkt. In november wordt duidelijk of de 76 landen die wel verder willen, genoeg gewicht in de schaal leggen. Het debat verschuift intussen ook naar hogere gremia, waar de VN-Veiligheidsraad zich liet bijpraten door OpenAI, Anthropic en DeepSeek.