DeepMind-medewerkers stappen op om militaire AI van Google
Bij Google DeepMind zijn deze maand meerdere medewerkers vertrokken uit protest tegen het militaire AI-werk van Google. De BBC sprak met twee van hen, en The Intercept publiceerde op 21 oktober een uitgebreid interview met onderzoeksingenieur Sofia Liguori, die deze week haar ontslag indiende.
Wie er vertrekken en waarom
Liguori werkte sinds 2023 in Londen aan AI die stroom slimmer door elektriciteitsnetten leidt. In een interne afscheidsbrief, die The Intercept inzag, schrijft ze dat ze niet langer gelooft dat de technologie van haar werkgever “per saldo een positieve impact op de samenleving” heeft. Tegen de site zei ze: “Ik ben tegen AI voor oorlog, en ik vind niet dat een commercieel bedrijf als Google daar iets mee te maken moet hebben.” Haar collega’s vroeg ze om “menselijk te blijven”.
AI-onderzoeker Andreas Kirsch vertrok eerder deze maand. Volgens Ynetnews, dat de BBC-reportage samenvat, vindt hij het interne toezicht van Google te zwak om AI verantwoord in te zetten in geheime militaire omgevingen. Google heeft volgens hem weinig zicht op wat er met de modellen gebeurt zodra ze bij het Pentagon draaien. Hij twijfelt er ook aan of huidige modellen betrouwbaar genoeg zijn voor situaties waarin een fout dodelijk kan zijn.
Beide medewerkers zeggen dat een non-disparagement-clausule in hun contract publieke kritiek op Google eigenlijk verbiedt. Ze kozen er toch voor om met de BBC te praten.
Het contract met het Pentagon
De onvrede draait om een geheim AI-contract met het Amerikaanse ministerie van Defensie, dat Google in april aankondigde. Volgens de BBC-berichtgeving mag het Pentagon de modellen van Google gebruiken voor “elk wettig overheidsdoel”. Binnenlandse massasurveillance en autonome wapens die zonder passend menselijk toezicht doelen kiezen, zijn uitgesloten. Google en OpenAI tekenden dit jaar allebei zulke deals, meldt LBC. Defensieminister Pete Hegseth wil van de VS een “AI-first warfighting force” maken. Hoe snel dat gaat, lees je in ons stuk over hoe het Pentagon AI inkoopt via pitchvideo’s. Dat de keuze voor een leverancier ook kan omslaan, bleek toen een Palantir-topman zei dat het Pentagon Claude al had vervangen.
Critici wijzen ook op Project Nimbus, het cloudcontract van Google met de Israëlische overheid. Liguori zegt tegen The Intercept dat het Pentagon-werk een manier van oorlogvoeren normaliseert die “in Gaza is getest”. In februari hielp ze een demonstratie bij het kantoor organiseren met spandoeken als “No AI in the kill chain”.
Google houdt vast aan zijn koers
Google-woordvoerder Tom Hewett zegt dat het bedrijf voor zulke contracten “een consistent proces” volgt, inclusief toetsing aan het eigen gebruiksbeleid en de AI-principes. Medewerkers kunnen zorgen volgens hem melden via speciale kanalen en worden beschermd tegen represailles. Liguori zelf beschrijft een andere werkvloer. Interne berichten met het woord “genocide” zouden zijn verwijderd. “Je voelt dat je in de gaten wordt gehouden, je kunt niets zeggen.”
Het verzet is niet nieuw. In mei vroegen DeepMind-medewerkers om erkenning van een vakbond. Ze willen dat Google de geschrapte belofte om geen AI-wapens of surveillancetools te bouwen terugzet, dat er een onafhankelijk ethisch toezichtsorgaan komt en dat individuele medewerkers projecten mogen weigeren.
Wat betekent dit
Een paar vertrekken veranderen de strategie van Google niet. Het is wel een signaal dat de mensen die modellen als Gemini 4 Argon bouwen, niet allemaal meegaan in de militaire koers. Voor AI-labs wordt talent zo een factor in de vraag hoe ver ze met defensie meegaan. De discussie over wie grenzen trekt, het bedrijf of de overheid, loopt intussen ook in Washington, zoals bij het wetsvoorstel dat Anthropic naar het Congres stuurde. Europese organisaties die Gemini of andere Amerikaanse modellen gebruiken, doen er goed aan te volgen welke afspraken hun leverancier met defensieklanten maakt.
