Pentagon volgt eigen regels voor verantwoorde AI niet altijd

Het Amerikaanse ministerie van Defensie heeft sinds 2021 eigen richtlijnen voor verantwoorde AI in wapens, maar de projecten op de werkvloer houden zich daar niet altijd aan. Dat blijkt uit een rapport van de Government Accountability Office (GAO), de onderzoeksdienst van het Congres. NPR-verslaggever Chiara Eisner bracht de bevindingen vrijdag naar buiten; Military Times en Stars and Stripes schreven eerder deze week al over het tekort aan personeel bij de toezichthouder.

Zes van tien teams zien risico’s

De GAO ondervroeg tien functionarissen die werken aan tien AI-systemen van het Pentagon, onder meer voor doelherkenning, het verwerken van surveillancebeelden en het doorzien van camouflage. Het Pentagon heeft in totaal meer dan 300 AI-projecten lopen. Zes van de tien functionarissen zeiden dat hun team risico’s had gevonden bij inzet “in een operationele omgeving”. Vier gaven aan dat de projecteisen niet aansloten op de zes principes voor verantwoorde AI. Drie wisten niet of hun systeem na ingebruikname nog doorlopend gemonitord zou worden.

Die principes staan in een memo uit 2021. Alissa Czyz, die het GAO-onderzoek leidde, zegt tegen NPR dat het geen harde regels zijn: “Het is uiteindelijk een memo, geen departementale instructie.” De meeste teams hadden wel eerste stappen gezet om de richtlijnen te volgen, al zaten sommige projecten nog in een vroeg stadium.

Drie mensen voor het hele ministerie

Het pijnlijkste cijfer gaat over bemensing. De Responsible AI Division, onderdeel van het Chief Digital and Artificial Intelligence Office, mocht in 2023 tien mensen aannemen. In februari 2026 waren er drie posities gevuld. Volgens de GAO worden de vacatures waarschijnlijk ook niet ingevuld, omdat het bureau wordt gereorganiseerd. “Dat is een heel klein aantal mensen voor een grote verantwoordelijkheid,” zegt Czyz.

Ook de interne overlegstructuur hapert. De Responsible AI Working Council kwam van eind 2024 tot augustus 2025 niet bijeen en heeft nog altijd geen formeel mandaat. De GAO waarschuwt dat de raad “opnieuw stil dreigt te vallen”. Van de 64 acties uit de eigen strategie voor verantwoorde AI waren er in april nog 29 niet afgerond.

Snelheid gaat voor

De bevindingen staan haaks op de koers van minister Pete Hegseth. Een strategiememo uit januari maakt van het leger een “AI-first” strijdmacht, en Hegseth zei in een toespraak bij SpaceX dat militaire AI “voorlopig een race” is die niet door commissies vertraagd mag worden. In september kondigde hij een nieuw commando voor autonome wapens aan, waaronder drones. Ook de inkoop gaat sneller: het Pentagon koopt AI in via pitchvideo’s van vijf minuten.

Het ministerie is het eens met beide aanbevelingen van de GAO: meer personeel voor de AI-afdeling en een formeel mandaat voor de werkgroep. Volgens NPR was op 22 oktober nog niets doorgevoerd, en het Pentagon gaf geen antwoord op de vraag wanneer dat gebeurt. Owen Daniels van het Center for Security and Emerging Technology (Georgetown) zegt tegen Military Times dat verantwoorde AI “hetzelfde zou moeten zijn als operationeel effectieve AI”.

Wat betekent dit

Het rapport laat zien hoe dun het toezicht is bij de grootste militaire afnemer van AI ter wereld. Dat raakt ook de techbedrijven die leveren. Bij Google stapten DeepMind-medewerkers op vanwege militaire AI, en volgens Palantir heeft het Pentagon Claude al vervangen. Voor Europa is het een spiegel: ook hier groeit de markt, zoals bij de Amsterdamse software die Oekraïense drones koppelt. Defensie valt buiten de EU AI Act, dus wie daar toezicht wil, moet het zelf regelen. In Washington blijkt dat voorlopig bij een memo en drie medewerkers te blijven.