AI-hallucinatie bracht VS en China bijna in botsing

Een Amerikaanse inlichtingenanalist vroeg dit voorjaar een chatbot om uitzoekwerk over de lading van een Chinees schip in het Midden-Oosten. Het antwoord dat volgde, ging als rapport het militaire apparaat in: aan boord zouden onderdelen voor een kernwapenprogramma liggen. Het klopte niet. CNN beschrijft op basis van meerdere bronnen hoe die verzonnen conclusie het Amerikaanse leger tot vlak voor een enterpoging bracht.

Vliegtuigen in de lucht, boordteam klaar

Volgens de reconstructie van CNN ontstond het rapport tijdens de oorlog met Iran, in het voorjaar van 2026. De oorspronkelijke informatie over het manifest van het schip kwam van US Special Operations Command Pacific op Hawaii. De analist legde die gegevens voor aan een chatbot die open bronnen combineerde met geheime signals intelligence, en het systeem vulde de rest zelf in.

Daarna ging het snel. Er lag een plan om het schip te onderscheppen, bewapende militairen stonden gereed om aan boord te gaan en vliegtuigen waren al in de lucht. Pas kort voor de uitvoering bleek het rapport volledig onjuist. Een bron tegenover CNN noemt het een incident dat bijna een oorlog begon. Een Amerikaanse actie tegen een Chinees schip had zich makkelijk kunnen uitbreiden tot een gewapend conflict tussen beide landen. Special Operations Command Pacific en het Pentagon reageerden niet op vragen van CNN.

Geen standaard om AI-output te controleren

Het zit hem niet in één slordige analist. Defensieminister Pete Hegseth presenteerde in januari 2026 een Artificial Intelligence Acceleration Strategy die snelle invoering van AI door het hele defensieapparaat aanmoedigt, van het doorspitten van ruwe inlichtingen en het kiezen van doelen tot begrotingen en logistiek. Wat er niet bij zit, zeggen betrokkenen tegen CNN, is een eenduidige norm voor het verifiëren van wat zo’n model uitspuugt.

Die gretigheid was al zichtbaar: het Pentagon zette eerder ChatGPT Mil en Grok live op GenAI.mil en experimenteert met autonomie in de cockpit, zoals bij de AI-bestuurde F-16 waarbij de regels achterlopen. De snelheid van invoering loopt voor op de controlemechanismen.

Een concreet voorbeeld bij een abstract debat

Het incident landt midden in een discussie die vooral over toekomstscenario’s ging. Ursula von der Leyen riep in haar State of the Union op om het tempo van frontier-modellen af te remmen, en gouverneur Gavin Newsom tekende deze week een decreet dat een noodstop voor AI-modellen verlangt. Het Chinese schip laat zien dat je geen ontsnapte superintelligentie nodig hebt voor een gevaarlijke situatie. Een gewone hallucinatie in een keten zonder tegenlezer volstaat.

CNN meldt dat dit niet op zichzelf staat. Sinds AI-tools zich door de Amerikaanse overheid verspreiden, zijn er meer gevallen bekend waarin verzonnen informatie in inlichtingenproducten terechtkwam.

Wat betekent dit

Voor iedereen die AI in een werkproces stopt, is dit een herkenbaar patroon in een extreme vorm. Een model geeft een vloeiend, zelfverzekerd antwoord, dat antwoord krijgt een officiële verpakking, en verderop in de keten leest niemand meer terug waar het vandaan komt. Het verschil met een verkeerd geciteerd kwartaalcijfer is alleen de inzet. De les uit dit incident is niet dat AI uit de inlichtingenwereld moet, want die trein rijdt al. Het gaat om de vraag die elke organisatie kan stellen: wie controleert de bron voordat het besluit wordt genomen, en staat die stap ergens vastgelegd? Bij de Amerikaanse krijgsmacht was het antwoord voorlopig toeval.