Politie kan met Flock-AI zoeken op bewegingspatroon

Amerikaanse politiekorpsen testen een AI-systeem waarmee ze mensen kunnen opzoeken zonder kenteken, naam of signalement. Een beschrijving van gedrag volstaat. WIRED-journalisten Dhruv Mehrotra en Dell Cameron reconstrueerden de interface uit code die via de inlogpagina’s van cameraleverancier Flock Safety bereikbaar was, samen met beveiligingsonderzoeker Buchodi.

Zoeken op gedrag, niet op kenteken

Het systeem heet OS Investigate en stond intern eerder bekend als Nightshift. Een agent typt een vraag in gewone taal en krijgt voertuigen en bestuurders terug die aan een patroon voldoen. In de code staan 69 kant-en-klare zoekopdrachten die agenten kunnen aanpassen voordat ze die versturen. Negentien daarvan draaien om bewegingspatronen, veertien vragen vooraf geen enkel identificerend gegeven. Een voorbeeld zoekt mogelijke getuigen door de auto’s te tonen die de afgelopen veertien dagen het vaakst in een bepaalde wijk zijn gezien. Een andere prompt licht voertuigen uit die in drie dagen tijd drie of meer winkels aandeden, schrijft Gizmodo, dat de gereconstrueerde interface ook bekeek.

De koppeling met andere bronnen maakt het verschil met een gewone kentekenlezer. OS Investigate combineert camerascans met arrestatiegegevens, politiedossiers, meldkamerlogs, ballistische uitslagen en commerciele identiteitsdatabanken die namen, adressen, telefoonnummers en familieleden aan een kenteken kunnen hangen.

Wat Flock jarenlang zei

Flock verklaarde publiekelijk dat zijn camera’s individuen niet kunnen herkennen, identificeren of volgen. Woordvoerder Paris Lewbel noemt OS Investigate tegenover WIRED een product in ontwikkeling dat bij een kleine groep korpsen draait en losstaat van de kentekenlezers, en zegt dat de functionaliteit voor een bredere uitrol nog kan veranderen. De mogelijkheden die WIRED beschreef, sprak het bedrijf niet tegen. Flock-camera’s hangen in ruim 6.000 Amerikaanse gemeenten en gemeenschappen; de waardering van het bedrijf ligt op 8,4 miljard dollar.

De waarborgen gaan uit van een mens die zoekt

Chad Marlow, advocaat bij burgerrechtenorganisatie ACLU, waarschuwt dat agenten met zulke zoekopdrachten kunnen gaan vissen naar strafbare feiten in plaats van een concreet misdrijf te onderzoeken. De formulering van de prompt stuurt het antwoord. Dat risico is niet theoretisch: de Washington Post telde minstens vijftig Amerikaanse politiefunctionarissen die zijn beschuldigd of aangeklaagd wegens misbruik van kentekenlezers, met Flock-apparatuur in 46 van die zaken, onder meer om ex-partners te volgen.

Op 13 augustus kondigde Flock zelf maatregelen aan: een standaardbewaartermijn van zeven dagen, automatische blokkades bij afwijkend zoekgedrag en verplichte zaaknummers bij elke zoekopdracht, in te voeren voor eind 2026. Die controles veronderstellen een agent die zelf een vraag intypt en er een dossiernummer bij zet. Bij software die uit losse databestanden zelf aanknopingspunten samenstelt, wordt achteraf lastiger vast te stellen welke vraag tot welke naam leidde.

Wat betekent dit

Biometrische identificatie op afstand en voorspellend politiewerk vallen in Europa onder de zwaarste categorieen van de EU AI Act, waarvan de transparantieplicht inmiddels geldt terwijl veel organisaties er nog niet klaar voor zijn. Flock levert vooral in de Verenigde Staten, maar de vraag eronder speelt overal: wie beoordeelt wat een model afleidt uit gegevens die een korps al legaal in huis heeft? Bij AI in de zorg bleek dat toezicht op papier steviger dan in de praktijk, want van de door de FDA toegelaten AI-hulpmiddelen is er nauwelijks een op patientuitkomsten getest. Bij AI-inkoop door overheidsdiensten gaat het gesprek meestal eerst over capaciteit en pas daarna over controle, terwijl aanbieders zoals OpenAI juist een deel van hun rekenkracht naar veiligheid en monitoring verschuiven. Voor bestuurders en korpsleiding is de praktische les simpel genoeg: wie zo’n systeem aanschaft, koopt de ingebouwde zoekvragen mee, inclusief de aannames die erin zitten.