OpenAI en Meta: deepfakes in de rechtszaal niet te herkennen

Wie in een Amerikaanse rechtszaal een video of geluidsopname als bewijs aanvoert, kan er steeds minder van uitgaan dat die echtheid te bewijzen valt. Dat zeiden vertegenwoordigers van OpenAI en Meta donderdag in Boston tegen de Advisory Committee on Evidence Rules, de commissie die voor de Judicial Conference de federale bewijsregels bijhoudt. Investing.com en Reuters berichtten over de zitting.

Detectie loopt achter

Shira Anderson, policy counsel bij OpenAI, zei dat de beeldkwaliteit van AI-modellen blijft verbeteren en dat ze niet verwacht dat er een wetenschappelijke methode komt die zulke beelden betrouwbaar herkent. Elk bedrijf gebruikt zijn eigen watermerksysteem, waardoor er geen universele manier bestaat om alle watermerken te controleren. Die systemen worden beter, aldus Anderson, maar ze “zullen nooit volledig betrouwbaar zijn”.

Devin Norder, director of product management bij Meta, ging nog een stap verder. Mensen kunnen media van recente AI-modellen volgens hem niet meer onderscheiden van echte opnamen, en zulke beelden maken kost weinig tijd en geld. Dat is opvallend uit de mond van twee bedrijven die zelf videomodellen bouwen en verkopen.

Wettelijke watermerkplichten bestaan wel. Californië heeft er een via de transparantiewet SB 942 en in Europa schrijft de AI-verordening markering voor, ook nadat de deadlines van de EU AI Act zijn verschoven. Maar een watermerk helpt een rechter weinig als de maker van een vervalsing een model gebruikt dat er geen aanbrengt.

Regels liggen voorlopig stil

De commissie werkt sinds 2023 aan het probleem. Er liggen twee voorstellen. Regel 707 moet machine-gegenereerd bewijs zonder getuige-deskundige aan dezelfde betrouwbaarheidseisen binden als deskundigenbewijs. Regel 901(c) gaat specifiek over deepfakes: wie stelt dat een stuk vervalst is, moet daar eerst onderbouwing voor leveren, waarna de andere partij moet aantonen dat het bewijs waarschijnlijker echt is dan nep.

Op 7 mei besloot de commissie geen van beide voorstellen opnieuw in consultatie te brengen, schrijft advocatenkantoor Redgrave LLP. In plaats daarvan kwam er deze miniconferentie met technische experts, als eerste deel van de vergadering van 15 oktober. Volgens Redgrave kan een nieuwe tekst op zijn vroegst in augustus 2027 ter consultatie worden gepubliceerd.

Rechters zien het nog zelden

Commissievoorzitter Jesse Furman, federaal rechter in Manhattan, merkte op dat deepfakes in echte zaken nog weinig opduiken. Een enquête van het Federal Judicial Center uit maart bevestigt dat: van de 931 rechters die reageerden, hadden er 15 een zaak meegemaakt waarin een partij bewijs aanvocht als deepfake.

Dat aantal kan snel stijgen. Begin oktober bleek al dat een AI-video van een slachtoffer een vonnis kostte, en onderzoekers zoeken naar hardwarematige oplossingen zoals een optische chip die deepfakes herkent.

Wat betekent dit

Als de makers van de modellen zelf zeggen dat detectie geen houvast biedt, verschuift de bewijslast naar herkomst: wie heeft een opname gemaakt, met welk apparaat, en is de keten daarna intact gebleven. Voor advocaten en rechters in de VS betekent het dat ze tot zeker 2027 werken met de bestaande bewijsregels, terwijl de techniek elke maand beter wordt. Nederlandse rechtbanken kennen geen vergelijkbare aparte regels voor AI-bewijs, dus de discussie in Boston is ook hier het volgen waard.