EHRM weert advocaat twee jaar om verzonnen AI-jurisprudentie
3 min. leestijd

EHRM weert advocaat twee jaar om verzonnen AI-jurisprudentie

Het Europees Hof voor de Rechten van de Mens (EHRM) in Straatsburg heeft een Roemeense advocaat voor twee jaar uitgesloten. In die periode mag ze geen verzoekers vertegenwoordigen of bijstaan. De reden: haar processtukken, opgesteld met hulp van AI, stonden vol met verwijzingen naar uitspraken die niet bestaan. De president van het Hof nam het besluit op 13 november, meldden Irish Legal News en EU Law Live deze week.

Wat er mis was met de stukken

De kamer die de zaak behandelde, vond drie soorten fouten. De advocaat verwees naar arresten die nooit zijn gewezen. Ze citeerde alinea’s uit echte uitspraken die in die uitspraken niet voorkomen. En ze haalde bestaande rechtspraak aan die niets met haar betoog te maken had, of die haar argumenten zelfs tegensprak.

Volgens Irish Legal News gaf de advocaat toe dat ze AI-tools had gebruikt. Zelf sprak ze van onnauwkeurigheden en citeerfouten en ze erkende dat ze niet alle verwijzingen goed had gecontroleerd. De kamer stelde vast dat een deel daarvan helemaal niet was nagekeken. Het Hof sprak van een terugkerend patroon en niet van een enkele vergissing. Juristen moeten wat een AI-tool aanlevert zelf toetsen aan gezaghebbende bronnen, zoals de eigen rechtspraakdatabank HUDOC van het Hof.

Leesbril op een opengeslagen boek in een juridische bibliotheek

Hoe het Hof tot de schorsing kwam

Voor dit besluit gebruikte het Hof artikel 44D van zijn procesreglement. Dat artikel geeft de president de bevoegdheid een vertegenwoordiger uit te sluiten die zich onbehoorlijk gedraagt. Het initiatief kwam van de kamer zelf, die een gemotiveerd voorstel deed. Volgens het juridische blog CEA Digital Law mochten de advocaat, de Roemeense regering en de Roemeense orde van advocaten eerst reageren.

Het Hof woog mee dat het controleren van de valse verwijzingen en de tuchtprocedure veel tijd kostten. Dat schaadde volgens de kamer een goede rechtsgang. De uitsluiting geldt alleen voor deze advocaat; een tweede advocaat in dezelfde zaak blijft gewoon aan. Na afloop kan haar recht om voor het Hof op te treden weer worden hersteld. De naam van de advocaat en het zaaknummer zijn niet bekendgemaakt.

Geen incident meer

Dat taalmodellen uitspraken verzinnen, is al langer bekend. Dat het hoogste mensenrechtenhof van Europa nu een advocaat twee jaar buiten de deur houdt, is een stevig signaal aan de beroepsgroep. Het past in een rij voorbeelden waarin AI-fouten in de rechtszaal echte gevolgen hebben, zoals de rechter wiens vonnis sneuvelde na een AI-video van het slachtoffer.

Ook buiten de rechtspraak blijkt keer op keer dat AI-uitvoer niet zonder controle kan. USA Today zette zijn AI-samenvattingen stil na protest en chatbots gaven foute antwoorden op vragen over stemmen.

Wat betekent dit

Voor advocaten, ook in Nederland, is de les eenvoudig: wie AI gebruikt voor processtukken, blijft zelf verantwoordelijk voor elke verwijzing. Het Hof verbiedt AI-gebruik ook niet, het eist wel dat je het werk controleert. Onderzoek wees eerder uit dat AI vooral ervaren advocaten beter maakt. Kantoren die AI-tools invoeren, doen er goed aan een vaste controlestap in te bouwen, bijvoorbeeld elke uitspraak opzoeken in HUDOC of een andere officiële databank. Dat kost tijd, maar twee jaar niet mogen pleiten bij het Hof kost meer.