
Het komt steeds vaker voor dat tijdens rechtszaken niet-bestaande jurisprudentie wordt aangehaald. Rechters hebben het ook vaker in de smiezen en zijn dan niet mild.
Dat schrijft Business Insider op basis van Amerikaans onderzoek. Volgens juridisch onderzoeker Damien Charlotin worden de meeste fouten met AI gemaakt door mensen die zich niet laten bijstaan door een advocaat en zelf op zoek gaan naar juridische informatie om hun zaak te ondersteunen. Maar verbazingwekkend genoeg zijn advocaten bezig met een dubieuze inhaalslag.
Voor zijn onderzoek legde Charlotin een database aan van 120 zaken waarin de rechtbank constateerde dat AI zaken had verzonnen of niet-bestaande juridische autoriteiten citeerde. Charlotin wijst er daarbij op dat het hier gaat om de bodem, omdat het zeer wel mogelijk is dat er nog veel meer zaken zijn waarbij de hallucinaties onopgemerkt bleven, schrijft Business Insider.
In 2023 werd 70 procent van deze hallucinaties gevonden in zaken waarbij een van de partijen niet werd bijgestaan door een advocaat of jurist. In 2024 was in meer dan de helft van de incidenten een juridische professional verantwoordelijk voor het gebruik van de hallucinaties.
Internationaal probleem
Naast de zaken die hij aantrof in de VS, zag Charlotin ook AI-fouten in rechtszaken in het VK, Zuif-Afrika, Israël, Australië en Spanje. In Zuid-Afrika noemde een rechter de betrokken advocaat ’technologically challenged’.
Wanneer advocaten worden betrapt, liegen de sancties er niet om. Alleen al in dit jaar legden rechtbanken vier keer boetes op van tienduizend dollar of meer aan advocatenkantoren die verzuimen om hun AI-informatie te checken.