Advocaten opgelet: klakkeloos ChatGPT inzetten kan verstrekkende gevolgen hebben, zo blijkt uit een rechtszaak in de Verenigde Staten. Een advocaat onderbouwde zijn pleidooi met behulp van ChatGPT, maar de chatbot bleek leugenachtig.
De Amerikaanse advocaat Steven A. Schwartz, van het kantoor Levidow, Levidow & Oberman, vertegenwoordigde een man – Roberto Mata – die de Colombiaanse luchtvaartmaatschappij Avianca had aangeklaagd. Mata zou gewond zijn geraakt tijdens een vlucht naar New York doordat een serveerwagen tegen zijn knie aan botste.
Toen Avianca de rechter sommeerde om de zaak te seponeren, schoot de advocaat van Mata in actie. ‘Martinez v. Delta Air Lines’, ‘Zicherman v. Korean Air Lines’ of ‘Varghese v. China Southern Airlines’: in een tien pagina’s tellende brief verwees Schwartz naar soortgelijke rechtszaken, die telkens uitpakte in het voordeel van de klager.
Onvindbare uitspraken
Een klein probleempje: noch de advocaten van de tegenpartij, noch de rechter, konden de aangehaalde zaken terugvinden. Waarom? Ze bleken nooit te hebben plaatsgevonden. Bij de voorbereiding van de zaak had Schwartz gebruik gemaakt van kunstmatige intelligentie via ChatGPT, en de chatbot was daarbij gaan ‘hallucineren’. Een bekend fenomeen waarbij de bot onjuiste informatie vrijgeeft.
De raadsman – al dertig jaar actief in New York – ging kortom nat en moest eind vorige week voor de rechter toegeven ChatGPT te hebben ingezet. Schwartz had naar eigen zeggen niet de intentie de rechtbank of luchtvaartmaatschappij te misleiden, maar ChatGPT geraadpleegd ‘als aanvulling’ op zijn eigen werk. Wel gaf hij te kennen nog nooit eerder met het programma te hebben gewerkt, waardoor hij niet op de hoogte was van het fenomeen hallucineren.
Mogelijk sancties
Schwartz had ChatGPT zelfs gevraagd om te verifiëren of de voorgestelde rechtszaken ook daadwerkelijk hadden plaatsgevonden, waarop de advocaat een bevestigend antwoord kreeg. Ook verstrekte ChatGPT niet-bestaande bronnen aan de advocaat, en stelde de chatbot dat de gepresenteerde bronnen ‘kunnen worden gevonden in gerenommeerde juridische databases’.
De niet zo tech savvy-advocaat heeft inmiddels spijt betuigd en te kennen gegeven de tool nooit meer zonder dubbelcheck in te zetten. De rechter sprak van een ‘ongekende omstandigheid’ vol met ‘nep-juridische beslissingen en citaten’. Hij heeft opdracht gegeven tot een hoorzitting in juni om mogelijke sancties te bespreken.
