Steven Schwartz, de Amerikaanse advocaat die eind mei in opspraak raakte, is beboet. De raadsman had zijn pleidooi onderbouwd met behulp van ChatGPT, maar de chatbot bleek leugenachtig. “Ik hoorde over een nieuwe site, waarvan ik aannam dat het een soort superzoekmachine was.”
Dat liet Schwartz op 8 juni reeds weten aan de rechtbank, toen hij ter verantwoording werd geroepen over zijn acties. De advocaat uit de States verklaarde die dag niet op de hoogte te zijn geweest dat ChatGPT juridische precedenten kon fabriceren. Ook liet Schwartz weten zich vernederd te voelen en toonde hij berouw.
Nep-juridische beslissingen en citaten
Rondom Schwartz – advocaat bij het kantoor Levidow, Levidow & Oberman – ontstond eind mei commotie. Hij vertegenwoordigde Roberto Mata, die de Colombiaanse luchtvaartmaatschappij Avianca had aangeklaagd. Mata zou gewond zijn geraakt tijdens een vlucht naar New York doordat een serveerwagen tegen zijn knie aan botste.
Toen Avianca de rechter sommeerde om de zaak te seponeren, schoot de advocaat van Mata in actie: in een tien pagina’s tellende brief verwees Schwartz naar soortgelijke rechtszaken, die telkens uitpakte in het voordeel van de klager.
Deze zaken bleken echter nooit te hebben plaatsgevonden. Bij de voorbereiding van de zaak had Schwartz gebruik gemaakt van kunstmatige intelligentie via ChatGPT, en de chatbot was daarbij gaan ‘hallucineren’. Een bekend fenomeen waarbij de bot onjuiste informatie vrijgeeft. De dienstdoende rechter sprak van een ‘ongekende omstandigheid’ vol met ‘nep-juridische beslissingen en citaten’, en gaf opdracht om in juni eventuele sancties te bespreken.
Geen kruistocht tegen AI
Deze zitting heeft inmiddels plaatsgevonden, en zowel Schwartz – als kantoorgenoot Peter LoDuca, die eveneens zijn naam verbond aan de brief – zijn eind vorige week beboet voor vijfduizend dollar. Ook kwam hen een uitbrander toe van New Yorkse rechter Peter Kevin Castel, die de zaak voorzat.
In het sanctiebevel van de federale rechter stond onder meer dat ‘valse juridische adviezen tijd en geld verspillen, de reputatie van juristen schaden en de cliënt authentieke juridische hulp ontnemen’.
De rechter voert verder geen kruistocht tegen het gebruik van AI door advocaten. ‘Technologische vooruitgang is gemeengoed, en er is niets inherent ongepast aan het gebruik van een betrouwbare AI-tool voor assistentie’, aldus het bevel. ‘Bestaande regels leggen aan advocaten echter een poortwachtersrol op om te waarborgen dat wat zij indienen juist is.’
Bogus case rulings
De rechtbank benadrukt kortom dat wat gegenereerd is door AI, gecontroleerd moet worden op juistheid door advocaten, eer zij het gebruiken in juridische procedures. Schwartz en LoDuca hebben die verantwoordelijkheid niet genomen toen zij hun brief vol niet-bestaande zaken indienden. Het wordt hen daarnaast extra kwalijk genomen dat zij meer dan twee maanden (van maart tot mei) hun ChatGPT-onderzoek verdedigden, zelfs nadat de rechtbank en verdediging van de tegenpartij wezen op de onjuistheid daarvan.
Naast de boete en het standje van Castel moeten de niet zo tech savvy-advocaten de opgelegde sanctie bekendmaken aan de rechters, die zij hebben aangehaald als auteur bij de bogus case rulings in de brief. Of Schwartz en LoDuca ook hun excuses aanbieden aan de betreffende rechters, laat Castel aan de raadsmannen zelf over. ‘De rechtbank zal geen excuses eisen, omdat een gedwongen verontschuldiging niet oprecht is.’
