• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar
  • Skip to footer
  • Nieuwsbrief
  • Magazine
  • Webshop
  • Contact en colofon

Advocatie

Dé nieuwssite voor advocaten, notarissen en juristen

  • Actueel
    • Nieuws
    • Business
    • Tuchtrecht
    • Nieuwe uitdaging
    • Deals
    • Human Interest
    • Opinie en blogs
    • Buitenland
  • Innovatie & Tech
  • Podcasts
  • De Stand
    • Advocatuur Top 50
    • Notariaat Top 30
    • Archief De Stand
  • Uitgelicht
  • GZL 2023
  • Vacatures
  • Opleidingen
  • Partners
    • Hoffelijk Juridisch
    • Intervisie Advocatuur
    • VLC & Partners
    • Nalanda
    • OSR
    • PO-Online

Tik op vingers en boete voor ‘vernederde’ ChatGPT-advocaat

26 juni 2023 door Rik Haverman

Steven Schwartz, de Amerikaanse advocaat die eind mei in opspraak raakte, is beboet. De raadsman had zijn pleidooi onderbouwd met behulp van ChatGPT, maar de chatbot bleek leugenachtig. “Ik hoorde over een nieuwe site, waarvan ik aannam dat het een soort superzoekmachine was.”

Dat liet Schwartz op 8 juni reeds weten aan de rechtbank, toen hij ter verantwoording werd geroepen over zijn acties. De advocaat uit de States verklaarde die dag niet op de hoogte te zijn geweest dat ChatGPT juridische precedenten kon fabriceren. Ook liet Schwartz weten zich vernederd te voelen en toonde hij berouw.

Nep-juridische beslissingen en citaten

Rondom Schwartz – advocaat bij het kantoor Levidow, Levidow & Oberman – ontstond eind mei commotie. Hij vertegenwoordigde Roberto Mata, die de Colombiaanse luchtvaartmaatschappij Avianca had aangeklaagd. Mata zou gewond zijn geraakt tijdens een vlucht naar New York doordat een serveerwagen tegen zijn knie aan botste.

Toen Avianca de rechter sommeerde om de zaak te seponeren, schoot de advocaat van Mata in actie: in een tien pagina’s tellende brief verwees Schwartz naar soortgelijke rechtszaken, die telkens uitpakte in het voordeel van de klager.

Deze zaken bleken echter nooit te hebben plaatsgevonden. Bij de voorbereiding van de zaak had Schwartz gebruik gemaakt van kunstmatige intelligentie via ChatGPT, en de chatbot was daarbij gaan ‘hallucineren’. Een bekend fenomeen waarbij de bot onjuiste informatie vrijgeeft. De dienstdoende rechter sprak van een ‘ongekende omstandigheid’ vol met ‘nep-juridische beslissingen en citaten’, en gaf opdracht om in juni eventuele sancties te bespreken.

Geen kruistocht tegen AI

Deze zitting heeft inmiddels plaatsgevonden, en zowel Schwartz – als kantoorgenoot Peter LoDuca, die eveneens zijn naam verbond aan de brief – zijn eind vorige week beboet voor vijfduizend dollar. Ook kwam hen een uitbrander toe van New Yorkse rechter Peter Kevin Castel, die de zaak voorzat.

In het sanctiebevel van de federale rechter stond onder meer dat ‘valse juridische adviezen tijd en geld verspillen, de reputatie van juristen schaden en de cliënt authentieke juridische hulp ontnemen’.

De rechter voert verder geen kruistocht tegen het gebruik van AI door advocaten. ‘Technologische vooruitgang is gemeengoed, en er is niets inherent ongepast aan het gebruik van een betrouwbare AI-tool voor assistentie’, aldus het bevel. ‘Bestaande regels leggen aan advocaten echter een poortwachtersrol op om te waarborgen dat wat zij indienen juist is.’

Bogus case rulings

De rechtbank benadrukt kortom dat wat gegenereerd is door AI, gecontroleerd moet worden op juistheid door advocaten, eer zij het gebruiken in juridische procedures. Schwartz en LoDuca hebben die verantwoordelijkheid niet genomen toen zij hun brief vol niet-bestaande zaken indienden. Het wordt hen daarnaast extra kwalijk genomen dat zij meer dan twee maanden (van maart tot mei) hun ChatGPT-onderzoek verdedigden, zelfs nadat de rechtbank en verdediging van de tegenpartij wezen op de onjuistheid daarvan.

Naast de boete en het standje van Castel moeten de niet zo tech savvy-advocaten de opgelegde sanctie bekendmaken aan de rechters, die zij hebben aangehaald als auteur bij de bogus case rulings in de brief. Of Schwartz en LoDuca ook hun excuses aanbieden aan de betreffende rechters, laat Castel aan de raadsmannen zelf over. ‘De rechtbank zal geen excuses eisen, omdat een gedwongen verontschuldiging niet oprecht is.’

Nieuwe Uitdaging bij… Brinkhof, Ivy Advocaten en Kennedy Van der Laan

Lees meer

Uitgelicht: ‘Afwikkelingsdrempels voor Europese en Britse Central Counterparties’

Lees meer
Prinsjesdag

Troonrede: ‘Bedreiging van advocaten en andere hoeders van de rechtsstaat onaanvaardbaar’

Lees meer
Patroon en stagiair

Zoektocht naar Patroon van het Jaar 2023 begonnen

Lees meer

NOvA wendt zich tot Hoge Raad over prejudiciële vragen verschoningsrecht

Lees meer

Auto’s – Mercedes-AMG SL: lekker nazomeren

Lees meer

Filed Under: Buitenland, Innovatie & Tech, Instagram, Nieuws Tagged With: ai

Vorige artikel
Advocaten nieuwe topverdieners van Wall Street
Volgende artikel
Belastingrechtspraak loopt vast door grote hoeveelheid no cure, no pay-zaken

Primary Sidebar

Topvacatures

Stagiair Advocatie Den Haag

Gevorderd advocaat-stagiair of -medewerker (M/V) Amsterdam

Advocaat-stagiaire Corporate / M&A Den Haag

Meer vacatures

OverFusies

Magazine

Magazine

Best gelezen

  • Artificial intelligence is mensenwerk
  • Kamer vraagt om herziening vergoedingen juridische bijstand, Weerwind is terughoudend
  • Margreet Poot: General counsel met stoel aan de directietafel van Europa’s grootste haven
  • Prinsjesdag Troonrede: ‘Bedreiging van advocaten en andere hoeders van de rechtsstaat onaanvaardbaar’
  • Wielrennende advocaten slepen hondeigenaar voor de rechter na valpartij in de Amstel

Footer

  • Nieuws
  • Business
  • Human Interest
  • Innovatie & Tech
  • Opinie en blogs
  • Tuchtrecht
  • Gouden Zandlopers 2022
  • Top 50 Advocatuur
  • Top 30 Notariaat
  • Advocatie Magazine
  • Vacatures
  • Partners
  • Twitter
  • Facebook
  • LinkedIn
  • Instagram
  • Youtube
  • Nieuwsbrief
  • Contact en colofon
  • Meld nieuws
  • Adverteren
  • Vacature indienen

Advocatie is een uitgave van
Sdu
Maanweg 174
2516 AB Den Haag

Powered by Sdu

  • Disclaimer
  • Privacy Statement & Cookieverklaring
SDU

Het laatste nieuws van Advocatie
twee keer per week in je mail
?

Meld je aan voor onze nieuwsbrief:

Aanmelden

×