Een advocaat baseerde haar pleidooi op door AI verzonnen jurisprudentie en maakte vervolgens opnieuw gebruik van ChatGPT bij haar voorbereiding op de daaropvolgende tuchtzaak. Het toezichtorgaan legde haar een schorsing van zes maanden op, samen met een geldboete.
In 2025 kwam aan het licht dat advocaat Mary Hyun-Sook Lee bij een erfrechtszaak gebruik had gemaakt van kunstmatige intelligentie, meld de NOS. Zowel in haar processtukken als tijdens de zitting verwees ze naar zaken die niet bestonden. Ook bracht ze een zaak naar voren die weliswaar echt was, maar die niets met de kwestie te maken had. Daarnaast bleek uit haar tuchtdossier dat ze in nog een ander geval een bestaande uitspraak aanhaalde, maar de inhoud daarvan verkeerd had weergegeven.
De student kreeg de schuld
Toen van haar werd verlangd bewijs te leveren voor de aangehaalde bronnen, kon ze dat niet overleggen. Pas nadat ze hierop was aangesproken, erkende ze tegenover de rechter dat de stukken met AI tot stand waren gekomen. Ze wees echter naar een rechtenstudent die als haar assistent zou hebben gewerkt en zei zelf niet bekend te zijn met de werking van ChatGPT, omdat ze “van de oude stempel” was.
Dit bracht een orgaan dat toezicht houdt op advocaten ertoe onderzoek te doen. Aanvankelijk weigerde de advocaat de identiteit van deze assistent prijs te geven. Uiteindelijk gaf ze toe dat ze op het moment van de zaak helemaal geen personeel of stagiairs in dienst had.
Opnieuw de fout in
De zaak mondde uit in een tuchtprocedure. Daarbij vroeg de tuchtraad haar computergegevens op, waaruit naar voren kwam dat ze kort na te zijn ontmaskerd opnieuw dezelfde fout maakte, aldus The Toronto Star. Ter voorbereiding op een vervolgzitting bij dezelfde rechter zocht ze wederom haar toevlucht tot ChatGPT. Daarin schreef ze dat ze “zo stom was geweest” om te vertrouwen op bronnen die niet bleken te bestaan, en vroeg ze het programma om advies hoe een tuchtzaak alsnog te vermijden.
Ze kreeg een schorsing van zes maanden opgelegd, plus een boete van 10.000 Canadese dollar, wat neerkomt op ruim 6000 euro.
Volgens The Toronto Star gaat het vermoedelijk om de eerste keer dat een uitspraak over onjuist AI-gebruik binnen een tuchtprocedure openbaar is gemaakt. Uit het officiële vonnis blijkt dat de advocaat schuldig werd bevonden aan oneerlijkheid en aan onzorgvuldig gebruik van kunstmatige intelligentie, waarmee ze haar cliënt niet had bijgestaan zoals van een bekwaam advocaat mag worden verwacht.
Ook buiten Canada duiken dit soort gevallen op. Zo ontvingen in Nederland al meerdere advocaten een officiële waarschuwing nadat zij AI verkeerd hadden ingezet.
