Een advocaat uit Melbourne is doorverwezen naar de juridische klachtencommissie van Victoria nadat hij toegaf kunstmatige intelligentie-software te hebben gebruikt in een familierechtzaak. De software genereerde een lijst met rechtszaken die achteraf verzonnen bleek te zijn, wat leidde tot uitstel van de zitting.
Tijdens een hoorzitting op 19 juli had de advocaat een lijst met eerdere rechtszaken ingediend die door rechter Amanda Humphreys was opgevraagd. Toen Humphreys de zaken in haar kamer controleerde, bleek geen van de vermelde zaken te bestaan. De advocaat gaf toe dat de lijst was gegenereerd met behulp van het juridische softwareprogramma Leap, dat AI-elementen bevat. Hij erkende dat hij de informatie niet had geverifieerd voordat hij deze indiende bij de rechtbank.
In een later vonnis uit augustus, dat onlangs werd gepubliceerd, besloot rechter Humphreys de advocaat door te verwijzen voor verder onderzoek door de Legal Services Board en de Commissioner, gezien de ernst van het incident en het toenemende gebruik van AI in de juridische sector.
Verontschuldigingen aangeboden
Hoewel de advocaat zijn verontschuldigingen aanbood en aangaf dat hij de lessen uit het incident ter harte zou nemen, benadrukte Humphreys het belang van een onderzoek in het belang van de publieke verantwoordelijkheid. Het gebruik van AI in de rechtspraak neemt toe, en er zijn nog geen duidelijke richtlijnen opgesteld voor het gebruik van dergelijke technologieën binnen de familierechtbanken.
Leap, de softwareleverancier, gaf aan dat hun systeem een verificatieproces biedt waarbij een ervaren advocaat de gegenereerde documenten controleert. In dit geval was dit correct uitgevoerd, maar de advocaat gebruikte de geverifieerde documenten niet tijdens de zitting, wat tot het probleem leidde.
Dit incident benadrukt de noodzaak om AI zorgvuldig te gebruiken in de juridische praktijk, aldus Leap, dat wereldwijd door 66.000 juridische professionals wordt gebruikt.
