Generatieve AI kan juristen ondersteunen, maar het gebruik van taalmodellen brengt ook juridische en professionele risico’s mee. Roeland de Bruin – van Gogh zet uiteen waar advocaten volgens hem op moeten letten voordat zij een LLM inzetten in hun praktijk.
Mr. dr. Roeland W. de Bruin – van Gogh LL.M. is gepromoveerd op AI-innovatieregulering en onderzoekt en doceert aan de Universiteit Utrecht over recht en technologie, in het bijzonder AI. Daarnaast is hij senior advocaat bij Kienhuis Legal. In zijn discussiedocument LLMs voor LL.M.s – oftewel: GenAI & de juridische praktijk brengt hij de belangrijkste aandachtspunten voor juristen bij elkaar. Het stuk is nadrukkelijk geschreven op persoonlijke titel en bedoeld als groeidocument.
Aanleiding zijn onder meer voorbeelden van advocaten die onjuiste AI-output overnemen in processtukken en juristen die taalmodellen inzetten zonder voldoende zicht op de werking en beperkingen ervan. Volgens De Bruin – van Gogh begint verantwoord gebruik daarom bij begrip van de techniek. LLM’s zijn in essentie voorspellers van waarschijnlijke volgende woordelementen. De uitkomst kan overtuigend klinken, maar onjuist zijn. Hallucinaties zijn volgens hem inherent aan de technologie, waardoor juridische professionals output altijd moeten controleren.
Privacy, auteursrecht en vertrouwelijkheid
Daar blijft het niet bij. Het invoeren van persoonsgegevens kan onder de AVG een verwerking opleveren waarvoor de gebruiker verantwoordelijkheid draagt. Ook anonimiseren is volgens De Bruin – van Gogh ingewikkelder dan alleen namen en contactgegevens verwijderen. Bij openbare GenAI-modellen acht hij verwerking van persoonsgegevens daarom in veel gevallen moeilijk verenigbaar met de AVG.
Ook auteursrecht en geheimhouding vragen aandacht. Het invoeren en verwerken van auteursrechtelijk beschermd materiaal kan reproductiehandelingen meebrengen. Voor advocaten speelt bovendien de wettelijke geheimhoudingsplicht bij cliënt- en dossierinformatie.
AI blijft ondersteunend
De AI-verordening verplicht organisaties die AI inzetten bovendien aandacht te besteden aan AI-geletterdheid. De aanbevelingen van de Nederlandse Orde van Advocaten sluiten daarop aan. Advocaten moeten kennis hebben van onder meer LLM-principes, hallucinaties, foutdetectie, relevante regelgeving en cybersecurity. AI mag daarbij een ondersteunende, maar nooit leidende rol krijgen: de advocaat blijft zelf verantwoordelijk.
De centrale boodschap van De Bruin – van Gogh is dan ook: bezint eer gij begint. Controleer input én output, zorg voor AI-geletterdheid en vraag je telkens af of voor de juridische taak daadwerkelijk een LLM nodig is.
Lees het volledige discussiedocument van Roeland de Bruin – van Gogh voor zijn uitgebreide juridische analyse en praktische aandachtspunten voor het gebruik van GenAI in de rechtspraktijk.
