In haar eerste column schrijft oprichter van Uncover Caroline Zand-Korteweg over de vooroordelen die over AI binnen de juridische wereld heersen. AI is er al, stelt zij. Tijd om AI te omarmen, aldus Zand-Korteweg.
Op een recent panel werd mij de volgende stelling voorgelegd: “AI genereert onbetrouwbare informatie”. Als mede-oprichter van Uncover, dat AI inzet om juridisch werk te automatiseren, is deze stelling mij niet vreemd. Wat ik denk? Ja, AI kan inderdaad onbetrouwbare informatie genereren. Maar laten we eerlijk zijn: dit geldt toch ook voor mensen? Dus waarom toch die angst?
Laten we eerst eens kijken naar hoe AI onwaarheden kan genereren. AI-systemen, zoals machine learning-algoritmen, zijn gebaseerd op data. Deze data worden gebruikt om patronen en verbanden te identificeren en daarop voorspellingen te doen. Als de data waarop het algoritme is getraind onvolledig of bevooroordeeld zijn, kunnen de uitkomsten daardoor vertekend zijn. Dit kan inderdaad leiden tot het genereren van onbetrouwbare informatie en onjuiste conclusies.
Maar als we naar de andere kant van de medaille kijken, naar de menselijke factor, dan zien we precies hetzelfde. Mensen genereren immers ook onwaarheden. Denk maar aan situaties waarin een advocaat niet de juiste vragen stelt, de data waarop hij/zijn advies baseert dus ook niet volledig is en vervolgens de verkeerde conclusie getrokken worden, of een rechter bevooroordeeld is. Wat ‘betrouwbare informatie’ is, of niet is, is eigenlijk ook nog maar de vraag. Zelfs over ‘feiten’ kunnen mensen het oneens zijn. Er zijn mensen die op basis van hun interpretatie van feiten stellen dat de aarde opwarmt door toedoen van de mens en tegelijkertijd zijn er mensen die op basis van hun interpretatie van dezelfde of andere feiten evengoed stellen dat global warming helemaal niet door mensen veroorzaakt wordt.
Anders dan AI-systemen zijn mensen bovendien onderhevig aan vermoeidheid, emotionele stress, persoonlijke overtuigingen die hun oordeelsvermogen kunnen vertroebelen en hebben zij slaap nodig. Interessant hierbij is ook in ogenschouw te houden, dat de data waarop de AI-systemen getraind worden, overwegend bestaat uit door mensen gegenereerde data. Zijn de door AI gegenereerde onjuistheden dan eigenlijk wel door AI gegenereerd of is het een weerspiegeling van de mens?
Die vraag terzijde: dit alles benadrukt dat zowel AI als mensen niet perfect zijn. Beide hebben hun tekortkomingen en kunnen onbetrouwbare informatie genereren.
Ik denk dan bij mijzelf: dat spreekt toch eigenlijk voor zich? AI-tools zijn niet magisch. Ze zijn slechts zo goed als de data waarop ze zijn gebaseerd en de manier waarop ze worden gebruikt. Advocaten moeten dus kritisch blijven ten aanzien van de wijze waarop ze AI inzetten en de resultaten die AI-systemen produceren en deze altijd verifiëren en valideren voordat ze erop vertrouwen. Dat moeten advocaten óók als ze een noot bij een uitspraak lezen of een eerste draft van een medewerker doornemen. Wat zeg ik? Mensen moeten altijd kritisch blijven denken.
Feit blijft dat AI systemen oneindig veel meer data kunnen bevatten dan het menselijk brein en bij iedere thumbs up en thumbs down direct van de fouten leren. Geschiedenis leert dat dát niet voor mensen geldt. De kans dat een mens dus een fout maakt is groter de kans dat een AI systeem een fout maakt.
Dus ja, net als de mens kan AI onbetrouwbare informatie genereren, maar door de kracht van menselijke expertise en technologische vooruitgang te bundelen, kunnen we een juridische praktijk creëren die kundiger, toegankelijker en effectiever is!
Nog één laatste observatie: de negatieve formulering van de stelling over AI die onjuistheden genereert tijdens het panel is geen toeval. Het weerspiegelt een diepgewortelde neiging onder juristen om zich te laten leiden door angst voor verandering, in plaats van het omarmen van de kansen die nieuwe technologieën bieden. Dit brengt ons tot een cruciale vraag: zijn we als juridische professionals bereid om ons aan te passen aan de snel veranderende wereld om ons heen, of blijven we vasthouden aan oude aanpakken en paradigma’s uit angst voor het onbekende? Zoals altijd zal de nieuwe technologie winnen, ook bij de advocatuur en bij de cliënten van de advocatuur. Aarzelaars worden dan de achterblijvers van morgen. Wederom zeg ik: omarm AI. Laten we niet verdrinken in de angst voor AI, maar haar verwelkomen als een krachtige bondgenoot in de strijd voor rechtvaardigheid.
