• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar
  • Skip to footer
  • Nieuwsbrief
  • Magazine
  • Webshop
  • Contact en colofon

Advocatie

Dé nieuwssite voor advocaten, notarissen en juristen

  • Actueel
    • Nieuws
    • Business
    • Tuchtrecht
    • Nieuwe uitdaging
    • Deals
    • Human Interest
    • Opinie en blogs
    • Buitenland
  • AI, tech & legal
  • Podcasts
  • De Stand
    • Advocatuur Top 50
    • Notariaat Top 30
    • Archief De Stand
  • Uitgelicht
  • Vacatures
  • Opleidingen
  • Partners
    • PKIsigning
    • Howden
    • OSR
    • PO-Online

Column: Algoritmes ontmaskerd met simpele truc

28 augustus 2019 door Advocatie Redactie

Niek van de Pasch 300_1

Technologische innovatie dringt langs allerlei wegen onze rechtspraak binnen, ook als het soms mislukt om dat zelf te organiseren. Een half jaar terug schreef ik al over zogenoemde deepfakes, die in strafzaken redelijke twijfel zouden kunnen zaaien. Daar beïnvloedt een nieuwerwets fenomeen de aloude whodunnit-vraag. Maar ook in de fase van eventuele straftoemeting komen vernuftige snufjes om de hoek kijken. 

Door Niek van de Pasch

Zeker van buitenaf lijkt die rechterlijke functie misschien nog wel het minst grijpbaar. Strafrechters hebben weliswaar enig houvast aan landelijke (en recent ook specifiek Amsterdamse) oriëntatiepunten, maar die tabellen presenteren zichzelf nadrukkelijk slechts als ‘beginpunt van denken’. In het vervolgtraject moeten rechters belangrijke kenmerken definiëren, hun onderlinge gewicht bepalen én – nu komt het – de aldus omlijnde zaak spiegelen aan vergelijkbare gevallen.

Dat is in zeker opzicht een oefening in patroonherkenning. Nu is bestraffing uiteraard geen wiskundige exercitie. Zelfs de fraaist uitgeschreven vonnissen zullen de verhouding tussen meewogen factoren nooit numeriek kwantificeren. Toch is een zorgvuldig gemotiveerde uitspraak wel degelijk geschikt voor systematische analyse. De rechtspraakbrede dataverzameling is inmiddels echter dusdanig groot, dat serieuze inzichten eigenlijk alleen beschikbaar komen via algoritmische ontleding. 

Natuurlijk genereert een computer ook dan niet ‘het’ antwoord. Dat zou sowieso een onredelijke toelatingseis zijn. Het gaat er alleen om of die noviteit per saldo waarde toevoegt aan de huidige methode. Hoe zou het zijn om een virtuele assistent – noem het ding StrafMaat – op tafel te zetten in de raadkamer? Besteden rechters daarmee hun voornaamste verantwoordelijkheid uit aan een onnavolgbaar systeem? Of kunnen zij profiteren van een zinvollere denkhulp dan de actuele query’s?

Rechters bepalen in dat scenario nog steeds zelf hoe zij hun zoekvraag formuleren. Daarbij kiezen zij eigenhandig waar het zwaartepunt van de zaak volgens hen ligt. Uiteindelijk genereert het programma een lijst, grafiek, cijfer of wat dan ook. Vaak blijft voor gebruikers echter verborgen wat daartussen nou gebeurt. Het is dan nog lastiger om de output op waarde te schatten en daar kritisch op te reflecteren. Bij zoiets precairs als geïnstitutionaliseerde leedtoevoeging is dat vanzelfsprekend onacceptabel. Daarom zou het uitermate zinvol zijn als duidelijk wordt op welk deel van de invoer een rekenmodule precies aanslaat.

Begin deze maand verscheen een wetenschappelijke publicatie die nieuw licht werpt op deze materie. Onderzoekers van de Universiteit van Maryland presenteerden hun bevindingen in het tijdschrift ‘Transactions of the Association for Computational Linguistics’. Zij compileerden een set van ruim duizend vragen die mensen simpel vinden, maar die state-of-the-art ‘slimme algoritmes’ ontmaskeren als onbeholpen machientjes.

Zoals tegenwoordig gebruikelijk is, waren er overigens wel gewoon weer algoritmes nodig om die softwarematige kwetsbaarheden überhaupt bloot te leggen. De wetenschappers ontwikkelden een interface die onthult hoe een computer ‘denkt’. Bij interactie met een woord uit de input licht dat onderdeel op, zodat zichtbaar wordt hoe het systeem tot een antwoord komt. De ‘human-in-the-loop’ kan zijn vraag daarop aanpassen, om de zwaktes in die redeneertrant uit te buiten. Een voorbeeld kan dat wellicht verhelderen.

Eerst klopt iemand in: ‘De Haydn Variaties van welke componist waren geïnspireerd door Karl Ferdinand Pohl?’ De computer komt op het (juiste) antwoord ‘Johannes Brahms’ en de software toont aan dat dit via de woorden ‘Ferdinand Pohl’ loopt. Zodra die naam wordt vervangen door ‘de archivaris van de Weense Muziekvereniging’ moest de computer het antwoord schuldig blijven, terwijl het voor menselijke tegenstanders nog steeds een eitje is. In deze vragenrondes versloegen zelfs de zwakste mensenteams steevast de sterkste computersystemen.

Al haast een decennium geleden versloeg IBM’s supercomputer Watson de schier onklopbare quizkampioen Ken Jennings in het tv-programma Jeopardy. Die triomf werd toen onthaald als een mijlpaal voor taalbegrip. Dat spelletje doet namelijk een beroep op ons ‘gevoel’ voor nuance, ironie en woordspeling. Sinds die hoogtijdag heeft de kunstmatige intelligentie zich bovendien stormachtig ontwikkeld. Toch lopen algoritmes nog steeds hopeloos vast op puzzels die voor mensen onthutsend makkelijk zijn.

Volgens de onderzoeksgroep is dit de eerste studie die ‘denkprocessen’ van computers visualiseert en vervolgens aanboort om zogenaamd intelligente systemen kinderlijk eenvoudig te bedotten. De hoofdauteur van het artikel schetst de huidige stand van de techniek dan ook als volgt: “Mensen kunnen beter generaliseren en zien diepere verbindingen. Computers moeten leren om door de bomen het bos te zien.” 

Een ontnuchterende en alarmerende boodschap ineen. 

 

Filed Under: AI, tech & legal, Opinie en blogs

Vorige artikel
Column Zo Zuidas: Hoogopgeleid, maar geen ambitie?
Volgende artikel
Column: Toveren op kantoor

Primary Sidebar

Topvacatures

Advocaat stagiair(e) Rotterdam

Advocaat arbeidsrecht (voor 32 – 40 uur per week / standplaats Den Haag) Den Haag

Meer vacatures

Opleidingen & events

Officiële opleiding Gespreksleider Intervisie

Online Patroonscursus

Online training AI, ChatGPT, GenIA-L & Copilot: Toepassingen in de juridische praktijk

Cursus AI Governance & Compliance: Veilige toepassing van AI in juridische/fiscale praktijk

Geavanceerd prompten voor advocaten & juristen – ChatGPT, Copilot en GenIA-L

Meer Sdu Opleidingen

OverFusies

Magazine

Magazine

Best gelezen

  • Nieuwe Uitdaging bij… Bird & Bird, Banning en Pellicaan

  • Twee advocaten beantwoorden oproep landelijk dekenberaad in zaak Ridouan Taghi

  • Vaccine vial and blood test tubes labeled COVID-19 on a blue surface, representing healthcare progress. Tuchtrechtelijke maatregelen na poging tot getuigenbeïnvloeding in coronazaak; NRC legt link met Amsterdams advocatenkantoor

  • Nieuwe podcast ‘De Managing Partner’ geeft podium aan leiders in de advocatuur

  • Advocaat Rudy Giuliani ontvangt presidentiële onderscheiding na auto-ongeluk

Meer AI content

19 AI-basistermen voor juristen: Een handig woordenlijstje

Aan de slag met AI-geletterdheid – opleidingsaanbod

GenIA-L: de slimme AI-toepassing die jouw (advies)praktijk transformeert

AI OPLEIDINGEN

Ben je klaar om een stap te zetten in de wereld van AI? Wil jij de mogelijkheden van (generatieve-)AI optimaal en verantwoord benutten binnen jouw organisatie?

Lefebvre-Sdu heeft verschillende opleidingen die jou helpen om de kracht van AI in jouw werk te benutten. Na afloop ben je niet alleen in staat om de impact van AI op jouw organisatie te beoordelen, maar ben je ook volledig op de hoogte van het juridisch kader en kun je AI-toepassingen binnen de geldende regelgeving implementeren.

Bekijk het cursusaanbod

Alle opleidingen, of variaties hiervan, bieden we ook in-company aan.

Recente berichten

  • ‘Gevangenis maakt jongeren crimineler’, waarschuwt advocaat op Curaçao
  • Meerderheid wil rechterlijke toetsing van overheidsbeleid
  • Juristen Foort van Oosten en Arno Rutte nieuwe bewindslieden Justitie
  • Tuchtrechtelijke maatregelen na poging tot getuigenbeïnvloeding in coronazaak; NRC legt link met Amsterdams advocatenkantoor
  • Inspectierapport: Rechtsbescherming burger bij informatieverstrekking Belastingdienst onder druk

Recente reacties

    Archieven

    • september 2025
    • augustus 2025
    • juli 2025
    • juni 2025
    • mei 2025
    • april 2025
    • maart 2025
    • februari 2025
    • januari 2025
    • december 2024
    • november 2024
    • oktober 2024
    • september 2024
    • augustus 2024
    • juli 2024
    • juni 2024
    • mei 2024
    • april 2024
    • maart 2024
    • februari 2024
    • januari 2024
    • december 2023
    • november 2023
    • oktober 2023
    • september 2023
    • augustus 2023
    • juli 2023
    • juni 2023
    • mei 2023
    • april 2023
    • maart 2023
    • februari 2023
    • januari 2023
    • december 2022
    • november 2022
    • oktober 2022
    • september 2022
    • augustus 2022
    • juli 2022
    • juni 2022
    • mei 2022
    • april 2022
    • maart 2022
    • februari 2022
    • januari 2022
    • december 2021
    • november 2021
    • oktober 2021
    • september 2021
    • augustus 2021
    • juli 2021
    • juni 2021
    • mei 2021
    • april 2021
    • maart 2021
    • februari 2021
    • januari 2021
    • december 2020
    • november 2020
    • oktober 2020
    • september 2020
    • augustus 2020
    • juli 2020
    • juni 2020
    • mei 2020
    • april 2020
    • maart 2020
    • februari 2020
    • januari 2020
    • december 2019
    • november 2019
    • oktober 2019
    • september 2019
    • augustus 2019
    • juli 2019
    • juni 2019
    • mei 2019
    • april 2019
    • maart 2019
    • februari 2019
    • januari 2019
    • december 2018
    • november 2018
    • oktober 2018
    • september 2018
    • augustus 2018
    • juli 2018
    • juni 2018
    • mei 2018
    • april 2018
    • maart 2018
    • februari 2018
    • januari 2018
    • december 2017
    • november 2017
    • oktober 2017
    • september 2017
    • augustus 2017
    • juli 2017
    • juni 2017
    • mei 2017
    • april 2017
    • maart 2017
    • februari 2017
    • januari 2017
    • december 2016
    • november 2016
    • oktober 2016
    • september 2016
    • augustus 2016
    • juli 2016
    • juni 2016
    • mei 2016
    • april 2016
    • maart 2016
    • februari 2016
    • januari 2016
    • december 2015
    • november 2015
    • oktober 2015
    • september 2015
    • augustus 2015
    • juli 2015
    • juni 2015
    • mei 2015
    • april 2015
    • maart 2015
    • februari 2015
    • januari 2015
    • december 2014
    • november 2014
    • oktober 2014
    • september 2014
    • augustus 2014
    • juli 2014
    • juni 2014
    • mei 2014
    • april 2014
    • maart 2014
    • februari 2014
    • januari 2014
    • december 2013
    • november 2013
    • oktober 2013
    • september 2013
    • augustus 2013
    • juli 2013
    • juni 2013
    • mei 2013
    • april 2013
    • maart 2013
    • februari 2013
    • januari 2013
    • december 2012
    • november 2012
    • oktober 2012
    • september 2012
    • augustus 2012
    • juli 2012
    • juni 2012
    • mei 2012
    • april 2012
    • maart 2012
    • februari 2012
    • januari 2012
    • december 2011
    • november 2011
    • oktober 2011
    • september 2011
    • augustus 2011
    • juli 2011
    • juni 2011
    • mei 2011
    • april 2011
    • maart 2011
    • februari 2011
    • januari 2011
    • december 2010
    • november 2010
    • oktober 2010
    • september 2010
    • augustus 2010
    • juli 2010
    • juni 2010
    • mei 2010
    • april 2010
    • maart 2010
    • februari 2010
    • januari 2010
    • december 2009
    • november 2009
    • oktober 2009
    • september 2009
    • augustus 2009
    • juli 2009
    • juni 2009
    • mei 2009
    • april 2009
    • maart 2009
    • februari 2009
    • januari 2009
    • december 2008
    • november 2008
    • oktober 2008
    • september 2008
    • augustus 2008
    • juli 2008
    • juni 2008
    • mei 2008
    • april 2008
    • maart 2008
    • februari 2008
    • januari 2008
    • december 2007
    • november 2007
    • oktober 2007
    • november 2006
    • oktober 2006
    • april 2006
    • juni 2005
    • mei 2005
    • april 2005
    • februari 2005
    • april 2004

    Categorieën

    • aanbesteding & omgevingsrecht
    • Aansprakelijkheid
    • Actueel
    • Agenda
    • AI
    • AI, tech & legal
    • Arbeidsrecht
    • Arbeidsrecht
    • Arbeidsrecht & sociale zekerheid
    • Bedrijfsjurist en advocaat
    • Berkely Bridge
    • Beroepsvaardigheden
    • Bestuurs(proces)recht
    • Bouwrecht
    • Buitenland
    • Burgerlijk (Proces)recht
    • Burgerlijk (Proces)recht en contracten
    • Business
    • Chemische Veiligheid
    • Column
    • Corona
    • Deals
    • Dealtalk
    • Erfrecht
    • Financieel
    • Financieel recht
    • Fiscaal
    • Fiscaal Recht
    • Gezondheidsrecht
    • Gouden Zandlopers
    • Human Interest
    • Huurrecht
    • Huurrecht
    • ICT & Privacy
    • Incompany
    • insolventie en ondernemingsrecht
    • Instagram
    • Intellectueel Eigendomsrecht
    • Intellectuele Eigendomsrecht
    • Internationaal en Europees Recht
    • Interview
    • Jeugdrecht
    • Juridisch ondersteuner
    • Lexxyn Groep
    • Mediation
    • Mercedes-Benz
    • Mutsaerts
    • Nieuwe uitdaging
    • Nieuws
    • Notariaat
    • Notariaat
    • Notariaat
    • Ondernemingsrecht
    • Onderwijsrecht
    • Opinie en blogs
    • Overheid Bedrijfsvoering
    • Overheid Bestuur
    • Overheid Ruimte & milieu
    • Overheid Sociaal
    • Overheid Veiligheid
    • Personen- en familierecht
    • Personen- en familierecht
    • PO Deal aanbod
    • Podcasts
    • Privacyrecht
    • schade en verzekering
    • SDU events
    • Straf (Proces)recht
    • Tuchtrecht
    • Uitgelicht
    • vacatures
    • Vastgoed- & Huurrecht
    • Veiligheid
    • Vlogs
    • Vreemdelingenrecht
    • Wagner Group
    • Wieringa
    • YER Legal

    Meta

    • Login
    • Berichten feed
    • Reacties feed
    • WordPress.org

    Footer

    • Nieuws
    • Business
    • Human Interest
    • Innovatie & Tech
    • Opinie en blogs
    • Tuchtrecht
    • Gouden Zandlopers
    • Top 50 Advocatuur
    • Top 30 Notariaat
    • Advocatie Magazine
    • Vacatures
    • Partners
    • Facebook
    • LinkedIn
    • Instagram
    • Youtube
    • Nieuwsbrief
    • Contact en colofon
    • Meld nieuws
    • Adverteren
    • Vacature indienen

    Advocatie is een uitgave van
    Lefebvre Sdu
    Maanweg 174
    2516 AB Den Haag

    Powered by Lefebvre Sdu

    • Disclaimer
    • Privacy Statement & Cookieverklaring
    lefebvre SDU

    Het laatste nieuws van Advocatie
    twee keer per week in je mail
    ?

    Meld je aan voor onze nieuwsbrief:

    Aanmelden

    ×