II.4 Procedurele rechten
III.4.2.2 Een onafhankelijke en onpartijdige rechter
Het recht op toegang tot de rechter impliceert dat de rechter onafhankelijk en onpartijdig kan oordelen.738In dit verband is van belang dat de inzet van KI en Big Data een aanzienlijke invloed kan hebben op de beoordeling van rechtszaken, zoals in hoofdstuk I ook al is geïllustreerd.739Daarbij geldt dat deze invloed in een aantal gevallen heel positief is. KI kan bijvoorbeeld fungeren als een waardevolle ‘sparring partner’ voor rechters. Computers kunnen helpen om argumenten te wegen of zwakke plekken in juridische argumentatie
735 Meuwese 2017, p. 161.
736 Moerel & Van der Wolk 2017, p. 41-46.
737 Ook het recht op persoonlijke autonomie kan in dergelijke gevallen in van behavioural targeting in het geding zijn, zonder dat slachtoffers hiervan op de hoogte zijn.
738 Zie hoofdstuk II, par. 4.2.
739 Zie meer algemeen over de eisen van een onafhankelijke en onpartijdige rechter hoofdstuk II, par. 4.2.
III De (potentiële) impact van algoritmes op grondrechten in Nederland
aan te geven, waardoor een rechter tot meer objectieve en beter onderbouwde oordelen kan komen.740Rechterlijke oordeelsvorming kan ook ondersteund worden door algoritmes die vonnissen en arresten met elkaar vergelijken en afzetten tegen informatie over een voorliggende zaak. Rechters krijgen zo inzicht in overeenkomsten en verschillen tussen zaken, waardoor gelijke gevallen gelijk(er) beoordeeld kunnen worden en de consistentie van rechtspraak wordt vergroot. Op die manier kan KI ook bijdragen aan de consistentie van de rechterlijke oordeelsvorming in strafzaken. Het is bijvoorbeeld mogelijk om de strafmaat in strafzaken te vergelijken, inzicht te krijgen in de factoren die in straftoemeting een rol spelen of te achterhalen in welk type zaken ruimte is voor standaardvonnissen.
Dergelijke algemene inzichten kunnen vervolgens worden meegenomen in voorliggende zaken. In dergelijke gevallen helpt KI bij het nemen van een beslissing in concrete zaken.741
Naarmate de invloed van KI bij het bepalen van de uitkomst in concrete zaken groter wordt, komt echter ook een aantal knelpunten in beeld. Twee voorbeelden kunnen dit inzichtelijk maken:
– Een treffende illustratie biedt allereerst een kwestie die zich voordeed in de Amerikaanse staat Wisconsin.742,743Bij het beoordelen van de strafmaat in de strafzaak tegen Eric Loomis maakte de rechter gebruik van het COMPAS-systeem. Dit data-gedreven sys-teem laat algoritmes bepalen hoe hoog het risico op recidive van een verdachte is. De uitkomst van Big Data-analyse liet in het geval van Loomis zien dat de kans op recidive hoog was. Dit beïnvloedde de straftoemeting, waardoor Loomis werd veroordeeld tot zes jaar cel. Een privaat bedrijf was eigenaar van het systeem, waardoor het noch voor de rechter noch voor Loomis mogelijk was om inzicht te krijgen in de werking van het algoritme.
– Dichter bij huis – en buiten de context van het strafrecht – heeft robotrechter e-court, een digitaal, privaat scheidsgerecht, recentelijk stof doen opwaaien.744De term ‘robot-rechter’ wordt in dit verband gebruikt om algoritmes aan te duiden die geautomatiseerde
740 Prakken 2018, p. 274.
741 Prins & Van der Roest 2018, p. 263-264.
742 Zie State v. Loomis, 881 N.W.2d 749 (Wis. 2016); Loomis diende een petition for certiorari in bij het federale Hooggerechtshof, maar deze werd afgewezen (zie http://www.scotusblog.com/case-files/cases/loomis-v-wisconsin/0; laatst geraadpleegd 2 februari 2018). Dit betekent dat het Hooggerechtshof geen oordeel over de zaak zal vellen.
743 Een soortgelijk voorbeeld zou zich voor kunnen doen in de staat New Jersey, waar sinds 2017 gebruik gemaakt van een algoritmische risicobeoordeling om te bepalen of een verdachte op borgtocht vrij mag komen; zie New York Times 2017.
744 ‘Vonnis te koop. Private rechtspraak in de incasso-industrie’, De Groene Amsterdammer 17 januari 2018, online via: https://www.groene.nl/artikel/vonnis-te-koop (laatst geraadpleegd 2 februari 2018) en ‘Rechters bezorgd over spotgoedkope, private rechtspraak’, Trouw 18 januari 2018, online via:
https://www.trouw.nl/home/rechters-bezorgd-over-spotgoedkope-private-rechtspraak-~aec4584f/ (laatst geraadpleegd 2 februari 2018). Al eerder werd in juridische literatuur aandacht besteed aan e-court. Zie onder meer Jongbloed 2014 en Hartendorp 2014.
168 Algoritmes en grondrechten
oordeelsvorming en motivering mogelijk maken. Een groot aantal verzekeraars en andere bedrijven (als Bol.com) heeft in de algemene voorwaarden opgenomen dat geschilbeslechting plaatsvindt door middel van arbitrage (art. 1020 e.v. Rv) of bindend advies (art. 7:900 BW) door e-court.Reeds sinds 2011 is bij e-court sprake van automa-tische afdoening van geschillen in zaken die zien op schuldinning waarin de schuldenaar geen verweer voert.745Ook hier is het voor partijen moeilijk om inzicht te krijgen in de werking van het algoritme waardoor de robotrechter wordt gedreven.
In beide voorbeelden komen grondrechtelijke knelpunten voort uit het ‘black box’-karakter van (zelflerende) algoritmes. Hierna wordt nog afzonderlijk ingegaan op de gevolgen hiervan op het recht op een eerlijk, open en evenwichtig proces en het recht op een kenbare en draagkrachtige motivering van het rechterlijk oordeel. Voor nu is van belang dat rechterlijke oordeelsvorming op basis van ondoorzichtige KI-toepassingen een negatieve impact kan hebben op de onafhankelijkheid en onpartijdigheid van de rechter.746 De rechterlijke onafhankelijkheid omvat mede beslissingsvrijheid in concrete zaken (functionele onafhankelijkheid), terwijl onpartijdigheid vergt dat een rechter onbevooroor-deeld tegenover een zaak staat.747Deze onafhankelijkheid en onpartijdigheid kunnen in het gedrang komen wanneer rechters te veel vertrouwen op de KI en de algoritmes die hen ondersteunen in oordeelsvorming. Als een algoritme door of onder verantwoordelijkheid van een ander overheidsorgaan is geprogrammeerd en de rechter dit klakkeloos volgt, staat hij allicht niet meer volledig onafhankelijk tegenover de zaak. Bovendien is in hoofdstuk I uiteengezet dat ongemerkt biases in een algoritme kunnen sluipen die in het nadeel kunnen zijn van een van de procespartijen. Daarop is uitgebreid ingegaan in paragraaf III.2 over het gelijkheidsbeginsel en het verbod van discriminatie. De ondoorzichtigheid van algoritmes kan betekenen dat deze biases terechtkomen in de rechterlijk oordeelsvor-ming en dat ze de blik van de rechter onterecht kleuren.
III.4.3 Recht op een eerlijk proces
Is eenmaal toegang verkregen tot een proces voor de rechter, dan moet dit proces eerlijk verlopen. In hoofdstuk II is uiteengezet wat de belangrijkste procedurele waarborgen zijn die samenhangen met dit recht op een eerlijk proces: (1) het recht op afronding van de procedure binnen redelijke termijn, (2) de eerlijkheid, openheid en evenwichtigheid van de procedure, (3) de beschikbaarheid van een voldoende kenbare en draagkrachtige
745 Zie Nakad-Weststrate e.a. 2015, p. 1102-1112: ‘the e-Court judgments by default in debt collection pro-ceedings – are no longer the product of any human reasoning; the verdicts are rendered as the sole result of AI.’
746 Zie in deze trant Prins & Van der Roest 2018, p. 265.
747 Zie hoofdstuk II, par. 4.2.
III De (potentiële) impact van algoritmes op grondrechten in Nederland
motivering voor de rechterlijke beslissing, en (4) een aantal specifieke waarborgen die gelden in strafrechtelijke procedures. De invloed van nieuwe technologieën op deze proce-durele waarborgen en rechten komen hierna achtereenvolgens aan bod.