Hoofdstuk 1: Uiteenzetting van de probleemstelling en definities
1.2. Definities
De rechtbanken in Nederland behandelen veel verschillende soorten zaken. Dit kunnen complexe zaken zijn waarbij vele belangen tegen elkaar moeten worden afgewogen en
waarbij complexe bewijsstukken moeten worden overlegd. Echter, dit kunnen ook eenvoudige zaken zijn, waarbij door een rechter vonnis zal worden gewezen zonder dat er een zitting heeft plaatsgevonden. Deze eenvoudige zaken worden ook wel standaardzaken genoemd.
Luchtvaartzaken zijn hier een goed voorbeeld van. De procedure verloopt in deze zaken enkel schriftelijk, er vindt geen zitting plaats. Verder worden luchtvaartzaken behandeld door één rechter, er hoeft immers geen overleg plaats te vinden over ingewikkelde bewijsstukken of belangenafwegingen. Ook zal de rechter geen open normen hoeven in te vullen.
Luchtvaartzaken hebben steeds hetzelfde procesverloop en in iedere zaak zullen dezelfde handelingen moeten worden uitgevoerd. Gedurende het proces zal er geen contact zijn tussen de rechter en de partijen, er hoeft immers geen mondelinge behandeling of een
getuigengehoor plaats te vinden. Deze zaken lenen zich er dan ook goed voor om gestandaardiseerd te worden.
Standaardisering heeft voordelen, zoals efficiëntie, zekerheid en voorspelbaarheid.2 Zo kan er vooraf al een inschatting worden gemaakt hoe de procedure zal gaan verlopen en hoeveel tijd het in beslag zal nemen. Ook zullen de zaken sneller bij de juiste rechter terecht kunnen komen, het zijn immers vaak dezelfde rechters die luchtvaartzaken behandelen.
1.2.2. Artificial Intelligence
Artificial intelligence staat voor kunstmatige intelligentie. De Amerikaanse psycholoog, David Wechsler, definieerde intelligentie als volgt: ‘Intelligentie is het vermogen doelgericht te handelen, rationeel te denken en effectief met de omgeving om te gaan.’3 Volgens deze omschrijving is iedereen met dit vermogen in staat om doelgericht problemen op te lossen, ook machines.
2 L. Coenraad en P. Ingelse, ‘Afscheid van de klassieke civiele procedure?’ 08-06-2017, p. 51.
3D. Wechsler, “The measurement of adult intelligence.”Baltimore: Williams & Wilkins, 1944, p. 3.
Wanneer machines in staat worden gesteld om intelligent gedrag te vertonen en taken automatisch uitvoeren die normaal gesproken door mensen worden uitgevoerd, wordt dit kunstmatige intelligentie genoemd.
Als we spreken over AI, hebben we het eigenlijk over systemen die intelligent gedrag vertonen door hun omgeving te analyseren en op basis van die analyse zelfstandig actie onderneemt om een specifiek doel te bereiken.4 Door gebruik te maken van deze slimme systemen zal de menselijke intelligentie uiteindelijk kunnen worden nagebootst. Een algemene definitie van AI wordt gegeven door de Europese Commissie:
“Artificial intelligence (AI) refers to systems that display intelligent behaviour by analysing their environment and taking actions – with some degree of autonomy – to achieve specific goals. AI-based systems can be purely software-based, acting in the virtual world (e.g. voice assistants, image analysis software, search engines, speech and face recognition systems) or AI can be embedded in hardware devices (e.g. advanced robots, autonomous cars, drones or Internet of Things applications).”5
AI verwijst dus naar verschillende technieken waarop de menselijke intelligentie kan worden nagebootst. Het is een overkoepelende term voor zelflerende computersystemen. Termen die hiermee samenhangen zijn machine learning en deep learning. Deze technieken zien op de manier waarop AI leert.6 Hoe deze technieken precies werken zal in dit hoofdstuk verder aan bod komen.
1.2.3. Algoritmen
Een algoritme is een opeenvolging van stappen – die plaatsvinden binnen het AI-systeem – die de invoerde data verwerkt tot een uitvoer om daarmee een specifiek probleem op te lossen.7 Er zijn verschillende typen algoritmen. Uiteenlopend van een eenvoudige beslisboom met een beperkt aantal variabelen tot complexe en zelflerende algoritmen, zoals machine learning of deep learning algoritmen.8 Deep learning algoritmen zullen in dit hoofdstuk kort aan bod komen, gezien de complexiteit van het algoritme zal dit type niet geschikt zijn voor
4Kamerstukken II, 2017–2018, 22 112, nr. 2578, p. 2
5 Commission, ‘Artificial Intelligence for Europe’ COM (2018) 237 final, 1
6 Prins, C., & Roest, J. (2018). AI en de rechtspraak: Meer dan alleen de ‘robotrechter’. Nederlands Juristenblad, 93(4), 260-268.
7 S. Kulk & S. Van Deursen, ‘Juridische aspecten van algoritmen die besluiten nemen’ 2-6-2020, p. 29.
8Bijlage bij Kamerstukken II 2018/19, 26643, nr. 641.
de inzet in eenvoudige standaardzaken. Welk type algoritme het best kan worden ingezet is afhankelijk van het doel waarvoor zij worden ingezet.
1.2.4. De werking van algoritmen
Van het woord ‘algoritme’ hebben veel mensen wel eens gehoord, maar wat het precies is en hoe het werkt, is nog niet altijd duidelijk. Zoals in de paragraaf hiervoor beschreven is een algoritme een opeenvolging van stappen om tot een bepaald doel te komen. Steeds meer beslissingen worden niet langer door mensen maar door computers gemaakt. Algoritmen worden gebruikt om bepaalde beslissingen (zoals rechterlijke uitspraken) te automatiseren.
Het algoritme wordt gevoed met grote hoeveelheden data – ook wel Big Data genoemd – om vervolgens de stappen af te lopen waarmee tot het doel (bijvoorbeeld de rechterlijke uitspraak) kan worden gekomen Grote hoeveelheden data zullen pas nuttig worden als de bruikbare informatie uit deze grote hoeveelheden wordt gefilterd. In het kader van dit onderzoek zullen deze grote hoeveelheden gegevens vooral bestaan uit processtukken en eerdere uitspraken betreffende standaardzaken binnen de rechtspraak. Vandaag de dag worden alle gegevens doorgelezen en gefilterd door mensen. Dit is erg arbeidsintensief en kost bovendien veel tijd.
Hier bieden algoritmen een uitkomst. Algoritmen worden ingezet om big data snel te scannen en bruikbare informatie eruit te halen. De bruikbare informatie die overblijft kan vervolgens worden gebruikt bij bijvoorbeeld besluitvorming. Dit proces van informatie halen uit grote hoeveelheden data wordt ook wel ‘Big Data analytics’ genoemd.9
1.2.5. Machine learning
Machine Learning-technieken stellen computers in staat zelf te ‘leren’ om taken uit te voeren, zonder daartoe expliciet geprogrammeerd te zijn, zoals bij regelgebaseerde technieken.10 De algoritmen waar het systeem gebruik van maakt worden niet langer aangepast door mensen, maar het zijn de systemen zelf die regels leren en hun prestaties verbeteren. 11 De basis van machine-learning is patroonherkenning in grote hoeveelheden data. Op basis van grote hoeveelheden trainingsdata, gaat het algoritme op zoek naar verbanden en patronen in die
9 M. Vetzo, J. Gerards, R. Nehmelman, p. 20.
10 M. Vetzo, J. Gerards, R. Nehmelman, p. 43.
11 Marlies van Eck, Mark Bovens & Stavros Zouridis,’Algoritmische rechts toepassing in de democratische rechtsstaat’, NJB 2018/2101
gegevens.12 Door middel van deze techniek wordt Spotify bijvoorbeeld in staat gesteld om nummers aan te bevelen die gelijkenis vertonen met de door de gebruiker eerder geluisterde nummers. Hetzelfde geldt voor Netflix, op basis van het eerdere kijkgedrag en het kijkgedrag van andere netflixgebruikers kan het een aanbeveling vormen voor soortgelijke films of series die een gebruiker ook leuk zal kunnen vinden.Zelflerende algoritmen zijn in staat om
zelfstandig verder te leren op basis van later ingevoerde gegevens en feedback.13 De
algoritmen verbeteren zichzelf door meer gegevens te onderzoeken en extra patronen in die gegevens op te sporen die helpen om tot een betere uitkomst te komen.14
Er kunnen binnen machine learning drie verschillende vormen van leren worden onderscheiden:
- Supervised learning
Bij deze vorm van leren krijgt de computer verschillende trainingsdata ingevoerd, waarbij een datawetenschapper als een soort leraar fungeert. Deze leraar heeft de gegevens, die dienen als input, vooraf gelabeld op een manier die tot de gewenste uitvoer zal leiden. Deze leraar legt uit welke conclusies er moeten worden getrokken uit de ingevoerde data, waardoor het algoritme leert hoe het met deze voorbeelden om moet gaan.15 Het systeem leert zichzelf regels aan, aan de hand van deze trainingsdata, die het vervolgens zelf kan toepassen op nieuw ingevoerde data.
- Unsupervised learning
Bij unsupervised learning is er geen leraar aanwezig en worden er dus ook geen gegevens vooraf gelabeld. De training vindt hier plaats op basis van data die geen labels of vooraf gedefinieerde output hebben. Bij deze vorm van machine learning moet het algoritme dus zelfstandig verbanden ontdekken in de ingevoerde data.16 Unsupervised learning is bijvoorbeeld geschikt om gelijksoortige documenten te doorzoeken om vervolgens de relevante patronen eruit te halen.17
12 S.Kulk & S. Van Deursen, p. 32.
13 S.Kulk & S. Van Deursen, p. 32.
14 Harry Surden, Artificial Intelligence and Law: An Overview, 35 Ga. St. U. L. Rev. (2019).
p. 1312
15 S.Kulk & S. Van Deursen, p. 34.
16 S.Kulk & S. Van Deursen, p. 34.
17 S.Kulk & S. Van Deursen, p. 34.
- Reinforcement learning
Bij reinforcement learning leert het algoritme een taak uit te voeren door het krijgen van beloningen als het algoritme tot een juiste uitkomst is gekomen. Deze vorm van leren is bijvoorbeeld geschikt als er weinige data beschikbaar is. Deze manier van leren kan worden vergeleken met het trainen van een hond. Als de hond iets goed doet krijgt hij een beloning, als de hond het niet goed doet krijgt hij niets. Op deze manier leert het algoritme zichzelf aan welke acties wel en niet goed zijn en welke acties dus wel en niet zullen leiden tot het
beoogde doel. 18
De termen machine learning en AI worden vaak door elkaar gebruikt, maar betekenen niet hetzelfde. Machine learning valt altijd onder AI, maar AI niet altijd onder machine learning.
Zoals in paragraaf 1.2.2. al werd genoemd is AI namelijk een overkoepelende term voor verschillende slimme systemen, waaronder dus machine learning.
1.2.5.1. Deep Learning
Binnen machine-learning kennen we de deep-learning. Deep-learning algoritmen zijn
machine-learning algoritmen die gebaseerd zijn op kunstmatige neurale netwerken, die weer gebaseerd zijn op het menselijk brein en het menselijk brein ook proberen na te bootsen. Dit type algoritme heeft de naam ‘deep-learning’ gekregen omdat het uit verschillende lagen bestaat. Resultaten uit de ene laag worden gebruikt als invoer voor de analyse van een volgende laag. Zo kan er dieper op gegevens worden ingegaan.19
1.2.6. Regelgebaseerde algoritmen
In tegenstelling tot zelflerende algoritmen zijn regelgebaseerde algoritmen te herkennen aan het feit dat zij van tevoren zijn geprogrammeerd volgens een ‘als dit, dan dat’-structuur.20 Dit type algoritme is dus niet in staat om zelf regels aan te leren. Door deze ‘als dit, dan dat’-structuur zal het algoritme bij eenzelfde invoer ook tot eenzelfde uitkomst komen. Gegevens zullen door het algoritme aan elkaar worden gekoppeld wat door de als-dan-redenatie zal
18 S.Kulk & S. Van Deursen, p. 34.
19 M. Vetzo, J. Gerards, R. Nehmelman, p. 43.
20 S. Kulk & S. Van Deursen, p. 30.
leiden tot een voorspelling van de uitkomst.21 Regelgebaseerde algoritmen zijn zeer geschikt voor het automatiseren van beslisbomen voor processen waarin alle denkbare scenario’s vooraf kunnen worden voorzien.22 Dit type algoritme leent zich goed voor het automatiseren van simpele en overzichtelijke besluitvormingsprocessen, zoals dat in luchtvaartzaken het geval is.
1.2.7. Expertsystemen
In zogenoemde expertsystemen wordt gebruik gemaakt van regelgebaseerde algoritmen. Bij expertsystemen wordt er aan de werking van de regelgebaseerde algoritmen een input door experts toegevoegd. Deze expertsystemen gebruiken een down redenatie. Bij een top-down redenatie wordt er vanuit een wettelijk kader, door de inzet van juridische expertise, een voorspelling gedaan van mogelijke uitkomsten23. Een verschil tussen expertsystemen en bijvoorbeeld machine learning is dat bij expertsystemen - het woord zegt het al - gebruik wordt gemaakt van de kennis van experts. Zij zijn in staat om feiten te interpreteren en belangen af te wegen en die kennis in het systeem in te voeren. Waar machine learning gebruik maakt van bekende scenario’s, kan een expertsysteem ook gebruik maken van
scenario’s die nog niet plaats hebben gevonden maar waarvan de mogelijkheid wel al door de experts aan het systeem zijn toegevoegd.24
Expertsystemen zijn interactieve beslisbomen. Deze beslisbomen bestaan uit vragen en antwoorden waarmee snel tot de kern van het geschil kan worden gekomen. Afhankelijk van eerder gegeven antwoorden worden nieuwe of andere vragen gesteld. Op deze manier wordt alle informatie die relevant is voor de beoordeling verzameld. Doordat luchtvaartzaken geen open normen bevatten, zijn deze zaken bij uitstek geschikt voor het automatiseren van beslisbomen.
21 Raad voor de rechtspraak, Algoritmes in de rechtspraak. Wat artificiële intelligentie kan betekenen voor de rechtspraak, Rechtstreeks 2019/2, p.40.
22 S.Kulk & S. Van Deursen, p. 30.
23 Raad voor de rechtspraak, p.42.
24 Raad voor de rechtspraak, p.42.
1.2.8. Narrow en general AI
Zoals in de vorige paragrafen uiteengezet, kan er binnen AI onderscheid worden gemaakt tussen verschillende systemen, zoals regelgebaseerde en zelflerende systemen. AI-systemen kunnen op hun beurt weer worden onderscheiden in verschillende vormen, zoals narrow en general AI.
Narrow AI richt zich op het uitvoeren van één specifieke taak25. Het narrow AI-systeem haalt zijn data uit een specifieke dataset waardoor het dus binnen een vooraf bepaald bereik werkt.
De systemen werken niet buiten dit bereik maar alleen voor de bepaalde taak waarvoor zij ontworpen zijn. Een voorbeeld van narrow AI in het kader van dit onderzoek kan zijn; het analyseren van grote hoeveelheden data, zoals bijvoorbeeld eerder gewezen uitspraken. De specifieke taak die het systeem dan krijgt opgelegd is het leggen van verbanden en het zien van correlaties in deze uitspraken. Zo kunnen in een mum van tijd vele zaken met elkaar worden vergeleken, iets waar een mens veel langer over gedaan zou hebben. Een ander bekend voorbeeld van narrow AI is het Watsonsysteem van IBM.26 Dit systeem won in 2011 de Amerikaanse quiz Jeopardy van de beste menselijke speler. Het systeem won door zelf-aangeleerde kennis. Hiervoor was het van belang dat het systeem de benodigde kennis, die nodig was om de vragen te beantwoorden, uit openbare digitale bronnen kon halen zoals Wikipedia.27
In tegenstelling tot narrow AI, richt general AI zich niet op één specifieke taak, maar is inzetbaar voor onbepaald veel doeleinden, waarbij de menselijke intelligentie wordt evenaart.
Op dit moment is AI nog niet in staat om emoties te vertonen en weloverwogen menselijke beslissingen te nemen.28 General AI is volop in ontwikkeling, maar kan de menselijke intelligentie nog niet evenaren. Als we over AI spreken hebben we het dus over narrow AI.
25 Jajal, T.D., ‘Distinguishing between Narrow AI, General AI and Super AI’, (21-5-2018) <
https://medium.com/mapping-out-2050/distinguishing-between-narrow-ai-general-ai-and-super-ai-a4bc44172e22> geraadpleegd op 2 januari 2021.
26Ferrucci, D. A. (2012). Introduction to ‘This is Watson’. IBM Journal of Research and Development, 56(3.4), 1-1.
27 Ibid.
28 Jajal, T.D.