• No results found

Kunstmatige Intelligentie

In document Algoritmes en grondrechten (pagina 30-34)

- Datawaarneming door sensoren

I.4 Kunstmatige Intelligentie

Het Latijnse homo sapiens staat voor ‘wijze mens’. Intelligentie definieert ons mens-zijn. Maar intelli-gentie is niet voorbehouden aan mensen. Reeds in 1950 stelde de Britse wiskunde Alan Turing de vraag ‘Can machines think?’126 . Deze vraag heeft geleid tot de opkomst van een wetenschappelijke dis-cipline met de naam Kunstmatige Intelligentie (KI) (in het Engels: Artificial Intelligence (AI)). KI richt zich niet op begrip van menselijke intelligentie, maar gaat een stap verder: er wordt gestreefd naar het creëren van intelligente artefacten. Al vroeg werden resultaten geboekt door computers die schaak konden spelen en in 1997 in staat bleken om de beste speler ter wereld te verslaan.127 Ook de winst van IBM’ s supercomputer Watson aan de spelshow Jeopardy in 2011 wordt beschouwd als een mijl- paal in het streven naar Kunstmatige Intelligentie. Watson was in staat om gestelde vragen te inter-preteren en op zoek te gaan naar het antwoord in boeken, tijdschriften en encyclopedieën. Intelligentie kan zich uiteraard op meer manieren manifesteren dan het spelen van schaak of deelname aan een spelshow. De veelheid aan uitingen van intelligentie – variërend van denkprocessen tot intelligent ge- drag – is een van de redenen waarom de discipline Kunstmatige Intelligentie een enorm toepassings-bereik kent.

I.4.1 Definitie, kenmerken en deelgebieden I.4.1.1 Definitie

Het definiëren van KI is niet eenvoudig, voornamelijk omdat het niet duidelijk is wat onder intelligentie moet worden verstaan. De mogelijkheid om over intelligentie te beschikken wordt primair aan mensen toegedicht, maar wat menselijke intelligentie inhoudt is niet volledig helder. De definitie van intelli-gentie wordt daardoor veelal geassocieerd met specifieke uitingsvormen van menselijke intelligentie, zoals het gebruik van taal en leervaardigheid.128 Deze uitingsvormen zijn niet vastomlijnd en op

123 Terry 2016.

124 Comet e.a. 2016, p. 184.

125 Van Hout 2017, p. 1036 wijst hierop.

126 Turing 1950, p. 442.

127 Nilsson 2010; Pandolfini 1997.

128 Scherer 2016, p. 359-360.

zichzelf niet altijd eenvoudig te begrijpen. John McCarthy, pionier op het gebied van KI, heeft in lijn met het voorgaande aangegeven dat ‘the problem is that we cannot yet characterize in general what kinds of computational procedures we want to call intelligent.’129

In hun standaardwerk Artificial Intelligence: A Modern Approach beschrijven Russell en Norvig defini-ties die in twee categorieën kunnen worden onderverdeeld.130 Volgens de definities ziet KI respectie-velijk op:

• Menselijk of rationeel denken: apparaten of machines bezitten KI wanneer zij in staat zijn om beslissingen te nemen, problemen op te lossen en te leren.

• Menselijk of rationeel handelen: apparaten of machines bezitten KI wanneer zij in staat zijn om activiteiten uit te voeren die intelligentie zouden vereisen als ze door mensen zouden wor-den uitgevoerd.

KI richt zich volgens voorgaande definities op artefacten die autonoom opereren, leren, begrijpen, re- ageren op hun omgeving en zich aanpassen aan veranderingen om zo – in het licht van de omstandig-heden – te komen tot ‘een zo goed mogelijke uitkomst’.131

I.4.1.2 Kenmerken

KI wordt gekenmerkt door een hoge mate van autonomie. KI-toepassingen kunnen complexe taken verrichten, zonder menselijke controle of begeleiding. Het aanverwante controleprobleem van KI be-staat daarin dat de mogelijkheid bestaat dat KI-systemen een dusdanige mate van autonomie bezitten dat menselijke controle ervan niet langer mogelijk is. In het verlengende hiervan ligt het kenmerk dat de acties van KI-systemen niet altijd voorspelbaar zijn. In veel instanties wordt het denken dergelijke systemen als creatief of ‘out-of-the-box’ getypeerd, omdat het afwijkt van het menselijke denkpatroon.

Een goede illustratie hiervan is het zelflerende C-path-programma, dat ontdekte dat het onderzoeken van het weefsel rondom kankercellen kan leiden tot realistischer prognoses dan het onderzoeken van de kankercellen zelf. Dit ging in tegen het gezonde verstand en destijds heersende medische opvattin-gen. Dit illustreert dat KI-systemen ‘have the capacity to come up with solutions that humans may not have considered, or that they considered and rejected in favor of more intuitively appealing options.’132 Het C-path-programma laat eveneens zien dat KI nauw verbonden is met data. KI kan worden ingezet ten behoeve van grootschalige data-analyse en is als zodanig nauw verbonden met Big Data.133

KI-systemen worden daarnaast gekenmerkt door hun ondoorzichtigheid. Een recent populairweten-schappelijk artikel in Nature geeft hiervan een goed voorbeeld.134 Computerwetenschapper Dean Po-merleau probeerde al in 1991 een zelfrijdende auto te bouwen. Hiertoe installeerde hij een computer en een camera in een speciaal geprepareerde auto en programmeerde hij een algoritme dat de auto zou kunnen besturen. De computer bleek bij verschillende testen in staat om stukken van een route zelf te rijden. Tot de auto aankwam bij een brug en uitweek naar de rechterzijde van de weg, kon de bestuurder ternauwernood het stuur grijpen en de auto naar links manoeuvreren. Terug in het lab probeerde Pomerleau uit te vinden waar de fout in het algoritme zat, maar dit bleek welhaast onmo-gelijk. 27 jaar later zijn de algoritmes waarop KI gebaseerd is vele malen complexer geworden. De ondoorzichtigheid van KI is navenant toegenomen.

129 McCarty 2007, p. 3.

130 Russell & Norvig 2010, p. 1-5.

131 Idem en McCarthy 2007.

132 Scherer 2016, p. 365.

133 Government Office for Science 2016, p. 5.

134 Castelbechhi 2016.

I.4.1.3 Deelgebieden

KI kent een veelheid aan deelgebieden, waaronder natural language processing (de vaardigheid om gesproken en geschreven taal te verwerken en produceren), expert systems (systemen die kennis van een bepaald gebied hebben en die kennis al redenerend op de feiten van een geval kunnen toepassen, bijvoorbeeld in een medische setting135) en robotica (het bouwen van machines die programmeerbare taken uit kunnen voeren).136 De gebieden overlappen en zijn niet altijd van elkaar te onderscheiden, doordat de onderliggende technologieën en algoritmes overeenkomen.137 De combinatie van ontwik- kelingen in al deze deelgebieden heeft ertoe geleid dat KI een breed spectrum aan toepassingen be-strijkt.

Een belangrijk KI-deelgebied houdt zich bezig met technologieën die computers in staat stellen om te leren zonder hiertoe expliciet geprogrammeerd te zijn: Machine Learning (ML).138 ML is gebaseerd op algoritmes die zijn in staat om te leren op basis van eerdere ervaringen, zogenaamde zelflerende algoritmes. Het is dit zelflerende karakter dat ML-algoritmes onderscheidt van ‘traditionele’ compu- teralgoritmes. Op basis van ML kunnen computersystemen op basis van eerder uitgevoerde handelin-gen, anders reageren onder gelijke omstandigheden en zich aanpassen aan nieuwe omstandighe-den.139 De meest geavanceerde toepassing van ML is Deep Learning.140 Deze technologie is gebaseerd op de werking van neurale netwerken die zijn gemodelleerd naar het menselijk brein en de neuronen die zich daarin bevinden. Het dieplerende algoritme voert hierbij een gelaagde analyse uit, waarbij resultaten uit de ene laag worden gebruikt als input voor de analyse van een volgende laag. Zo kunnen complexe, verborgen verbanden in grote datasets worden ontdekt.141 De onderstaande afbeeldingen illustreren de werking van een eenvoudig en dieplerend neuraal netwerk.142

Bovenstaande netwerken kunnen bijvoorbeeld worden ingezet voor het proces van gezichtsherken- ning. Dit proces kan in een dieplerend neuraal netwerk worden onderverdeeld in verschillende stap- pen. De ‘input’ bestaat dan uit de cameraregistratie van een menselijk gezicht. In de eerste stap wor-den de contouren van het gezicht gedefinieerd. Deze contouren worden beschouwd als een ‘verborgen’

laag in de afbeelding, omdat deze niet vooraf door een programmeur zijn vastgesteld. De resultaten uit deze laag worden gebruikt voor het analyseren van complexere kenmerken binnen de gedefinieerde

135 Definitie afkomstig van Prakken 2018, p. 271.

136 Zie hierover Muller 2017, par. 2.1.

137 Cerka, Grigiene & Sirbikyte 2017, p. 378.

138 Deze definitie is afkomstig van Samuel 1959. Zie ook Rouse 2017.

139 Cerka, Grigiene & Sirbikyte 2017, p. 377.

140 Forbes 2016.

141 Government Office for Science 2016, p. 7.

142 Gill 2017.

contouren, zoals de neus, ogen, oren en mond. In de derde laag worden de verhoudingen tussen de hiervoor omschreven kenmerken gedefinieerd. In de vierde, en laatste, stap worden de resultaten uit de eerdere stappen samengevoegd en vergeleken met informatie afkomstig uit eerdere gezichtsanaly-ses. De output bestaat uit de herkenning van een specifiek gezicht. In een eenvoudig neuraal netwerk kan het herkenningsproces niet worden opgedeeld in verschillende stappen. Het is daardoor voor een eenvoudig neuraal netwerk ondoenlijk om accuraat gezichten te herkennen.143

Zelflerende algoritmes vormt een belangrijke basis om te komen tot knowledge discovery in datasets en worden ingezet op een grote hoeveelheid aan terreinen, variërend van fraudeherkenning en het doen van aanbevelingen in online webshops tot het voorspellen van aandelenkoersen. Het zelflerende algoritme is in staat om vele patronen, verbanden en kenmerken te herkennen in grote hoeveelheden data. Het zelflerende karakter schuilt vervolgens in het zelflerende vermogen van het algoritme en – bij dieplerende algoritmes – de mogelijkheid om gebruik te maken van de neurale netwerken. Eerder herkende patronen worden gebruikt in de data-analyse en het algoritme is in staat zichzelf aan te pas-sen aan eerder gevonden resultaten.

ML is nauw verbonden met Big Data-analyse (datamining) en het functioneren van IoT-applicaties. De in paragraaf I.2.1.2 beschreven datamining-technieken vinden hun grondslag veelal in dieplerende al- goritmes die zijn ontwikkeld binnen het domein van ML. De processen van patroonherkenning, profi- ling, clustering, associatie en (on)begeleide analyse worden dan ook vaak in de context van ML bespro-ken en behoren niet louter tot de Big Data-context.144 Big Data stelt dergelijke algoritmes echter wel in staat om hun zelflerende vermogen maximaal te ontplooien. Data-analyse is daarnaast onontbeerlijk voor het adequaat functioneren van IoT-toepassingen. Hieruit volgt dat Machine Learning een onmis- bare bouwsteen vormt voor de werking van de drie technologieën die de kern vormen van dit onder-zoek.

I.4.2 Toepassingen

Veel van de toepassingen van Big Data en het IoT vertonen raakvlakken met KI. Hieronder worden enkele voorbeelden genoemd die nog niet aan bod zijn gekomen in de paragrafen over Big Data en het IoT.

Robotica: Zorgrobots en autonome wapensystemen

Robotica is een discipline die ziet op het bouwen van robots, dat wil zeggen programmeerbare machi- nes die taken uit kunnen voeren. Robots vormen de fysieke manifestatie van het streven naar KI; ro-botica wordt dan ook wel gezien als een deelgebied van KI.145 Voorbeelden van deze belichamingen van KI zijn zelfrijdende auto’s, zorgrobots en autonome wapensystemen.

• Zorgrobots voorzien in de zorg van kwetsbare groepen als kinderen, ouderen of gehandicap-ten. Dergelijke robots worden geproduceerd in meer en minder geavanceerde varianten. Zo is de robot Robear gericht op het verrichten van een enkele handeling: het uit bed tillen van pa-tiënten.146 Zora de zorgrobot, die in 2016 in Rotterdam werd geïntroduceerd, is in staat om meerdere complexe handelingen te verrichten.147 Zora heeft vele sensoren in haar hoofd,

143 Mayer 2015.

144 Mitchell 1997, p. 1. Zie voor de verschillen Calders & Custers 2013, p. 29. In Russell & Norvig 2010, p. 693-859 wordt de werking van deze algoritmes uitgebreid beschreven.

145 Kool e.a. 2017, p. 16.

146 Kool e.a. 2017, p. 25.

147 ‘Hallo, ik ben Zora de Zorgrobot’, Algemeen Dagblad 12 februari 2016, online via: https://www.ad.nl/rotter-dam/hallo-ik-ben-zora-de-zorgrobot~a1247f01/ (laatst geraadpleegd 8 januari 2018).

handen en voeten en beschikt over richtmicrofoons en camera’s. KI stelt Zora in staat om te praten, luisteren en autonoom te bewegen en te handelen.

Autonome wapensystemen (ook wel ‘killer robots’) zijn KI-gedreven wapens. Dergelijke wa- pens kunnen worden onderverdeeld in drie categorieën: ‘Human-in-the-loop’-wapens, waar- bij op basis van KI doelen worden geselecteerd die slechts worden aangevallen na een mense-lijk commando (denk aan het inzetten van drones)148 ; ‘Human-on-the-loop’-wapens, die doe-len selecteren en aanvallen onder menselijke controle en ‘Human-out-of-the-loop’-wapens, die volledig KI-gedreven zijn. In het laatste geval selecteert de robot zelf zijn doel en valt hij aan zonder menselijke tussenkomst of interactie.149

Gezichts- en emotieherkenning

Zoals in paragraaf I.4.1.3 is omschreven kunnen dieplerende algoritmes worden ingezet ten behoeve van gezichtsherkenning. Een geavanceerde toepassing van gezichtsherkenning is emotieherkenning.

Het bedrijf ‘Emotient’ ontwerpt bijvoorbeeld software die door middel van patroonherkenning op ba-sis van een gezichtsuitdrukking iemands gemoedstoestand kan herkennen en toekomstig gedrag kan voorspellen.150 Deze vorm van emotieherkenning kan onder meer worden ingezet voor het analyseren van de houding van personen ten opzichte van een bepaald product of politieke commercial, voor het bepalen van de gemoedstoestand van patiënten of voor psychologisch onderzoek.151

Het juridische domein

Jaap van den Herik, hoogleraar Informatica en recht, sprak in 1991 zijn oratie uit met de titel ‘Kunnen computers rechtspreken?’152 In het licht van de snelheid van technologische ontwikkelingen lijkt een bevestigend antwoord op deze vraag onvermijdelijk.153 Algoritmes die zijn ontwikkeld binnen de do-meinen natural language processing en machine learning kunnen met een grote mate van zekerheid rechterlijke uitspraken voorspellen of kunnen worden ingezet om de slaagkans van stap naar de rech-ter te voorspellen.154 De voorzitter van de Raad voor de Rechtspraak gaf recent aan dat eenvoudige zaken in de toekomst geautomatiseerd afgedaan kunnen worden.155

In document Algoritmes en grondrechten (pagina 30-34)