De ontwikkelingen op het gebied van technologie en met name kunstmatige intelligentie gaan razendsnel. Bewust en onbewust wordt ons leven steeds meer beïnvloed door algoritmes. Wanneer iemand een taxi via UBER bestelt, zal een algoritme vraag en aanbod bij elkaar brengen en de algoritmes van Facebook bepalen wat men ziet op zijn of haar tijdlijn.148 Ook zoekmachines zoals
Google maken gebruik van algoritmes om onze zoekresultaten te optimaliseren.149
Veel algoritmes maken gebruik van case-based reasoning, de zogeheten case-based algoritmes. Een case-based algoritme gebruikt een database van eerdere cases om een nieuw probleem op te lossen.150 Een algoritme kan daarnaast beschikken over een machine learning vermogen. Dat
houdt in dat het systeem onder of zonder toezicht van een mens getraind wordt.151
De opkomst van deze kunstmatig intelligente systemen zorgt ervoor dat ook in het recht veelvuldig wordt besproken hoe om te gaan met deze veranderingen.
Het Burgerlijk Wetboek is zo opgesteld dat het veranderingen als deze het hoofd zou moeten kunnen bieden. Door het gebruik van open normen wordt het gemakkelijker om in te spelen op toekomstige situatie.152
De maatman is een open norm die veelvuldig wordt gebruikt in het aansprakelijkheidsrecht. De maatman wordt gedefinieerd als een redelijk denkend en redelijk handelend persoon. Het handelen van een persoon wordt beoordeeld aan de hand van de maatman.153 De norm wordt gebruikt voor
de interne en externe aansprakelijkheid van een bestuurder, de aansprakelijkheid van een beroepsbeoefenaar en de aansprakelijkheid van een zorgverlener. De invulling van de norm gebeurt aan de hand van de omstandigheden van het geval en de professionele standaard van de specifieke branche.154Hoe dan ook wordt een bepaalde deskundigheid verwacht en als die
deskundigheid niet aanwezig is, dient men voorzorgsmaatregelen te treffen.155
Wanneer het handelen van mensen vervangen wordt door algoritmes lijkt het voor de hand te liggen om het handelen van het algoritme ook te toetsen aan de maatman die wordt gebruikt voor het menselijk handelen. In de praktijk blijkt het niet eenvoudig te zijn om het handelen van een algoritme te toetsen aan deze maatman. Dit heeft te maken met het feit dat algoritmes vaak niet transparant zijn. De input en de outcome zijn bekend, maar het proces daartussenin is niet te
148Vetzo, Gerards en Nehmelman 2018, p. 31.
149Zie ‘How Google Finds Your Needle in the Web’s Haystack’, online via: http://www.ams.org/samplings/feature-
column/fcarc-pagerank?_sp=9196e030-64b1-48f4-b4f9-5be2ea3f7a1.1515597204154 (laatst geraadpleegd 22 januari 2018).
150Tweede Kamer, ‘Vragenlijst naar gebruik algoritmen binnen de overheid nav debat TK over Digitale
infrastructuur’, 8 november 2017, p. 1-3.
151Samuel 1959, p. 535-554. 152Tjong Tjin Tai 2017, p. 124-125.
153Asser/De Serière 2-IV 2018/105.
154Asser/Tjong Tjin Tai 7-IV 2018/87. 155Asser/Tjong Tjin Tai 7-IV 2018//94.
achterhalen.156 Voor de beoordeling of iemand de juiste inspanning, kwaliteit, zorgvuldigheid
heeft geleverd, is het essentieel om het handelen te kunnen toetsen.
Daarnaast is het niet mogelijk om de norm op dezelfde wijze in te vullen als bij menselijk handelen. Zo is de vereiste mate van deskundigheid moeilijk meetbaar bij een algoritme. Dit heeft te maken met feit dat men algoritmes zelf kan trainen en met het feit dat algoritmes afhankelijk zijn van de beschikbare data. Er bestaan kwantitatieve en kwalitatieve verschillen in de beschikbare data. Wanneer een algoritme beschikbaarheid heeft tot weinig of slechte data zal het minder goed kunnen worden getraind.157
De professionele standaard van een branche in de vorm van gedragscodes, regelgeving en protocollen speelt een belangrijke rol bij de invulling van de maatman. De huidige professionele standaarden bevatten nauwelijks tot geen bepalingen met betrekking tot het gebruik van algoritmes. De bepalingen die van toepassingen kunnen zijn op algoritmes zijn niet zijn specifiek genoeg.
Tot slot lijkt het dat de huidige maatman in de toekomst een te lage norm zal zijn. Op dit moment kan het handelen van een algoritme worden getoetst aan het handelen van een mens, maar het ligt in de lijn der verwachting dat een algoritme op termijn beter en sneller kan handelen dan een mens. Mocht dat scenario zich voltrekken, dan lijkt het niet meer dan logisch om het handelen van het algoritme niet langer te toetsen aan het handelen van een mens.
De oplossing voor de geschetste problemen kan worden gevonden in een nieuwe invulling van de professionele standaard per branche. De gedragscodes, regels en protocollen dienen specifieke regels te bevatten met betrekking tot het inzichtelijk en begrijpelijk maken van het handelen van algoritmes. Hierdoor kan het handelen getoetst kan worden aan de factoren die van belang zijn voor de invulling van de maatman.
Een uitdrukkelijke schriftelijk toestemmingsvereiste voor het gebruik van een algoritme zou voor iedere beroepsgroep moeten worden opgenomen met een daaraan verbonden informatieplicht over de mogelijke risico’s. Daarnaast dienen basis voorzorgsmaatregelen te worden getroffen. Een voorbeeld zou kunnen worden genomen aan de regels voor algorithmic trading van de FINRA.158
De focus moet hierbij liggen op transparantie en begrijpelijkheid van het algoritme. Indien het algoritme niet transparant is en niet begrijpelijk, kan onmogelijk worden gemeten of het algoritme de juiste inspanning, kwaliteit en zorgvuldigheid heeft geleverd. Deze voorzorgsmaatregelen dienen vooraf te worden getroffen door de programmeur of de personen die het systeem trainen.159
Wanneer een of meer van deze voorzorgsmaatregelen niet zijn getroffen, wordt niet voldaan aan de maatman. Door de bewijslast op de persoon te leggen die het algoritme laat handelen, kan worden bewerkstelligd dat men, voordat het een algoritme voor zich laat handelen, de juiste voorzorgsmaatregelen treft.160
156Wagner 2017, p. 5.
157Barocas & Selbst 2016, p. 671.
158 ‘Algorithmic Trading’, finra.org/industry/algorithmic-trading. 159Vetzo, Gerards en Nehmelman 2018, p. 48-49.
Het nauwkeurig labelen van data zou ervoor kunnen zorgen dat het algoritme zich minder voedt met onzuivere data.161 Door de data zorgvuldig te classificeren en te categoriseren, neemt de kans
op een bias af.162
Indien het handelen van algoritmes inzichtelijk en begrijpelijk is, kan het getoetst worden aan de factoren die van belang zijn voor de invulling van de maatman.
De deskundigheid van een algoritme zou kunnen worden gemeten aan de hand van succespercentages. Het succespercentage wordt bepaald aan de hand van verschillende testen in de testfase.163 De maximale score van een test is 100%. Hoe hoog het minimale succespercentage
zal moeten zijn, wordt bepaald aan de hand van wat maatschappelijk geaccepteerd is. Indien een algoritme onder het maatschappelijk geaccepteerde percentage zit, bezit het algoritme niet de juiste deskundigheid en dienen dus extra voorzorgsmaatregelen te worden getroffen. Tijdens de testfases is het van groot belang dat dit zorgvuldig gedocumenteerd wordt.
Specifieke bepalingen in de professionele standaarden zullen moeten zorgen voor verdere invulling van de maatman. Op de lange termijn lijkt het voor de hand te liggen om het handelen van een algoritme niet langer aan het handelen van een mens te toetsen. Naar verwachtingen zullen algoritmes in de toekomst beter en sneller kunnen handelen dan mensen.164 Het handelen van een
algoritme zou dan getoetst moeten worden aan het handelen van een goed functionerende algoritme.
Geconcludeerd kan worden dat het noodzakelijk is om regels op te stellen zodat het handelen van algoritmes überhaupt te toetsen is. Wanneer het handelen begrijpelijk en transparant is, kan worden getoetst aan de factoren die van belang zijn voor de invulling van de maatman. Deze voorzorgsmaatregelen zouden moeten worden opgenomen in professionele standaarden van de branches. Factoren zoals zorgvuldigheid en inspanning kunnen dan vervolgens worden beoordeeld.
Een aantal andere factoren zullen anders moeten worden ingevuld. Zo zal de factor deskundigheid moeten worden gemeten aan de hand van succespercentages omdat dit niet op dezelfde wijze kan worden gemeten als de menselijke deskundigheid.
De vraag die de toekomst moet beantwoorden, is of de huidige maatman, die het menselijk handelen als uitganspunt neemt, over een aantal jaren nog houdbaar is. Naar verwachting kunnen algoritmes in de toekomst sneller en beter handelen dan mensen. Het lijkt dan niet geheel onlogisch het handelen van een algoritme dan niet meer te toetsen aan het handelen van een mens. Een nieuwe maatman: handelen als een goed functionerend algoritme, zou dan niet misstaan.
161Reese, 2016.
162 ‘What is Data Labeling?’, SYKES Global Youtube 11 juli 2018. 163Prakken 2018, p. 270-271.