Handelen als een goed functionerend algoritme

(1)

Handelen als een goed functionerend algoritme Naam: R.H. Hosselet

Studentnummer: 11932562

E-mail en telefoonnummer: bobhosselet@gmail.com 0627111784 Mastertrack: Commerciële rechtspraktijk

Begeleider: E. Verhulp & R.D. Rietveld

Onderzoeksvraag: Hoe wenselijk is een nieuwe invulling van de maatman indien het menselijk

handelen wordt vervangen door een algoritme?

Inleverdatum versie 1: 14 juni 2019

(2)

Abstract

In dit onderzoek is een klassiek juridische methode gebruikt. Voor het onderzoek is gebruik gemaakt van Nederlandstalige en Engelstalig juridisch-wetenschappelijke literatuur en Nederlandse rechtspraak. Het onderzoek bestaat uit een normatief en descriptief onderzoek.

Het onderzoek staat in het teken van de hoofdvraag: Hoe wenselijk is een nieuwe invulling van de maatman indien het menselijk handelen wordt vervangen door een algoritme? De hoofdvraag dient normatief te worden benaderd en is in drie gedeeltes opgedeeld. Eerst wordt descriptief ingegaan op de vraag wat een maatman is en hoe het wordt ingevuld. Hierin komt duidelijk naar voren dat een maatman een maatstaf is om de zorgvuldigheid van het handelen te beoordelen. Om het onderwerp voldoende af te bakenen, is gekozen om ‘slechts’ drie maatmannen te behandelen. Deze maatmannen dienen in het verloop van het onderzoek als voorbeeld.

Vervolgens wordt de vraag, wat is een algoritme, descriptief behandeld. Ook hier is gekozen voor een duidelijke afbakening. Het woord algoritme kan worden gezien als een kapstok-begrip. Het is daarom in het belang van het onderzoek duidelijk te maken wat in dit onderzoek bedoeld wordt met een algoritme. In dit kader is gekozen voor een duidelijke verdeling in case-based en

rule-based algoritmes. Daarnaast wordt uiteengezet wat wordt bedoeld met machine learning. De focus

in dit onderzoek ligt op case-based algoritmes met machine learning vermogen.

In het laatste gedeelte wordt beschreven hoe het handelen van een algoritme getoetst kan worden aan een huidige maatman, welke problemen bij het toetsen van het handelen komen kijken en mogelijke oplossingen voor deze problemen.

Bij het toetsen van het handelen van een algoritme aan een maatman komt vrijwel meteen naar voren dat het vaak niet mogelijk is te achterhalen hoe een algoritme heeft gehandeld. Het wordt zo onmogelijk gemaakt om het handelen te beoordelen. Daarnaast is het niet duidelijk hoe de deskundigheid van een algoritme kan worden bepaald.

Geconcludeerd kan worden dat een nieuwe invulling van de maatman noodzakelijk is wanneer een algoritme het menselijk handelen vervangt. De nieuwe invulling moet door middel van voorzorgsmaatregelen zorgen voor transparantie en begrijpelijkheid van het handelen van algoritmes. Indien het handelen transparant en begrijpelijk is, kan het getoetst worden op de factoren die van belang zijn voor de invulling van de maatman. De factor van de vereiste deskundigheid is moeilijk te toetsen bij een algoritme. Oplossing hiervoor zou zijn om de deskundigheid aan de hand van succespercentages te bepalen.

Tot slot kan de vraag worden opgeworpen of het handelen van een algoritme in de toekomst nog wel aan de huidige maatman getoetst kan worden. Naar verwachting zullen algoritmes beter en sneller kunnen handelen dan mensen. Het toetsen van het handelen van een algoritme aan het handelen van een mens lijkt dan onlogisch. Gekozen kan worden voor een nieuwe maatman voor algoritmes: handelen als een goed functionerend algoritme.

(4)

1 Inleiding

Toen de Tsjechische schrijver Karel Čapek het woord ‘robota’ introduceerde in zijn toneelstuk, voorzag niemand dat dit verzinsel wel eens tot onze realiteit zou kunnen behoren. Het woord ‘robota’ is een Tsjechisch begrip dat 'werk' of 'verplichte arbeid' betekent.1_{Het woord ‘robot’ zoals}

wij het kennen, is daar overduidelijk direct van afgeleid.

Met de uitvinding van de computer in 1946 werd de eerste stap gezet richting een ´echte´ robot. Nadat verschillende robots de revue passeerden in films, denk aan R2-D2 in Star Wars, werd dit verzinsel van Čapek steeds realistischer.2

Het begrip robot werd met de jaren verder uitgewerkt en zo leerde men steeds meer verschillende robots kennen. Uiteindelijk is het begrip robot losgelaten en worden robots nu kunstmatige intelligente systemen genoemd. Tot voor kort handelden deze systemen slechts op bevel van menselijk gezag, maar tegenwoordig kunnen deze systemen ook geheel autonoom handelen. De bekendste voorbeelden van deze autonoom handelende systemen zijn de gevechtsdrone en de zelfrijdende auto.

De komst van deze autonome systemen brengt een hoop voordelen, maar het zorgt ook voor een hoop gefronste wenkbrauwen. Zo bestaat de angst dat de komst van deze technologische ontwikkelingen zal zorgen voor meer werkloosheid, omdat verschillende banen geautomatiseerd kunnen worden. Daarnaast hebben ook een aantal dodelijke ongelukken plaatsgevonden doordat drones in de weg vlogen en tijdens verschillende testen met zelfrijdende auto’s.3

De angst voor technologische ontwikkelingen lijkt van alle tijden te zijn. Zo waren er in de 18e eeuw de Luddieten, die de strijd aangingen tegen de oprukkende industrialisering en ten tijde van de introductie van de computer vreesde men ook voor een toename van de werkloosheid.4

Achteraf gezien, kan geconcludeerd worden dat de industrialisering veel werk heeft opgeleverd en in de ICT-sector is juist veel vraag naar arbeidskrachten, maar of dit wederom het geval zal zijn, kan over gediscussieerd worden.5

Ook in de juridische wereld zijn de opkomende technologische ontwikkelingen gesprek van de dag. Hevige kritiek brak bijvoorbeeld uit toen een recruitment tool van Amazon bleek te discrimineren. Het systeem werd getraind met data en trok daaruit zelf de conclusie dat vrouwen niet in het gewenste profiel pasten.6

Een ander onderwerp, waar veel over wordt gesproken, is de mogelijke introductie van een robotrechter. Het lijkt voorbarig om te denken dat een robotrechter op de korte termijn de rechter zal vervangen. Uit onderzoek met het zogeheten EVRM-algoritme blijkt dat een robotrechter wel

1_{Nijenhoff, Het Vaderland:Staat- en letterkundig nieuwsblad 23 maart 1928.} 2_{Tjong Tjin Tai 2017, p.123.}

3_{Custers 2018, p.235.}

4_{Tielbeke, De Groene Amsterdammer 16 mei 2018.} 5_{Dusarduijn 2019, p.120.}

(5)

uitkomsten van een zaak voor een gedeelte goed kan voorspellen, maar voorspellen is minder gecompliceerd dan beslissen en motiveren. Daarnaast blijkt dat de robotrechter geen nieuwe uitspraken kan voorspellen. De robotrechter heeft namelijk een substantieel deel de tekst van de “nieuwe” uitspraak nodig om de uitkomst van diezelfde uitspraak te kunnen voorspellen. Wat misschien eerder tot de realiteit zal behoren, is dat een robotrechter routinezaken afdoet. Deze zaken hebben een eenduidige uitkomst en hebben niet met complexe bewijs- en interpretatieproblemen te maken. Toch treden ook bij dit soort zaken problemen op die niet eenvoudig door een robotrechter op zijn te lossen. Het is dus nog maar de vraag wanneer we de robotrechter voor het eerst zullen zien.7

Toen vier jaar geleden het bedrijf Deep Knowledge Ventures uit Hong kong verkondigde dat ze een robot, genaamd Vital (Validating Investment Tool for Advancing Life Sciences), tot bestuurder hadden benoemd, dacht men eerst aan een slechte grap. Vital zou als gelijkwaardig lid van het bestuur fungeren en zou de bevoegdheid hebben beslissingen te nemen over financiële onderwerpen. Achteraf bleek dat er geen sprake was van een robot-bestuurder, maar van een programma als waarnemend lid van het bestuur.8_{Toch heeft de situatie met Vital de juridische}

wereld aan het denken gezet. In het Europees Parlement heeft men al nagedacht over het maken van een legal framework en werd de vraag gesteld of er niet een bepaalde rechtspersoonlijkheid voor dit soort systemen moet worden gecreëerd. Experts op het gebied van kunstmatig intelligente systemen vinden echter dat we daarmee de capaciteiten van de systemen op dit moment overschatten.9

Met de komst van deze ontwikkelingen wordt regelmatig de vraag gesteld hoe het Nederlands rechtssysteem omgaat met fouten die worden gemaakt door deze intelligente systemen. Biedt ons wetboek voldoende aansluiting op de huidige en toekomstige technologische ontwikkelingen? Met betrekking tot de zelfrijdende auto werd besloten dat de bestuurder verantwoordelijk is, tenzij sprake is van een productiefout, maar is dit wel een realistisch uitgangspunt?10

Ook bij beroepsbeoefenaren zoals advocaten en artsen is een toename te zien in het gebruik van kunstmatige intelligente systemen als hulpmiddel bij hun werkzaamheden en het ligt in de lijn der verwachting dat dit zal toenemen.11

De vraag die bij menig jurist meteen zal rijzen, is wie aansprakelijk is wanneer iemand op basis van gegevens van deze systemen een beslissing neemt of wanneer deze systemen autonoom

7_{Prakken 2018, p. 274.} 8_{De Roo 2018.}

9_{Kortmann 2018, p. 1969-1971.}

10_{Ministerie van Infrastructuur en Waterstaat,}_{Vraag en antwoord, ‘Wie is aansprakelijk bij een ongeluk met een}

zelfrijdende auto?’.

(6)

beslissen. Zal net zoals bij de zelfrijdende auto de producent, de handelende persoon zelf of wellicht iemand anders aansprakelijk zijn?12

In het huidig rechtssysteem meet de rechter het handelen van personen aan de hand van “een maatman”. Wanneer een bestuurder een verkeerde beslissing maakt waardoor het bedrijf failliet gaat, een advocaat die tijdens een due diligence onderzoek iets belangrijks over het hoofd ziet of een arts die een fout maakt waardoor iemand overlijdt, zal de rechter het handelen toetsen aan een maatman.13_{Men dient te handelen als een weldenkend persoon, maar als een kunstmatig intelligent}

systeem werkzaamheden van de mens overneemt, moet het systeem dan ook aan de maatman worden getoetst? Is de huidige maatman nog wel te handhaven of dient er een andere norm te worden gehanteerd?

De vraag die in dit onderzoek wordt behandeld, sluit hierbij aan: “Hoe wenselijk is een nieuwe invulling van de maatman indien het menselijk handelen wordt vervangen door een algoritme?”. Het doel van het onderzoek is om in kaart te brengen hoe het handelen van algoritmes getoetst kan worden als in de toekomst algoritmes handelingen van ons gaan overnemen. De hoofdvraag moet normatief worden bekeken en zal worden opgesplitst in drie gedeeltes.

Eerst zal het onderzoek ingaan op drie verschillende maatmannen om zo helder voor ogen te krijgen wat de huidige richtlijnen binnen het recht zijn. Dit zal op basis van descriptief onderzoek worden behandeld. Vervolgens wordt ingegaan op de vraag wat een algoritme is. De focus zal bij dit gedeelte liggen op case-based systemen, maar om een duidelijke context te schetsen, zullen ook andere soorten systemen worden besproken. Ook deze deelvraag zal op basis van descriptief onderzoek worden behandeld. Tot slot zal er gekeken worden naar hoe het recht zal moeten anticiperen op de toename in het gebruik van case-based algoritmes.

12_{Tjong Tjin Tai 2017, p.125.} 13_{Asser/De Serière 2-IV 2018/105.}

(7)

2 Wat is een maatman?

2.1 Introductie

In de Romeinse oudheid werd de betrachte zorgvuldigheid bij een handeling afgewogen tegen de zorgvuldigheid van een ‘bonus pater familias’, een goede huisvader. Dit was een hypothetische persoon die als maatstaf werd genomen.14_{Wanneer tegenwoordig de burgerlijke rechter beoordeelt}

of een bepaald handelen zorgt voor aansprakelijkheid, gaat hij ook uit van een bepaalde maatstaf. Hij maakt een veronderstelling van hoe normaal gesproken door een normaal handelend persoon in dezelfde situatie zou worden gehandeld, een zogeheten gedragspresumptie.15_Deze

gedragspresumptie van een vergelijkbaar persoon in dezelfde situatie wordt de maatman genoemd. De rechter bepaalt op die manier objectief hoe iemand in bepaalde omstandigheden had behoren te handelen, of welke gevolgen voor zijn of haar rekening behoren te komen.16_{De reden voor het}

gebruik van de maatman is dat het anders lastig zou zijn om de juiste wijze van handelen te bepalen in een onbepaalde reeks van mogelijke situaties. Voorafgaand is het onmogelijk om alle scenario’s te bepalen en uit te sluiten.17

De maatman is een open norm en de invulling daarvan zal vaak afhankelijk zijn van de omstandigheden van het geval. Binnen het burgerlijk recht is de maatman een breed gedragen begrip. De norm geeft de burgerlijke rechter een ijkpunt vanuit waar hij kan redeneren. De rechter kan de norm gebruiken als een soort meetlat waarmee hij kan vaststellen of mogelijk sprake is van onrechtmatig handelen of wanprestatie door een bepaald persoon in een bepaalde situatie.18

Het beginsel maatman wordt ook veelvuldig gebruikt in het arbeidsrecht waar het onder andere wordt toegepast om vast te stellen hoe een goed werkgever zich moet gedragen en om het loon van een werknemer te berekenen bij arbeidsongeschiktheid. Dit is een andere maatman dan de maatman die in dit onderzoek wordt behandeld. De maatman uit het arbeidsrecht ziet met name op de goede werkgever, de werkgever met een re-integratieverplichting, de werkgever die zorg draagt voor de veiligheid op de werkvloer en tot slot helpt de maatman bij het bepalen van de mate van arbeidsongeschiktheid.19

In de hiernavolgende paragrafen zullen drie verschillende maatmannen worden besproken om een duidelijk beeld te geven van het beginsel maatman. Dit is van belang om uiteindelijk de hoofdvraag te kunnen beantwoorden. Er zal aandacht worden besteed aan de factoren die van belang zijn om te voldoen aan de maatman norm. De reden voor het kiezen van de hierna besproken maatmannen,

14_{Tjong Tjin Tai 2006, p. 79-80.} 15_{Broekhuijsen-Molenaar 2008, p. 35.} 16_{R. Schwitters 2008, p. 207.}

17_{Tjong Tjin Tai 2006, p. 110-111.} 18_{Asser/De Serière 2-IV 2018/105.} 19_{Broekhuijsen-Molenaar 2008, p. 37-38.}

(8)

is dat het in alle drie de gevallen gaat om een overeenkomst tussen gelijkwaardige partijen. Er is geen sprake van een ‘zwakkere’ partij die beschermd dient te worden.

2.2 Korte schets van het Nederlands aansprakelijkheidsrecht

2.2.1 Buitencontractuele aansprakelijkheid

Alvorens de verschillende maatmannen te bespreken, zal eerst aansprakelijkheid in het algemeen behandeld worden om zo een duidelijke context te schetsen. De maatman is een onderdeel van het aansprakelijkheidsrecht en daarom is het belangrijk om eerst de aansprakelijkheid in het algemeen te behandelen. Het niet in overeenstemming handelen met de maatman zal in veel gevallen tot aansprakelijkheid leiden.20

In Nederland wordt onderscheid gemaakt tussen contractuele aansprakelijkheid en buitencontractuele aansprakelijkheid. Wanneer de aansprakelijkheid berust op een buitencontractuele situatie, dan kan op basis van een onrechtmatige daad de wederpartij worden aangesproken, artikel 6:162 BW.

Artikel 6:162 BW kent verschillende mogelijkheden om iemand aansprakelijk te stellen voor zijn eigen handelen of nalaten. In dit onderzoek zal ik alleen het handelen en nalaten in strijd met hetgeen volgens ongeschreven recht in het maatschappelijk verkeer betaamt behandelen. In dit kader is de gevaarzetting een belangrijk leerstuk.21_{Wanneer er gevaren worden gerealiseerd die}

onrechtmatig tot stand zijn gekomen, kan men aansprakelijk zijn. Een voorbeeld is het dweilen van een vloer: dit is geen verboden handeling, maar als er geen voorzorgsmaatregelen worden getroffen zodat onvoorzichtige personen niet uitglijden, kan dit wel een onrechtmatige daad opleveren.22

Zoals eerder gezegd, kan men aansprakelijk zijn voor het eigen handelen, maar ook voor het nalaten om te handelen.23_{Met nalaten kan worden bedoeld het niet treffen van}

voorzorgsmaatregelen terwijl je wel gevaren hebt geschapen, maar ook de zorg die je hebt met betrekking tot een objecten die bepaalde gevaren in het leven kunnen roepen.24

Daarnaast bestaat er de aansprakelijkheid voor roerende zaken. Artikel 6:173 BW behandelt de aansprakelijkheid voor roerende zaken. “De bezitter van een roerende zaak waarvan bekend is dat

zij, zo zij niet voldoet aan de eisen die men in de gegeven omstandigheden aan de zaak mag stellen, een bijzonder gevaar voor personen of zaken oplevert, is, wanneer dit gevaar zich verwezenlijkt, aansprakelijk, tenzij aansprakelijkheid op grond van de vorige afdeling zou hebben ontbroken indien hij dit gevaar op het tijdstip van ontstaan daarvan zou hebben gekend.” De bezitter van de

20_{Peter, in: GS Onrechtmatige daad VI.1.6.0 (online, laatst bijgewerkt op 19 juli 2017).}

21_{HR 31-01-1919, ECLI:NL:PHR:1919:AG1776, m.nt. Molengraaff (Lindenbaum/Cohen).}

22_{HR 05-11-1965, ECLI:NL:PHR:1965:AB7079, m.nt. G.J. Scholten (Coca Cola/Duchateau (Kelderluik)).} 23_{Tjong Tjin Tai 2007, p. 2540-2546.}

(9)

zaak is dus aansprakelijk als er schade is en als een gebrek is aan te wijzen. De tenzij-clausule bepaalt dat iemand niet aansprakelijkheid is indien de zaak op een manier handelt die in het geval van een mens niet tot aansprakelijkheid leidt.25

Indien het gaat om een gebrekkig product die door een producent in het verkeer is gebracht en daardoor schade toebrengt, kan de producent aansprakelijk worden gesteld.26

2.2.2 Contractuele aansprakelijkheid

Indien een contractuele verplichting niet wordt nagekomen zal op basis van wanprestatie, artikel 6:74 BW, de wederpartij kunnen worden aangesproken. Het is hierbij belangrijk dat sprake is van een toerekenbare tekortkoming en de nakoming van de prestatie moet blijvend onmogelijk zijn. De eiser stelt dat sprake is van een toerekenbare tekortkoming, maar de bewijslast dat de tekortkoming niet toerekenbaar is, ligt bij de schuldenaar.27

Daarnaast is het essentieel dat sprake is van een enige vorm van schade en dat een causaal verband bestaat tussen de tekortkoming en de schade. De eiser moet bewijzen dat sprake is van een causaal verband, tenzij de omkeringsregel van toepassing is. De omkeringsregel is van toepassing indien de wanprestatie een schending van een norm is die juist als doel heeft het voorkomen van een specifiek gevaar waardoor schade kan ontstaan. Degene die zich op schending van deze norm beroept, moet aannemelijk hebben gemaakt dat het specifieke gevaar waartegen de norm beschermt, is verwezenlijkt.28_{Hierdoor wordt het causaal verband tussen de wanprestatie en het}

ontstaan van de schade aangenomen, tenzij de schuldenaar bewijst dat de schade ook zonder zijn tekortkoming zou zijn ontstaan.29

In het kader van een contractuele aansprakelijkheid is de vraag van belang of het om een resultaats- of inspanningsverbintenis gaat. Wanneer sprake is van een resultaatsverbintenis, dan staat met het niet-behalen van het resultaat de tekortkoming vast. Bij een inspanningsverbintenis moet de wederpartij stellen en zo nodig bewijzen dat de beroepsbeoefenaar zich onvoldoende heeft ingespannen om een bepaald resultaat te bereiken. Een voorbeeld van een inspanningsverbintenis is de verbintenis tussen de arts en zijn patiënt. De verbintenis houdt niet in dat de arts de patiënt moet genezen, maar houdt in dat de arts zich voldoende moet inspannen voor de genezing van de patiënt. Ook de verbintenis tussen de advocaat en zijn cliënt geldt als een inspanningsverbintenis.30

In het geval van een opdracht zou de opdrachtnemer op basis van het tekortschieten in de zorgplicht die op hem rust, kunnen worden aangesproken, artikel 7:401 BW. De jurisprudentie omtrent de zorgplicht spreekt over een zorgvuldigheid die van een redelijk bekwaam en redelijk handelend

25_{Tjong Tjin Tai 2017, p.128.}

26_{Lankhorst, in: T&C Burgerlijk Wetboek, art. 6:185 BW, aant. 1.} 27_{Olthof, in: T&C BW, Burgerlijk Wetboek, art. 6:74 BW, aant. 2.} 28_{Olthof, in: T&C BW, Burgerlijk Wetboek, art. 6:74 BW, aant. 2.} 29_{HR 23-11-2012, ECLI:NL:HR:2012:BX7264 (Gynaecoloog).}

(10)

beroepsbeoefenaar mag worden verwacht. Het handelen van een beroepsbeoefenaar wordt zowel bij contractuele als bij buitencontractuele aansprakelijkheid aan de maatman getoetst.31_De

zorgverlener zal worden aangesproken op basis van artikel 7:453 BW. Tussen arts en patiënt wordt een behandelingsovereenkomst gesloten. Een arts mag een behandeling niet weigeren maar als de behandeling onverenigbaar is met de professionele standaard dan mag hij wel weigeren. Daarnaast mag een arts niet zomaar de overeenkomst beëindigen, terwijl de patiënt de overeenkomst altijd kan beëindigen, artikel 7:460 BW.

2.3 De maatman van artikel 7:401 BW

2.3.1 Artikel 7:401 BW

Artikel 7:401 BW wordt beschouwd als een lex specialis van de algemene regel van het contractenrecht die bepaalt dat de schuldenaar de zorg van een goed schuldenaar moet betonen (artikel 6:27 BW).32_{Het artikel ziet met name op hoe een opdrachtnemer zijn werkzaamheden}

dient te verrichten. De letterlijke tekst van het artikel luidt dan ook: “De opdrachtnemer moet bij

zijn werkzaamheden de zorg van een goed opdrachtnemer in acht nemen”. Hoewel de letter van

het artikel alleen spreekt over een opdrachtnemer, heeft de wetgever ook de bedoeling gehad beroepsbeoefenaars hieronder te plaatsen.33

Het doel van het artikel is de opdrachtgevers te beschermen tegen ondeskundige opdrachtnemers en te voorkomen dat opdrachtgevers met schade blijven zitten die mogelijkerwijs wordt veroorzaakt door de opdrachtnemer of aan hem verbonden derden. Vóór september 1993 zag artikel 7:401 BW slechts op lastgeving. Met lastgeving wordt gedoeld op de situatie waarbij de ene partij, de lasthebber, voor rekening van een andere partij, de lastgever, rechtshandelingen verricht. Na september 1993 werd artikel 7:401 BW op iedere vorm van opdracht van toepassing.34

De reden voor deze verandering was het overzichtelijker maken van Boek 7. Verondersteld werd dat men zelf wel een onderscheid kan maken tussen het plaatsen van een motoronderdeel in een auto (aanneming van werk) en het plaatsen van een pacemaker in een patiënt (behandelingsovereenkomst).35

2.3.2 Artikel 7:401 BW in de jurisprudentie

De regel van artikel 7:401 BW is in de jurisprudentie verder uitgewerkt. De opdrachtnemer handelt als een goed opdrachtnemer indien hij heeft gehandeld zoals een redelijk bekwaam en redelijk handelend vakgenoot te werk zou zijn gegaan. De opdrachtnemer dient enige deskundigheid te hebben en dit wordt zeker verwacht indien de opdrachtnemer een professional is of zich naar de

31_{Peter, in: GS Onrechtmatige daad VI.1.6.0 (online, laatst bijgewerkt op 19 juli 2017).} 32_{Asser/Tjong Tjin Tai 7-IV 2018/93.}

33_{Kamerstukken I 1992-93, 17 779, nr. 95b, p. 1.}

34_{Nijland, in GS Bijzondere overeenkomsten, art. 7:401 BW, aant. A (online, laatst bijgewerkt op 25 mei 2016).} 35_{Kamerstuknummer II 1991-92, 17779 ordernummer 8, p. 2.}

(11)

opdrachtgever als een professionele partij presenteert.36_{‘”van een automonteur die in opdracht} van zijn buurman in zijn vrije tijd een reparatie aan diens auto verricht, mag meer worden verwacht dan van de sleutelende overbuurman die het ‘wel eens wil proberen”.’37_{Indien de}

opdrachtnemer het vereiste niveau van deskundigheid niet bezit, wordt toch verwacht dat hij in ieder geval op een bepaald niveau handelt. Dit uit zich dan doordat extra voorzorgsmaatregelen worden getroffen, nadere controles worden uitgevoerd of nader onderzoek wordt verricht om benodigde kennis te verwerven, ook als een bekwaam vakgenoot dat niet nodig zou hebben. De opdrachtnemer staat hoe dan ook in voor een minimaal benodigd niveau van zorg dat noodzakelijk is om de opdracht in elk geval met redelijke kans van slagen tot een goed einde te brengen. De norm van artikel 7:401 BW wordt gezien als een zorgplicht en deze zorgplicht wordt verder ingekleurd door de omstandigheden van het geval.38_{Omstandigheden die van invloed zijn op de}

zorgplicht zijn bijvoorbeeld:

1) De concrete overeenkomst: wat staat concreet in de overeenkomst? Zijn bijvoorbeeld nadere instructies opgenomen, is een beoogd resultaat opgenomen of is sprake van een algemene belangenbehartiging?

2) De aard van de opdracht en het betrokken belang van de opdrachtgever. Is bijvoorbeeld sprake van een inspannings- of resultaatsverplichting.

3) Branche of beroep van de opdrachtnemer. Te denken valt aan regels en gebruiken die van toepassing zijn op een vakgebied of branche. Deze regels zijn soms aanvullend en soms dwingend.39_{Zo werkt de advocatuur met een professionele standaard, die een handelen}

veronderstelt met de zorgvuldigheid die van een redelijk bekwaam en redelijk handelend advocaat in de gegeven omstandigheden mag worden verwacht.40

4) De persoon van de opdrachtnemer: van een beroemde specialist op zijn vakgebied wordt meer verwacht dan van een onbekende vakgenoot. Naarmate meer deskundigheid aanwezig is, worden meer eisen gesteld aan de kwaliteit van de verrichtingen van de opdrachtnemer. Dit houdt onder andere in dat hij zich op de hoogte houdt van ontwikkelingen op zijn vakgebied.

5) De persoon van de opdrachtgever. Dit is bijvoorbeeld belangrijk als de opdracht specifiek is gericht op de opdrachtgever, zoals bij een medische behandeling. Een ander voorbeeld is het beheren van iemand zijn vermogen. Belangrijk kan dan het doel van het vermogen zijn en de omstandigheid dat de opdrachtgever nog andere inkomsten heeft.41

Ook contractuele factoren kunnen van invloed zijn op de zorgplicht van de opdrachtnemer. Het kan bijvoorbeeld zo zijn dat de opdrachtnemer zijn diensten zelf heeft aangeboden. Hierdoor mag de opdrachtgever over het algemeen meer deskundigheid verwachten van de zijde van de

36_{Asser/Tjong Tjin Tai 7-IV 2018//94.} 37_{Croes 1995, p. 225-226.}

38_{HR 9 juni 2000, ECLI:NL:HR:2000:AA6159.} 39_{Asser/Tjong Tjin Tai 7-IV 2018/87.}

40_{HvD 20 september 2013, nr. 6747, ECLI:NL:TAHVD:2013:260.} 41_{Asser/Tjong Tjin Tai 7-IV 2018/97.}

(12)

opdrachtnemer dan wanneer de opdrachtgever de opdrachtnemer benadert om de opdracht uit te voeren.

Objectieve beperkingen kunnen ook van invloed zijn op de zorgplicht bij het uitvoeren van de opdracht. Gedacht moet dan worden aan een verzoek voor een spoedklus of dat slechts een beperkte vergoeding is afgesproken. Bij een spoedklus is sprake van een tijdsdruk waardoor het niet altijd mogelijk is om de opdracht grondig en volledig af te ronden en ook wanneer sprake is van een beperkte vergoeding, is het niet altijd mogelijk om een grondig en volledig resultaat af te leveren. In dit geval moet de opdrachtgever begrijpen dat opdrachtnemer niet alle aspecten van een vraagstuk kan belichten door de tijdsdruk of door het beperkte budget.42_{Ook het feit dat sprake}

is van een opdracht zonder tegenprestatie kan van invloed zijn op de zorgplicht. Een opdracht zonder tegenprestatie zal over het algemeen een minder strenge zorgplicht hebben. Het is wel van belang om goed in gedachte te houden dat vermindering van zorgplicht niet heel snel wordt aangenomen. Is bijvoorbeeld sprake van een professionele opdrachtnemer, dan blijft de verwachting dat hij de zorg draagt die van een redelijk handelend en bekwaam opdrachtnemer mag worden verwacht.43

In de jurisprudentie worden verschillende onderdelen van de zorgplicht onderscheiden. Zo is het belangrijk dat de opdrachtnemer het belang van de opdrachtgever voorop zal stellen en moet hij belangentegenstellingen uit de weg gaan of tijdig melden. Daarnaast bestaan ook nog de waarborgplichten.44_{Die houden in dat de opdrachtnemer geen onnodige risico’s mag nemen.}45_Zo

kan advocaat aansprakelijk zijn wanneer hij bij het opstellen van een overeenkomst bepaalde risico’s onvoldoende heeft voorkomen.46_{Ook dient hij ervoor te zorgen dat een contract, dat door}

hem is opgesteld, niet op meerdere manieren te interpreteren valt, zodat daar later geen geschillen over kunnen ontstaan.47

Toch is het niet zo dat de opdrachtnemer ieder risico hoeft te vermijden.48_{Ook kan het niet worden}

verwacht dat de opdrachtnemer aansprakelijk is voor risico’s die niet te vermijden zijn, ondanks de genomen zorgvuldigheid.49

42_{HR 07-04-2006, ECLI:NL:PHR:2006:AV1558.} 43_{Asser/Tjong Tjin Tai 7-IV 2018/98.}

44_{Asser/Tjong Tjin Tai 7-IV 2018/99.}

45_{HR 2 april 1982, ECLI:NL:PHR:1982:AG4355, m.nt. C.J.H. Brunner(Smael/Moszkowicz).} 46_{HR 18 januari 2008, ECLI:NL:HR:2008:BB5067, m.nt. P. van Schilfgaarde.}

47_{HR 25 mei 2012, ECLI:NL:HR:2012:BW0726.}

48_{HR 7 maart 2003, ECLI:NL:PHR:2003:AF1304 (Bout/mr. W.,Expan beheer).}

(13)

2.4 De maatman van artikel 7:453 BW

2.4.1 Artikel 7:453 BW

Artikel 7:453 BW behelst de zorgplicht van een zorgverlener ten opzichte van een patiënt. Het artikel is in het leven geroepen om de rechtspositie van de patiënt te versterken. In de literatuur wordt gesteld dat deze zorgplicht niet anders is dan de zorgplicht van artikel 7:401 BW.50

Toch is het interessant om dit artikel te bekijken, omdat het een specifiekere invulling aan de norm geeft. De norm wordt namelijk ingevuld door de professionele standaard.

Het artikel luidt als volgt:

De zorgverlener moet bij zijn werkzaamheden de zorg van een goed zorgverlener in acht nemen en handelt daarbij in overeenstemming met de op hem rustende verantwoordelijkheid, voortvloeiende uit de voor zorgverleners geldende professionele standaard, waaronder de kwaliteitsstandaard, bedoeld in artikel 1, onderdeel z, van de Zorgverzekeringswet.

In eerste instantie bestond het wetsvoorstel van artikel 7:453 BW slechts uit het eerste gedeelte van het huidige artikel. Niet veel later werd daaraan toegevoegd dat de zorgverlener in overeenstemming met de op hem rustende verantwoordelijkheid moest handelen, voortvloeiende uit de voor zorgverleners geldende professionele standaard.De reden om dit gedeelte toe te voegen, was om de zelfstandige professionele positie van de arts te benadrukken en de rechtspositie van de patiënt te verduidelijken en te versterken.51_{Voor de introductie van de toevoeging bestond}

verwarring over de interpretatie van artikel 7:453 BW in combinatie met artikel 11 Grondwet. Men interpreteerde het artikel als een ‘u roept, wij draaien’ verbintenis.52

Tot slot werd het laatste gedeelte toegevoegd, “waaronder de overeenkomstig art. 66b van de

Zorgverzekeringswet in het openbaar register opgenomen voor hem geldende professionele standaard”. Art. 66b van de Zorgverzekeringswet verwijst naar het Zorginstituut Nederland (ZiN).

Het ZiN hanteert een openbaar register, waarin op voordracht van organisaties van cliënten, zorgaanbieders en zorgverzekeraars gezamenlijk professionele standaarden worden opgenomen.53

De professionele standaard waarborgt de kwaliteit van de zorg en moet daarom een juiste beschrijving geven van de kwaliteit van een specifiek zorgproces. Dat betekent ook dat een zorgverlener op de hoogte moet zijn van eventuele nieuwe ontwikkelingen en rekening dient te houden met algemeen erkende methodes die niet zijn neergelegd in een professionele standaard.54

Later werd de zin vervangen door de zin zoals wij die nu kennen. De toevoeging benadrukt dat onder de professionele standaard de kwaliteitsstandaarden worden begrepen. Het huidige artikel verwijst nu naar artikel 1, onderdeel z, van de Zorgverzekeringswet. Dit artikel definieert de kwaliteitsstandaard als volgt: “richtlijnen, modules, normen, zorgstandaarden dan wel

50_{Asser/Tjong Tjin Tai 7-IV 2018/93.}

51_{Wijne, in GS Bijzondere overeenkomsten, art. 7:453 BW, aant. A3 (online, laatst bijgewerkt op 9 mei 2019).} 52_{Kamerstukken II 1992/93, 21561, 15, p.12-13.}

53_{Wijne, in GS Bijzondere overeenkomsten, art. 7:453 BW, aant. A (online, laatst bijgewerkt op 9 mei 2019).} 54_{Stolker, in: T&C Burgerlijk Wetboek, art. 7:453 BW.}

(14)

organisatiebeschrijvingen die betrekking hebben op het gehele zorgproces of een deel van een specifiek zorgproces en die vastleggen wat noodzakelijk is om vanuit het perspectief van de cliënt goede zorg te verlenen”.

De professionele standaard en de kwaliteitsstandaarden geven een invullingen van de norm ‘goed zorgverlener’. Het doel van de wijziging was het verduidelijken van beide begrippen zodat dit voor zowel zorgverlener als patiënt duidelijk is. Duidelijkheid omtrent deze begrippen is essentieel omdat het handelen van de zorgverlener wordt beoordeeld aan de hand van de professionele standaard.55

Artikel 7:453 BW neemt een ‘goed zorgverlener’ als maatman en wat een ‘goed zorgverlener’ is, wordt onder andere bepaald aan de hand van de professionele standaard. Wat opvalt is dat vaak de zorgvuldigheid van een redelijk bekwaam en redelijk handelend zorgverlener dan wel vakgenoot onder dezelfde omstandigheden als maatstaf wordt genomen.56

Met vakgenoot wordt bedoeld een zorgverlener die hetzelfde specialisme bedrijft als de handelende zorgverlener. Een huisarts kan bijvoorbeeld niet met dezelfde maatman worden vergeleken als een hartchirurg. Belangrijk hieromtrent is wat patiënten mogen verwachten. Treedt iemand als specialist op, dan heeft die zorgverlener met een zwaardere zorgvuldigheidsplicht te maken, omdat de patiënt erop mocht vertrouwen dat de desbetreffende zorgverlener over voldoende kennis en ervaring beschikt.57

Een andere term die verdere toelichting nodig heeft, is de term ‘onder dezelfde omstandigheden’. De term verwijst naar omgevingsfactoren en deze omgevingsfactoren zijn van invloed op de eisen die men aan het handelen van de zorgverlener stelt. Wanneer een zorgverlener tijdens een noodgeval op straat moet handelen, heeft hij vanzelfsprekend minder middelen voorhanden dan een zorgverlener in het ziekenhuis. Dit verschil is dan ook terug te zien in de zorgvuldigheidseisen die gesteld worden.58

2.4.2 Artikel 7:453 BW in de jurisprudentie

In de jurisprudentie rondom dit artikel wordt het begrip ‘goed zorgverlener’ verder uitgewerkt. Een belangrijke uitspraak in dit kader is de uitspraak van de Hoge Raad in de zaak Speeckaert/Gradener.59_{In deze uitspraak legt de Hoge Raad uit dat artikel 7:453 BW zo gelezen}

moet worden, dat een zorgverlener gehandeld moet hebben met de zorgvuldigheid van een redelijk bekwaam en/of redelijk handelend in de medische praktijk werkzame zorgverlener. Daarnaast benadrukt de Hoge Raad dat het handelen van een zorgverlener niet kan worden gemeten aan het kennen en kunnen van een hoogleraar die academisch is geschoold op het desbetreffende gebied.

55_{Wildeboer & Binkhorst, Personenschade.}

56_{Wijne, in: GS Bijzondere overeenkomsten, art. 7:453 BW, aant. 3. (online, laatst bijgewerkt op 9 mei 2019).} 57_{Peter, in: GS Onrechtmatige daad, VI.1.6.3 (online, laatst bijgewerkt op 19 juli 2017).}

58_{Ploem 2007, p. 1605-1609.}

(15)

Ervaring is een factor waarvan men veronderstelt dat het van belang is voor de mate van zorgvuldigheid, maar in de praktijk wordt dit soms buiten beschouwing gelaten. Niet de ervarenheid maar het daadwerkelijk handelen van de zorgverlener dient beoordeeld te worden. Indien de arts heeft gehandeld zoals van een redelijk bekwaam en redelijk handelend arts in gelijke omstandigheden mocht worden verwacht, kan aan de ervaring van de arts geen gewicht toekomen.60_{De term ‘redelijk’ ziet overigens niet op de hoogste norm, maar op een goed}

gemiddelde.61_{De norm van een ‘redelijk bekwaam en redelijk handelend’ zorgverlener is niet zo}

streng dat alleen het optimale handelen voldoende is. Dit betekent overigens niet dat van een zorgverlener niet wordt verwacht dat hij op de hoogte is van ontwikkelingen op zijn vakgebied.62

De professionele standaard geeft een nadere richtlijn aan de hand waarvan beoordeeld kan worden of de zorgverlener heeft gehandeld als een goed zorgverlener. Zo´n nadere richtlijn kan bijvoorbeeld een protocol zijn dat door een ziekenhuis is opgesteld met betrekking tot een bepaalde operatie. Door zo'n protocol op te stellen ontstaat een consensus tussen ziekenhuis en artsen wat zij onder medisch verantwoord handelen verstaan. Daarnaast geeft het ook aan wat de patiënt van het ziekenhuis mag verwachten. Door het niet naleven van het protocol staat over het algemeen vast dat de arts niet handelt als een goed zorgverlener, tenzij anders handelen een beter resultaat oplevert.63

De professionele standaard wordt op die manier telkens ingevuld aan de hand van verschillende bronnen. Dit kunnen regels en normen zijn zoals die blijken uit de opleidingseisen voor medici, de inzichten en ervaring uit de geneeskundige praktijk, wetenschappelijke literatuur en protocollen en gedragsregels waaraan de zorgverlener is gebonden. In de geneeskunde heeft men te maken met gedragsregels en beroepscodes die door landelijke organisaties zijn opgesteld.64_{Een voorbeeld}

van deze gedragsregels zijn de gedragsregels opgesteld door de Koninklijke Nederlandsche Maatschappij tot bevordering der Geneeskunst (KNMG).65

Van de zorgverlener wordt telkens verlangd dat hij de best mogelijke behandelingsmethode kiest die het best mogelijke resultaat oplevert. Dit kan soms betekenen dat hij niet te allen tijde de gedragsregels hoeft te volgen en dus mag afwijken.

De professionele standaard wordt getoetst aan de kennis die aanwezig was ten tijde van de behandeling. Het zou onredelijk zijn als een arts wordt beoordeeld aan de hand van kennis en inzichten die toentertijd niet aanwezig waren.66

60_{Rb. ’s-Gravenhage 13 januari 2010, ECLI:NL:RBSGR:2010:BL0676.} 61_{Leenen, Dute, Gevers, Legemaate, de Groot, Gelpke & de Jong 2017, p. 70.}

62_{Hof ’s-Hertogenbosch 20 juli 2010, JA 2010, 131 ECLI:NL:GHSHE:2010:BN2030, m.nt. J. Simons.} 63_{HR 2 maart 2001, ECLI:NL:PHR:2001:AB0377, m.nt. J.B.M. Vranken, F.C.B. van Wijmen(Protocol-I).} 64_{Wijne, in GS Bijzondere overeenkomsten, art. 7:453 BW, aant. 6. (online, laatst bijgewerkt op 9 mei 2019).} 65_{KNMG, Gedragsregels voor artsen, Versie 3.1 2013.}

(16)

Uiteindelijk ligt het laatste oordeel bij de rechters. Zij zullen de gedragsregels en de wet interpreteren en vervolgens bepalen wat onder ‘juist medisch handelen’ moet worden verstaan. Een medisch gezien fair result betekent niet meteen dat de zorgverlener in civielrechtelijke zin zorgvuldig is geweest. De rechter zou een beroep kunnen doen op een deskundige om zich te laten voorlichten omtrent de vraag of en in hoeverre het medisch handelen volgens de inzichten van de beroepsgroep juist en zorgvuldig is geweest.67_{Indien de rechter van mening is dat de gebruikelijke}

professionele standaard te laag is, dan mag hij een hogere maatstaf aanleggen.68_{Zo besloot het hof}

’s-Hertogenbosch op 10 maart 2009 dat het blijven hanteren van een ‘oude’ methode, ondanks dat andere zorgverleners deze methode ook nog aanhouden, als onzorgvuldig kan worden beschouwd. Een redelijk bekwaam en redelijk handelend zorgverlener dient namelijk nieuwe ontwikkelingen te volgen.69

2.5 De maatman in de context van artikel 2:9 en 2:138/248 BW

De artikelen 2:9 BW en 2:138/248 BW bevatten wetgeving omtrent de

bestuurdersaansprakelijkheid.

In artikel 9 boek 2 burgerlijk wetboek is de interne bestuurdersaansprakelijkheid geregeld en in artikel 138/248 boek 2 burgerlijk wetboek de externe bestuurdersaansprakelijkheid.

De interne aansprakelijkheid gaat uit van het principe dat iedere bestuurder tegenover de rechtspersoon instaat voor een behoorlijke vervulling van zijn taak.70_{Hoe een behoorlijke}

vervulling van de taak eruitziet, wordt in de jurisprudentie verder uitgewerkt. Indien de bestuurder de capaciteiten mist die van iemand in zijn positie mag worden verwacht, dan kan hij zich ter disculpatie daar niet op beroepen.71

Lid 2 van artikel 2:9 BW geeft aan wanneer sprake is van interne aansprakelijkheid en luidt als volgt: “Elke bestuurder draagt verantwoordelijkheid voor de algemene gang van zaken. Hij is

voor het geheel aansprakelijk terzake van onbehoorlijk bestuur, tenzij hem mede gelet op de aan anderen toebedeelde taken geen ernstig verwijt kan worden gemaakt en hij niet nalatig is geweest in het treffen van maatregelen om de gevolgen van onbehoorlijk bestuur af te wenden”.

Uit lid 2 volgt dat een bestuurder alleen aansprakelijk kan worden gehouden voor het onbehoorlijk bestuur als hem een ernstig verwijt kan worden gemaakt. Beoordeeld moet dus worden of sprake is van ernstig verwijtbaar handelen. Indien wordt gehandeld in strijd met statutaire bepalingen, zal men al snel aannemen dat sprake is van ernstig verwijtbaar handelen. De bestuurder kan dan nog wel verzachtende feiten en omstandigheden aanvoeren waarom in deze concrete situatie geen sprake is van ernstig verwijtbaar handelen.72 _{Dit kunnen feiten en omstandigheden zijn die het}

67_{Hof Amsterdam 24 maart 2009, zaaknr. 106.007.506/01}_.

68_{Hof 's-Hertogenbosch 10 maart 2009, ECLI:NL:GHSHE:2009:BH5919.} 69_{Hof ’s-Hertogenbosch 10 maart 2009, L&S 2009, 112, m.nt. A.J. Van.} 70_{Asser/Maeijer/Van Solinge & Nieuwe Weme 2-II* 2009 445.}

71_{Huizink, in: GS Rechtspersonen, art. 2:9 BW, aant. 4 (online, laatst bijgewerkt op 22 juni 2018).}

(17)

ernstig verwijtbaar handelen rechtvaardigen. Ernstig verwijtbaar handelen kan ook volgen uit de omstandigheden van het geval. Wat precies onder omstandigheden van het geval moet worden begrepen wordt in de uitspraak Staleman/Van der Ven uitgelegd in rechtsoverweging 3.3.1:

Tot de in aanmerking te nemen omstandigheden behoren onder meer de aard van de door de rechtspersoon uitgeoefende activiteiten, de in het algemeen daaruit voortvloeiende risico's, de taakverdeling binnen het bestuur, de eventueel voor het bestuur geldende richtlijnen, de gegevens waarover de bestuurder beschikte of behoorde te beschikken ten tijde van de aan hem verweten beslissingen of gedragingen, alsmede het inzicht en de zorgvuldigheid die mogen worden verwacht van een bestuurder die voor zijn taak berekend is en deze nauwgezet vervult. 73

In de laatste zin van rechtsoverweging 3.3.1 is een maatman te lezen. De Hoge Raad spreekt over het inzicht en de zorgvuldigheid die mag worden verwacht van een bestuurder die voor zijn taak berekend is en deze nauwgezet vervult. Uit de literatuur en rechtspraak blijkt dat deze maatman ook van toepassing is op de interne aansprakelijkheid van artikel 2:9 BW.74_{In de uitspraak Ardoz}

is duidelijk de toepassing van de norm uit Staleman/Van de Ven te zien, maar de rechtbank voegde daaraan toe dat van ernstige verwijtbaarheid sprake is in geval van handelingen die geen redelijk handelend bestuurder onder gelijke omstandigheden zou hebben verricht.75_{De rechtbank neemt}

hier de maatman uit Panmo over en past dit toe op de interne aansprakelijkheid van artikel 2:9 BW.76

De maatman van de artikelen 2:138/248 BW volgt uit de jurisprudentie bij deze artikelen. Wanneer de artikelen 2:138 en 248 BW worden gelezen, valt het op dat het begrip ‘onbehoorlijk bestuur’ niet voorkomt. De genoemde artikelen gaan uit van het begrip ‘kennelijk onbehoorlijke taakvervulling’, echter wordt dit gelijkgesteld met het begrip onbehoorlijk bestuur uit artikel 2:9 BW.77_{De Hoge Raad gebruikt in zijn arrest Panmo het begrip onbehoorlijk bestuur om}

aansprakelijkheid via artikel 2:128/248 BW vast te stellen.78_{Zoals hieronder in rechtsoverweging}

3.7 van Panmo is te lezen, is een zeer duidelijke maatman gecreëerd en gehanteerd. De Hoge Raad stelt dat van onbehoorlijk bestuur in de zin van artikel 2:138 en 248 BW slechts gesproken kan worden als geen redelijk denkend bestuurder onder dezelfde omstandigheden zo gehandeld zou hebben. Daarnaast sluit de Hoge Raad zich aan bij de mening van het hof dat sprake moet zijn geweest van roekeloos, lichtzinnig, onbezonnen en onverantwoordelijk gedrag.

De maatman blijft, zoals eerder al gezegd, een open norm en zal telkens afhankelijk zijn van de omstandigheden van het geval. De huidige rechtspraak laat zien dat de in Panmo gecreëerde maatman zowel voor de interne als de externe bestuursaansprakelijkheid wordt gebruikt. De

73_{HR 10 januari 1997, ECLI:NL:HR:1997:ZC2243, m.nt. J.M.M. Maeijer (Staleman/Van de Ven).} 74_{Schrama & Wiersma, TvO 2019/2, p. 52.}

75_{Rb. Arnhem 19 oktober 2003, ECLI:NL:RBARN:2003:AN8881 (Ardoz).}

76_{Huizink, in: GS Rechtspersonen, art. 2:9 BW, aant. 8.2.1 (online, laatst bijgewerkt op 22 juni 2018).} 77_{Asser/Maeijer, Van Solinge & Nieuwe Weme 2-II* 2009/445.}

(18)

bestuurder dient een ernstig verwijt te kunnen worden gemaakt en dit is het geval als hij zijn taak niet op een manier heeft uitgevoerd, zoals een redelijk bekwaam en redelijk handelend bestuurder in dezelfde omstandigheden zijn taak zou uitvoeren.79

(19)

3 Wat is een algoritme?

3.1 Introductie

Tegenwoordig komt iedereen bewust of onbewust in aanraking met algoritmes. Er wordt veel geschreven over algoritmes, maar door het gebruik van apps en social media maakt men onbewust ook gebruik van algoritmes. Bedrijven, zoals Google, UBER, Twitter en Facebook, maken veelvuldig gebruik van algoritmes. Zo zorgen de algoritmes van Google voor een optimaal zoekresultaat, de algoritmes van UBER brengen vraag en aanbod bij elkaar en de algoritmes van Facebook bepalen wat wij op ze onze tijdlijn te zien krijgen.80 81_{Naast private bedrijven}

experimenteren overheden ook met algoritmes. De Landelijke Stuurgroep Interventies gebruikt algoritmes om fraudeurs op te sporen; de belastingdienst experimenteert met algoritmes om foutieve aangiftes te ontdekken en de politie gebruikt algoritmes om te voorspellen waar en wanneer en door wie een misdaad zal worden begaan.82

Maar wat is nu een algoritme? “Een algoritme is een methodische reeks stappen die gebruikt kan

worden om berekeningen te maken, problemen op te lossen en tot beslissingen te komen. Een algoritme is geen specifieke berekening, maar de methode die gevolgd wordt bij het maken van een berekening.”83_{Het is belangrijk dat een algoritme eindig, goed gedefinieerd en effectief is.}

Het algoritme volgt de reeks stappen die het moet volgen zo nauwkeurig mogelijk zodat het uiteindelijk het probleem kan oplossen waarvoor het gemaakt is.84 _{Een simpele vergelijking is die}

van een algoritme met een koffieautomaat. De automaat heeft een wireless betaalpunt waar een pinpas voor moet worden gehouden, verschillende knopjes en een plek waar een koffiebeker onder moet worden gehouden. De verschillende knopjes staan voor verschillende keuzes. De eerste keuze is de keuze tussen koffie, thee, chocolademelk of soep. Vervolgens kan afhankelijk van de vorige keuze gekozen worden voor melk of geen melk en tot slot suiker of geen suiker. Ook bestaat nog een keuze in de hoeveelheid melk of suiker en het is mogelijk om de sterkte van de koffie of thee aan te geven. Wanneer men betaalt met een pinpas en de keuze wordt gemaakt voor een sterke espresso met weinig melk en een klein beetje suiker, zal de koffieautomaat ervoor zorgen dat het gewenste kopje koffie uit de automaat komt.85

80_{Vetzo, Gerards en Nehmelman 2018, p. 31.}

81_{Zie ‘How Google Finds Your Needle in the Web’s Haystack’, online via:}

http://www.ams.org/samplings/feature-column/fcarc-pagerank?_sp=9196e030-64b1-48f4-b4f9-5be2ea3f7a1.1515597204154 (laatst geraadpleegd 22 januari 2018).

82_{Tweede Kamer, ‘Vragenlijst naar gebruik algoritmen binnen de overheid nav debat TK over Digitale infrastructuur’,}

8 november 2017, p. 1-3.

83_{Harari 2015, p.95-96.}

84_{‘Wat zijn algoritmen?’, nl.howtodou.com/what-are-algorithms.} 85_{Harari 2015, p.95-96.}

(20)

Het woord algoritme moet worden gezien als een kapstok-begrip. Algoritmes kunnen op basis van bepaalde eigenschappen worden onderscheiden. Door de verschillende eigenschappen werken algoritmes niet altijd hetzelfde.

Algoritmes werken vaak op basis van een beslisboom. Een beslisboom is een overzicht van de mogelijke uitkomsten van een reeks gerelateerde keuzes. Het begint bij de stam en wordt gevolgd door een enkel knooppunt dat vervolgens vertakt in mogelijke uitkomsten. De antwoorden van de knooppunten zijn meestal ja of nee. Ieder van deze uitkomsten leidt tot extra knooppunten die weer vertakken in andere mogelijkheden.86

Er bestaan ook algoritmes die gebruik maken van machine learning. Machine learning is een vorm van kunstmatige intelligentie.87_{Dit betekent dat het systeem zelf leert van data in plaats van dat}

het afhankelijk is van expliciete programmering. Hierdoor verbeteren de machine learning systemen hun eigen prestaties.88

Machine learning kan worden onderverdeeld in twee types: supervised learning en unsupervised learning.89_{Het belangrijke verschil tussen deze twee types is dat bij supervised learning de mens}

helpt bij het trainen van het algoritme. Wanneer het algoritme een fout maakt, corrigeert een persoon het systeem en hierdoor maakt het algoritme deze fout in het vervolg niet meer. Bij

unsupervised learning leert het algoritme zelfstandig. Het algoritme dient zelf structuur te

ontdekken in de beschikbare data. Het zal de data zelf indelen in categorieën afhankelijk van de door het algoritme gekozen kenmerken.90

Tot slot bestaat een belangrijk onderscheid tussen autonome en niet autonome algoritmes. Een autonoom algoritme handelt zonder menselijke tussenkomst. Het leest de beschikbare data, herkent een patroon, trekt een conclusie en maakt vervolgens een beslissing. Bij een niet autonoom algoritme is wel sprake van menselijke tussenkomst. Het algoritme maakt een beslissing, maar het isuiteindelijk de keuze van een mens om de beslissing over te nemen.

Het woord algoritme wordt, zoals eerder gezegd, gebruikt als een kapstok-begrip. Om in het vervolg duidelijk voor ogen te hebben wat in dit onderzoek met een algoritme wordt bedoeld, zal dit helder uiteengezet worden. In dit kader is het belangrijk om een onderscheid te maken tussen

rule-based algoritmes en case-based algoritmes. Vervolgens zal uiteengezet worden wat de twee

soorten algoritmes inhouden. Tot slot zal een voorbeeld van case-based algoritmes beschreven worden zodat in het vervolg duidelijk is hoe en wat voor handelingen van mensen vervangen kunnen worden door algoritmes. Dit is uiteindelijk belangrijk voor het beantwoorden van de hoofdvraag.

86_{Lucidchart, ‘Wat is een beslisboom?’, lucidchart.com/pages/nl/alles-over-beslisbomen.} 87_{Samuel 1959, p. 535-554.}

88_{GlobalOrange, ‘Machine learning Whitepaper’, p. 7.} 89_{Hurwitz en Kirsch 2018, p. 15-16.}

90_{‘Methoden van machine learning - supervised en unsupervised learning’,}

(21)

3.2 Wat is een rule-based algoritme?

Rule-based algoritmes worden gebruikt in een verscheidenheid aan toepassingen. Een rule-based

algoritme heeft een database die wordt weergegeven als een verzameling van regels uitgedrukt in "als-dan-clausules". Deze regels zijn relatief gemakkelijk te verklaren en te begrijpen. Een voorbeeld hiervan is de zin “als je jonger bent dan 21 jaar, dan mag je niet gokken in Las Vegas”. De wet en andere soorten regelgeving zijn over het algemeen eenvoudig te vertalen naar dit soort als-dan-clausules.91

Het geheel van regels vormt de ‘kennisbase’ die wordt toegepast op de huidige feiten. Het algoritme gebruikt de in de ‘kennisbase’ opgeslagen kennis om de feitelijke informatie, die een gebruiker heeft verstrekt, te verwerken en retourneert vervolgens een oplossing voor het probleem, dat in de systeemdoelstelling wordt genoemd.92

Bij het ontwikkelen van een ‘kennisbase’ wordt een systematische aanpak gevolgd. Eerst worden de doelstellingen van het algoritme gedefinieerd als basis van een beslisboom, die tijdens een gedetailleerde ‘kennisstructurering’ wordt ontwikkeld. Vervolgens worden voor elke waarde van iedere optie van de beslisboom regels geschreven in termen van combinaties met waarden van opties lager in de beslisboom.

De rule-based algoritmes werken met forward chaining (datagestuurd redeneren) of met backward

chaining (doelgericht redeneren).

Het basisidee van forward chaining is dat wanneer aan de voorwaarden van een regel (het ‘als-gedeelte’) wordt voldaan door de gegevens, het algoritme vervolgens de conclusies van de regel (het ‘dan-gedeelte’) als waar beschouwt.

Een forward chaining redeneringssysteem begint met het plaatsen van de eerste gegevens in het geheugen van het algoritme. Vervolgens doorloopt het algoritme een cyclus van matchen van de uitgangspunten van de regels met de feiten in het werkgeheugen, het selecteren van één regel en het plaatsen van de conclusie ervan in het werkgeheugen. Een voorbeeld van forward chaining kan worden gegeven aan de hand van de volgende twee regels:

1.) Als X traag is en het heeft een schild dan is X een schildpad. 2.) Als X een schildpad is, dan is X groen.

Wanneer men het algoritme de informatie geeft dat X traag is en een schild heeft, dan zal het eerst beredeneren dat X een schildpad is en vervolgens zal het concluderen dat X groen is.93

In een backward chaining redeneringssysteem wordt het doel in eerste instantie in het geheugen van het algoritme geplaatst. Het algoritme vergelijkt regelconclusies met het doel, selecteert één regel en plaatst haar in het werkgeheugen. Het proces herhaalt zich, de voorwaarden worden

91_{Tweede Kamer, ‘Vragenlijst naar gebruik algoritmen binnen de overheid n.a.v. debat TK over Digitale}

infrastructuur’, 8 november 2017, p. 1.

92_{Smith, Gelbart en Graham 1992, p. 338.} 93_{Andina & Truong Pham 2007, p. 1-4.}

(22)

nieuwe doelen om te voldoen aan de conclusies van de regels. Het algoritme werkt zo terug van het oorspronkelijke doel tot alle subdoelen in het werkgeheugen kloppen.94

Een voorbeeld van backward chaining kan worden gegeven aan de hand het zojuist gebruikte voorbeeld, maar nu begin je bij de conclusie dat X groen is. Vervolgens wordt de conclusie getrokken dat X een schildpad is en tot slot kun je concluderen dat X traag is en een schild heeft.

Een voordeel van het gebruik van rule-based algoritmes is dat de regels concreet en expliciet moeten worden gemaakt. Hierdoor is het mogelijk om in te zien hoe het algoritme tot zijn conclusie is gekomen. Daarnaast worden alle regels in hetzelfde format uitgeschreven waardoor de ‘kennisbase’ eenvoudiger te begrijpen is.

Aan het gebruik van rule-based algoritmes in het recht kunnen ook nadelen zitten. Dit heeft te maken met het feit dat de wet- en regelgeving leemtes bevat. Rule-based algoritmes werken zoals hierboven al gezegd met concrete regels waardoor een concreet antwoord wordt gegenereerd. Wanneer er geen concrete regel is, zoals bijvoorbeeld bij een open norm, kan er geen concreet antwoord worden gegeven. Daarnaast heeft het recht vaak te maken met kleine aanpassingen, wijzigingen en uiteenlopende jurisprudentie. Een wijziging op die gebieden betekent dat de regelset van een rule-based algoritme ook moet worden aangepast. Doordat het wijzigen van een algoritme zeer complex is, is het lastig om dit op regelmatige basis te doen. Het veranderen van een regel kan mogelijk effect hebben alle mogelijke uitkomsten.95

3.3 Wat is een case-based algoritme?

Case-based algoritmes zijn systemen die gebruik maken van based reasoning. De term case-based reasoning is in de wetenschap niet onbekend. Het basisprincipe van case-case-based reasoning

is dat het nieuwe problemen oplost door eerder succesvolle oplossingen aan te passen aan vergelijkbare problemen. Een case-based algoritme redeneert door te onthouden: eerder opgeloste problemen (cases) worden gebruikt om oplossingen voor nieuwe vergelijkbare problemen te voorspellen. Zo zal een algoritme dat geleerd heeft dat een grote kans bestaat dat iemand met een strafblad en een Ferrari een drugscrimineel is ook dezelfde conclusie trekken als iemand met een strafblad een Jaguar rijdt.96

Het case-based reasoning-proces kan worden onderverdeeld in vier fases. De eerste fase is de

Case retrieval fase. Hierin wordt het probleem dat op dat moment speelt, beoordeeld en

beschreven. Dit dient nauwkeurig te worden gedaan en de juiste woorden dienen te worden gekozen. De kenmerken van case moeten zo worden gespecificeerd dat het aan de volgende twee punten voldoet: i) ze moeten behulpzaam zijn bij het terugvinden van andere gevallen, die nuttige

94_{Yi Shang 2005, p. 1-3.}

infrastructuur’, 8 november 2017, p. 1-3.

(23)

oplossingen bevatten voor soortgelijke problemen, en ii) ze moeten discriminerend genoeg zijn om te voorkomen dat te afwijkende cases worden aangetrokken, die tot onjuiste conclusies, oplossingen en/of verminderde prestaties kunnen leiden. Vervolgens gaat het algoritme in zijn

database op zoek naar de best matchende case. Het systeem moet uit de database cases halen die

feitelijk vergelijkbaar zijn met de case die de gebruiker in gedachten heeft. Er kunnen verschillende gelijkenisvoorwaarden worden gedefinieerd om relevante cases op te halen. Het toetst iedere matchende case op relevante informatie. Hier kan het algoritme de matchende cases rangschikken. Zo heeft de ene case meer gezag dan de andere case. Tot slot wordt door het algoritme een benaderende oplossing gevonden.

De tweede fase, Case adaptation, ziet erop dat de matchende case uit de eerste fase wordt aangepast om zo goed mogelijk te worden toegepast op het huidige probleem. De derde fase is de

Solution evaluation. In deze fase kan de aangepaste oplossing worden geëvalueerd, hetzij voordat

er een oplossing is voor het probleem hetzij nadat de oplossing is toegepast. Als het bereikte resultaat niet bevredigend is, moet in ieder geval de opgehaalde oplossing opnieuw worden aangepast of moeten meer cases worden teruggevonden. Tot slot komt de Case-base updating. Hier wordt de nieuwe case toegevoegd aan de database indien de oplossing voldoet. Uiteindelijk kan de nieuw gevonden oplossing worden gebruikt voor het oplossen van toekomstige problemen.97

Het is belangrijk om een case-based algoritme goed te trainen. Een goed getrainde algoritme maakt veel minder fouten in zijn voorspellingen en bevat over het algemeen minder bias. Een bias is een vooroordeel dat kan leiden tot een ongewenste uitkomst.98

In het recht wordt ook op een bepaalde manier gebruik gemaakt van case-based reasoning. De formele rechterlijke uitspraken kunnen worden vergeleken met de herinnerde ervaringen en het doel van de probleemoplossing is door onder andere historische uitspraken te hergebruiken huidige juridische vraagstukken te beantwoorden voor een nieuwe zaak. Een eerdere zaak wordt min of meer op basis van de mate van overeenstemming tussen de kenmerken van de eerdere zaak en die van de nieuwe zaak beschouwd om de nieuwe juridische vraagstukken te beantwoorden.99

Aan het gebruik van case-based algoritmes kleven ook nadelen. Zo bestaat een grote kans dat het systeem bevooroordeeld is doordat het uit de aangeleverde data een conclusie trekt die niet gewenst is. Daarnaast dienen case-based algoritmes te beschikken over veel data om op een juiste wijze te worden getraind. Met name dit aspect is in het recht een groot struikelblok, omdat nog niet alles is gedigitaliseerd.100

97_{Pantic 2006, p. 9-13.}

98_‘_{Hoe werkt machine learning – machine learning uitgelegd’,}

3bplus.nl/hoe-werkt-machine-learning-machine-learning-uitgelegd/ 21 augustus 2017.

99_{Clifton en Frohnsdorff 2001, p. 1-3.}

(24)

Veel algoritmes bestaan uit een combinatie van case-based en rule-based systemen. Het algoritme kan bijvoorbeeld eerst proberen op basis van case-based te beredeneren om een voorspelling te geven. Mochten er geen overeenkomende cases zijn, dan kan het terugvallen op rule-based regels.101

3.4 Machine learning algoritmes

3.4.1 Contract analysis algoritmes

Bedrijven, advocatenkantoren en overheden hebben continu te maken met een grote hoeveelheid aan contracten. Zo houdt menig advocatenkantoor zich bezig met due diligence onderzoeken. Dit is een proces waarin de koper van een bedrijf door de verkoper in de gelegenheid wordt gesteld om een boekenonderzoek te doen naar het te kopen bedrijf. Een due diligence onderzoek wordt gedaan om alle ins and outs te onderzoeken van het te kopen bedrijf. Hierdoor worden risico’s op fouten en onverwachte aansprakelijkheden beperkt.102_{De verkoper opent een dataroom met alle}

relevante documenten met betrekking tot het bedrijf. Dit zijn vaak duizenden niet gecategoriseerde documenten.103_{Tot voor kort werd dit proces fysiek afgewerkt. De kopende partij moest dan naar}

het kantoor van de verkopende partij gaan om daar alle dossiers door te zoeken. Tegenwoordig is het mogelijk om digitaal een due diligence onderzoek te doen, maar nog steeds neemt dit veel tijd in beslag.104

Door het gebruik van een contract analysis algoritme kan een due diligence onderzoek aanzienlijk worden versneld.

Een contract analysis algoritme kan snel door een groot aantal contracten gaan en kan vervolgens per individueel contract risico’s aanstippen gebaseerd op de gewenste criteria.

Het algoritme moet gevoed worden met data om goed zijn taak te kunnen uitoefenen. Een contract

analysis algoritme moet daarom gevoed worden met een grote hoeveelheid aan contracten. Het

algoritme zal in de ingevoerde contracten patronen herkennen. De kennis die het algoritme uit de contracten in de database haalt, zal het gaan toepassen bij het analyseren van een nieuw contract.105

Om het algoritme te trainen zal men in het begin de contracten zelf moeten markeren. De clausules van de contracten moet worden gemarkeerd, zodat het systeem herkenningspunten heeft. Clausules zijn bijvoorbeeld de contractsluitende partijen, beëindigingsmogelijkheden, contractperiode, data en prijsafspraak. Het systeem zal vervolgens zelf een link leggen tussen de clausules en de daarin gekozen bewoordingen.106

101_{Smith, Gelbart en Graham 1992, p. 338.} 102_{Betting, A.2.10.5.}

103_{Van der Hauw 2017.} 104_{Mencke 2017.} 105_{Rich 2018.}

(25)

Kira is een voorbeeld van een machine learning contract analysis software, die is gemaakt voor het identificeren, extraheren en analyseren van teksten in contracten. Kira is in eerste instantie ontwikkeld om contracten te reviewen in een mergers and acquisitions due diligence process. Daarnaast kan Kira worden ingezet op het gebied van risk management en compliance.

Kira zorgt ervoor dat het proces sneller en efficiënter verloopt en dit bespaart veel geld. Samenvattingen worden in seconden gemaakt en analyses die normaal gesproken twee weken kosten, kunnen nu in enkele minuten worden afgerond.

Doordat Kira een machine learning software is, kan het door de consument zelf worden getraind. Door het systeem te instrueren en zelf te trainen, zal het vervolgens de ingebrachte input volgen. Hoe meer het systeem getraind wordt, des te beter het systeem zal functioneren.107

Het nadeel van het zelf trainen van het systeem is dat het tijdrovend is en dat een grote hoeveelheid data nodig is. Er zijn ook systemen die al zijn getraind of worden getraind door de producent, zoals Luminance. Een bedrijf gebruikt het systeem, maar hoeft geen tijd te besteden aan het trainen van het systeem. Het nadeel is dat het systeem niet naar persoonlijke voorkeur wordt getraind en daardoor niet altijd het gewenste resultaat levert.

(26)

4 De huidige aansprakelijkheid voor een algoritme

4.1 Introductie

De huidige technologische ontwikkelingen omtrent algoritmes brengen veel maatschappelijke veranderingen teweeg en dit zal hoogstwaarschijnlijk in de toekomst gaan toenemen. Beslissingen die eerst door mensen werden genomen, worden nu door algoritmes gemaakt.108_{Algoritmes sturen}

in toenemende mate het handelen van personen en bedrijven. Dit is duidelijk terug te zien bij automatische besluitvorming door algoritmes zoals bij Facebook bij het maken van een tijdlijn, maar ook bij semi-automatische besluiten. Wanneer een mens handelt op basis van een voorbereide beslissing van een algoritme, is vaak sprake van een automatische goedkeuring. Mensen hebben simpelweg de tijd, vaardigheden en het inzicht niet in het functioneren van een algoritme, om tot een zelfstandige conclusie te komen.109_{Een machine learning algoritme voor} automatic contract analysis dient vanaf het begin te worden getraind. Het is vanzelfsprekend dat

men in een beginfase niet mag vertrouwen op resultaten van een algoritme. Met de tijd zal het algoritme meer leren en uiteindelijk zal een fase aanbreken waarop men mag vertrouwen op een algoritme.110_{Het menselijk handelen wordt op die manier vervangen door het handelen van het}

algoritme. Met deze ontwikkeling zal de vraag hoe de aansprakelijkheid van algoritmes is geregeld steeds belangrijker worden.

In het Burgerlijk Wetboek zijn geen specifieke bepalingen voor algoritmes, maar door de open normen die worden gehanteerd, lijkt het Burgerlijk Wetboek toekomstbestendig voor deze ontwikkelingen.111

Het handelen van een beroepsbeoefenaar of een bestuurder wordt beoordeeld aan de hand van de maatman. Menselijk handelen wordt beoordeeld aan de hand van hoe een redelijk handelend mens in dezelfde positie zou hebben gehandeld. Het lijkt voor de hand te liggen dat het handelen van een algoritme ook wordt getoetst aan de maatman.

In dit hoofdstuk zal worden ingegaan op de vraag hoe het handelen van een algoritme kan worden getoetst aan de hand van de maatman hetgeen dat besproken is in hoofdstuk twee en drie. Daarnaast zal de buitencontractuele aansprakelijkheid van een algoritme worden behandeld. Wanneer in het vervolg over een algoritme wordt gesproken, wordt gedoeld op een case-based algoritme met

machine learning vermogen.

4.2 Aansprakelijkheid voor een algoritme

4.2.1 Buitencontractuele aansprakelijkheid voor een algoritme

108_{Vedder & Naudts 2017, p. 207.}

109_{Vetzo, Gerards en Nehmelman 2018, p. 50.} 110_{Vedder & Naudts 2017, p. 207.}