Kan een robot 'persoonlijk' aansprakelijk worden gehouden voor een fout in de operatiekamer door hem rechtssubjectiviteit toe te kennen?

KAN EEN ROBOT ‘PERSOONLIJK’ AANSPRAKELIJK WORDEN GEHOUDEN VOOR EEN FOUT IN DE OPERATIEKAMER DOOR HEM

RECHTSSUBJECTIVITEIT TOE TE KENNEN?

Robot als subject van het recht

Maartje Pieternelle Nieuwenhuis 12925713

nieuwenhuismaartje@hotmail.com Gezondheidsrecht

Universiteit van Amsterdam mr. dr. R.P. (Rolinka) Wijne 3 juli 2020

Het recht vormt een kunstmatige laag over de maatschappij. Een instrument om de maatschappij te ordenen. Een flexibel instrument.1

ABSTRACT

In deze masterscriptie wordt aan de hand van literatuur- en jurisprudentieonderzoek onderzocht of een robot ‘persoonlijk’ aansprakelijk kan worden gehouden voor een fout in de operatiekamer door hem rechtssubjectiviteit toe te kennen. De (toe)komst van geheel zelfstandig opererende operatierobots is immers niet meer hypothetisch. De snelle medische-modernisering hieromtrent heeft het huidige Burgerlijk Wetboek ingehaald en noopt tot een herziening van het aansprakelijkheidsrecht.

Huidige grondslagen voor aansprakelijkheid van robotica worden gevormd door de regels van het klassieke aansprakelijkheidsrecht. Ik wijs hier op de productaansprakelijkheid van art. 6:185 e.v. BW, de aansprakelijkheid van de hulpverlener voor gebrekkige medische hulpzaken van art. 6:77 BW en de risicoaansprakelijkheid voor bezitters uit art. 6:173 BW. Wanneer robots echter daadwerkelijk autonoom functioneren doordat zij zelfstandige beslissingen in de operatiekamer kunnen én mogen maken, komt het systeem van de ‘klassieke aansprakelijkheden’ in het gedrang. Het toekennen van rechtssubjectiviteit, waardoor een operatierobot zelfstandig drager van rechten en plichten wordt, vormt mijns inziens in potentie een passend alternatief om ‘persoonlijke’ aansprakelijkheid van operatierobots te bewerkstelligen.

Het gesloten stelsel van rechtssubjecten dient daarom te worden geopend voor operatierobots. De wettelijke verankering van operatierobots in het Burgerlijk Wetboek creëert rechtsbevoegdheid, op grond waarvan een operatierobot zelfstandig geneeskundige behandelingsovereenkomsten met patiënten kan sluiten. Eveneens wordt met erkenning van de robot als juridische entiteit een regresmogelijkheid voor patiënten gegarandeerd voor het geval een operatierobot bij zijn uitvoering faalt.

Voordat aan de toekenning van rechtssubjectiviteit aan de operatierobot kan worden toegekomen, dient de robot te worden geproduceerd en gefinancierd. Financiering van de robot dient mijns inziens door de overheid te geschieden, zodat de robot vanaf dat moment onafhankelijk kan ‘opereren’ en geen investeringsbedrag (inclusief rente) aan private investeerders verschuldigd is.

Zodra de operatierobot eenmaal ‘bestaat’ kan de robot zowel als zelfstandige als in loondienst werkzaam worden voor het ziekenhuis (art. 7:610 BW). In ruil voor de geneeskundige handelingen die de robot verricht, dient per overeenkomst een financiële tegemoetkoming te worden vastgesteld waaruit het onderhoud van de robot en een verzekeringspremie voor een beroepsaansprakelijkheidsverzekering kan worden voldaan. Gaat de robot in loondienst, dan opereert de robot als hulppersoon van het ziekenhuis en wordt het ziekenhuis aangemerkt als hulpverlener. Mocht de operatierobot dan onverhoopt falen, dan is het ziekenhuis ‘direct’ daarvoor aansprakelijk. Het handelen van de operatierobot wordt dan immers beschouwd ‘als ware het handelen van het ziekenhuis zelf’ (art. 6:76 BW).

De operatierobot is echter in beginsel ‘persoonlijk’ aansprakelijk indien het als zelfstandige werkzaam is voor het ziekenhuis. De robot wordt dan zelf aangeduid als hulpverlener. De vergoeding van schade vindt daarentegen naar algemeen gebruik plaats door de verzekeraar van het ziekenhuis. De schade vond immers binnen de muren van het ziekenhuis plaats, waardoor op grond van art. 7:462 BW een centrale (mede) aansprakelijkheid voor het ziekenhuis geldt.

In het voorgaande is naar voren gekomen dat het ‘klassieke aansprakelijkheidsrecht’ uit het Burgerlijk Wetboek in zijn huidige vorm niet klaar is voor de (toekomstige) stand van de techniek. Voor het aansprakelijk stellen van een robot zelf is geen ruimte. Door verbreding van het rechtssubjectbegrip is het mogelijk de robot onder te brengen in het aansprakelijkheidsregime. Gelukkig staan de technologische ontwikkelingen, zeker rondom de autonome operatierobot, nog in de kinderschoenen. Dat geeft de wetgever ademruimte om het Burgerlijk Wetboek te moderniseren.

INHOUDSOPGAVE

1. Inleiding 7

2. Huidige grondslagen voor de aansprakelijkheid van robotica en daarmee gepaard gaande problemen 10

2.1. Inleiding 10

2.2. Aansprakelijkheid van de producent van de robot: productaansprakelijkheid 10

2.2.1. Zijn de regels van productaansprakelijkheid van toepassing op de operatierobot? 10

2.2.2. Risicoaansprakelijkheid voor een gebrekkige zaak 11

2.2.3. Vaststellen van de gebrekkigheid van een product 11

2.2.4. Bevrijdende verweren van art. 6:185 lid 1 sub a tot en met f BW 13

2.3. Aansprakelijkheid van de hulpverlener: robot gekwalificeerd als hulpzaak 14

2.3.1. Kan de operatierobot worden aangemerkt als hulpzaak? 14

2.3.2. Aansprakelijkheid voor een ongeschikte hulpzaak 15

2.3.2.1. Toerekening op grond van de wet 15

2.3.2.2. Omstandigheden met betrekking tot de aard van de overeenkomst 18

2.3.2.3. Persoonlijke omstandigheden van partijen 18

2.4. Kwalitatieve aansprakelijkheid van de bezitter: bezittersaansprakelijkheid 19

2.4.1. Wanneer zijn de regels van kwalitatieve aansprakelijkheid van toepassing? 19

2.4.2. Kanalisatie naar productaansprakelijkheid 20

2.5. Beschouwing 21

3. Toekennen van rechtssubjectiviteit als mogelijke oplossing voor de aansprakelijkheid van robotica 23

3.1. Inleiding 23

3.2. Rechtssubjectiviteit nader beschouwd 23

3.3. (Rechts)vergelijkende praktijk 24

3.3.1. De komst van autonome objecten 24

3.3.2. Internationaal perspectief op de komst van autonome objecten 25

3.3.3. Zelfrijdende auto-industrie 26

3.3.3.1. Wanneer wordt een auto als zelfrijdend aangemerkt? 26

3.3.3.2. Aansprakelijkheid van de producent: art. 6:185 e.v. BW 27

3.3.3.3. Algemene aansprakelijkheid van de bezitter: art. 6:173 BW 28

3.3.3.4. Bijzondere aansprakelijkheid van de bezitter: art. 185 WVW 29

3.3.3.5. Oplossing voor aansprakelijkheidsvraagstukken bij zelfrijdende auto’s: risicoaansprakelijkheid 29 voor de bezitter

3.4. Is het wenselijk dat aan een robot rechtssubjectiviteit wordt toegekend? 30

3.5. Beschouwing 33

4. Invloed van rechtssubjectiviteit op de vergoeding van schade die patiënt lijdt, dan wel geleden heeft 35

4.1. Inleiding 35

4.2. Grondslag voor aansprakelijkheid 35

4.2.1. Totstandkoming van een operatierobot 35

4.2.1.1. ‘Aanschaf’ van een operatierobot 35

4.2.1.2. Financiering door private partijen 36

4.2.1.3. Terbeschikkingstelling door de overheid 37

4.2.2. In loondienst of ‘opererend’ als zelfstandige? 37

4.2.3. Hoe kan de schade door een operatierobot worden vergoed? 38

4.3. Centrale aansprakelijkheid van het ziekenhuis 41

5. Conclusie & aanbevelingen 44

5.1. Inleiding 44

5.2. Kan een robot ‘persoonlijk’ aansprakelijk worden gehouden voor een fout in de operatiekamer door 44 hem rechtssubjectiviteit toe te kennen?

5.3. Aanbevelingen 48

5.3.1. De robot erkennen als rechtssubject 49

5.3.2. Nieuwe afdeling omtrent kunstmatige intelligentie voor medische doeleinden in het 49 Burgerlijk Wetboek

5.3.3. Draagvlak bij de overheid creëren ten aanzien van financiering van de operatierobot 50 5.3.4. Het belang van monitoring van rechtsontwikkelingen in Zuid-Korea en Japan 51

6. Literatuurlijst 52

7. Jurisprudentielijst & kamerstukken 56

8. Bijlagen 57

8.1. Transcript dr. W.F.G. Haselager (Pim) 57

1. INLEIDING

Wie het programma Topdokters op RTL 4 bekijkt, ziet dat een Da Vinci-operatierobot in een hedendaagse operatiekamer niet ontbreekt. Hoewel de prestaties van Da Vinci-operatierobots op dit moment nog gelijk staan aan die van de topdokter die hen bedient, biedt de futuristisch uitziende robot vandaag de dag al voordelen voor chirurgen.2 Zo is de operatierobot langer in

staat bepaalde houdingen aan te nemen en kenmerkt hij zich door flexibele polsgewrichten.3

Geneeskundige handelingen kunnen daardoor met meer precisie worden uitgevoerd dan wanneer een chirurg het operatiemateriaal zelf vasthoudt.

Mocht de onwenselijke situatie zich voordoen dat een operatierobot bij zijn uitvoering faalt, dan biedt het huidige Burgerlijk Wetboek het slachtoffer drie mogelijkheden om zijn schade te verhalen. De eerste mogelijkheid wordt geboden door art. 6:185 BW, dat de aansprakelijkheid van de producent regelt. Zodra een operatierobot kan worden gekwalificeerd als een product, is ingevolge de regels van productaansprakelijkheid de producent van een operatierobot risicoaansprakelijk voor (toekomstige) gebreken vanaf het moment dat hij de robot in het verkeer brengt. Zo een gebrek doet zich voor wanneer een robot niet de veiligheid biedt die redelijkerwijs mag worden verlangd (art. 6:186 BW).

De tweede mogelijkheid voor afwenteling van schade is de weg van art. 6:74 BW in samenhang gelezen met art. 6:77 BW. Uit art. 6:77 BW volgt dat schade die voortkomt uit het gebruik van een ongeschikte hulpzaak, voor rekening van de gebruiker ervan komt. Indien de operatierobot kan worden aangemerkt als een zaak als bedoeld in art. 3:2 BW, wordt de robot mogelijk tevens gekwalificeerd als een hulpzaak in de zin van art. 6:77 BW. Een fout van de operatierobot valt dan in beginsel onder de verantwoordelijkheid van de chirurg die hem bedient.

Een derde, tevens laatste mogelijkheid voor het slachtoffer wordt geboden door art. 6:173 BW, dat de aansprakelijkheid van de bezitter van de (hulp)zaak betreft. Ook hiervoor is van belang dat een operatierobot kan worden gekwalificeerd als een zaak (art. 3:2 BW). Een bezitter is op grond van art. 6:173 BW risicoaansprakelijk voor zijn of haar roerende zaken indien zich een bijzonder gevaar voor personen of zaken voordoet zodra de roerende zaak niet voldoet aan de eisen die men daaraan mag stellen. Wel is daarvoor bekendheid met de potentiële

2 Dekker, Beleid en Maatschappij 2016/43, p. 31. 3 Van der Sluis e.a., NTvG 2013, p. 1-2.

verwezenlijking van het gevaar bij de hulpverlener vereist. Deze juridische grondslag biedt echter slechts soelaas indien de hulpverlener de hulpzaak in bezit heeft.

De (toe)komst van geheel zelfstandig opererende operatierobots is niet meer hypothetisch. Op verzoek van artsen in het Radboudumc ontwikkelde de TU Eindhoven de eerste autonoom functionerende operatierobot. De RoBoSculpt kan op basis van nauwkeurige instructies zelfstandig een gat in de schedelbasis frezen en ontneemt derhalve een complexe en risicovolle taak van de chirurg.4 Deze innovatie werd zowaar bekroond met de Health Valley Bridge Prijs

2019, hetgeen vertrouwen in de ontwikkeling van autonome operatierobots aantoont.5 Zodra

operatierobots autonoom functioneren op basis van zelfstandige ‘beslissingen’, klinkt aansprakelijkheid van producenten dan wel chirurgen of bezitters op grond van art. 6:185 BW respectievelijk art. 6:77 BW respectievelijk art. 6:173 BW mogelijk onredelijk in de oren. Het toekennen van rechtssubjectiviteit, waardoor een operatierobot zelfstandig drager van rechten en plichten wordt, vormt mijns inziens in potentie een passend alternatief om ‘persoonlijke’ aansprakelijkstelling van operatierobots te bewerkstelligen. In deze scriptie luidt de onderzoeksvraag daarom: Kan een robot ‘persoonlijk’ aansprakelijk worden gehouden voor

een fout in de operatiekamer door hem rechtssubjectiviteit toe te kennen? Door middel van

literatuur- en jurisprudentieonderzoek wordt een antwoord op deze onderzoeksvraag geformuleerd.

In hoofdstuk 2 worden allereerst drie huidige grondslagen voor aansprakelijkheid van robotica besproken. De eerste huidige grondslag betreft aansprakelijkheid van de producent van de robot overeenkomstig de regels van productaansprakelijkheid. Daarna volgt aansprakelijkheid van de hulpverlener en tot slot aansprakelijkheid van de ‘bezitter’ van de robot. De praktijkproblemen die hieruit voortvloeien worden eveneens behandeld. In hoofdstuk 3 wordt een mogelijk alternatieve oplossing voor de toerekenbaarheid van fouten in de operatiekamer bezien: de robot met rechtssubjectiviteit. Het begrip rechtssubjectiviteit wordt daarom nader beschouwd, gevolgd door (rechts)vergelijkende praktijkvoorbeelden. Vervolgens wordt aan de hand van interviews met dr. W.F.G. Haselager (universitair hoofddocent aan de Radboud Universiteit te Nijmegen) en dr. R. van den Hoven van Genderen (universitair docent Robotrecht aan de Vrije Universiteit te Amsterdam) besproken of het toekennen van rechten en plichten aan robots al dan niet wenselijk is. Indien de operatierobot met rechtssubjectiviteit wordt erkend, is

4 De Winter, Skipr 2017/7-8, p. 15.

vervolgens van belang te onderzoeken wie de betalende partij zou kunnen zijn in de rechtsverhouding tussen de operatierobot – als hulpverlener – en zijn patiënten. In hoofdstuk 4 wordt daarom de invloed van rechtssubjectiviteit op de grondslag voor schadevergoeding besproken. Ook wordt in dat verband ingegaan op de centrale aansprakelijkheid van het ziekenhuis binnen wiens muren de robot ‘opereerde’. De scriptie wordt in hoofdstuk 5 afgesloten met een conclusie en aanbevelingen.

2. HUIDIGE GRONDSLAGEN VOOR DE AANSPRAKELIJKHEID VAN ROBOTICA EN DAARMEE GEPAARD GAANDE PROBLEMEN

2.1. Inleiding

In dit hoofdstuk wordt bezien wie ingevolge het huidige Burgerlijk Wetboek aansprakelijk is voor fouten als gevolg van een falende operatierobot. Eerst wordt de aansprakelijkheid van de producent beschreven (§ 2.2.), waarna beschrijving van de aansprakelijkheid van de hulpverlener volgt (§ 2.3.). Vervolgens wordt kort ingegaan op de risicoaansprakelijkheid van bezitters (§ 2.4.). Dit hoofdstuk wordt afgesloten met een beschouwend oordeel over de vraag of – bij een fout door toedoen van operatierobots – toerekening aan de producent dan wel aan de hulpverlener of bezitter al dan niet rechtvaardig is met de komst van autonome operatierobots (§ 2.5.).

2.2. Aansprakelijkheid van de producent van de robot: productaansprakelijkheid

2.2.1. Zijn de regels van productaansprakelijkheid van toepassing op de operatierobot?

Een eerste mogelijkheid voor de patiënt om schade als gevolg van een falende operatierobot te verhalen, kan in potentie worden geboden door de regels van productaansprakelijkheid. Sinds 1 januari 1992 maken de regels van productaansprakelijkheid deel uit van het geldend recht in Nederland (Boek 6, Titel 3, Afdeling 3 BW). De afdeling vormt een implementatie van de door de Europese Commissie uitgebrachte richtlijn omtrent productaansprakelijkheid (Richtlijn 85/374/EEG).6

Alvorens aan de regels van productaansprakelijkheid toepassing kan worden gegeven, dient de operatierobot te kunnen worden aangeduid als zaak (art. 6:187 BW). In het goederenrecht worden zaken omschreven als “voor menselijke beheersing vatbare stoffelijke objecten” (art. 3:2 BW). Een operatierobot valt als zodanig onder de reikwijdte van art. 3:2 BW. De software op basis waarvan de operatierobot functioneert vormt daarentegen op zichzelf geen zaak.7 Een

operatierobot wordt echter toch geacht te vallen onder de Productaansprakelijkheidsrichtlijn zolang de geïmplementeerde software ondergeschikt en dienstig is aan het functioneren ervan.8

6 Wijne 2017, p. 448-450.

7 Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.7.

Aangezien de Productaansprakelijkheidsrichtlijn de basis heeft gevormd voor de regels van productaansprakelijkheid in het huidige Burgerlijk Wetboek, kan software om die reden worden beschouwd als product. Dit sluit aan bij het feit dat software tevens als medisch hulpmiddel wordt beschouwd als bedoeld in art. 2 Verordening (EU) 2017/745.9 Daarbij dient te worden

opgemerkt dat software echter slechts als medisch hulpmiddel wordt aangemerkt indien de producent de software specifiek heeft ontwikkeld ter diagnostisering, preventie, bewaking, behandeling of verlichting van ziekten.10 Nu software kan worden beschouwd als product en

als medisch hulpmiddel, ben ik van mening dat de regels van productaansprakelijkheid eveneens van toepassing zijn op de software van een operatierobot.

2.2.2. Risicoaansprakelijkheid voor een gebrekkige zaak

Aangezien normaliter geen overeenkomst tussen de producent en de patiënt tot stand komt, zal de patiënt zijn vordering moeten baseren op een buitencontractuele grondslag.11 Ten aanzien

van productaansprakelijkheid wordt deze buitencontractuele grondslag gevormd door art. 6:185 e.v. BW. Op grond van art. 6:185 BW geldt een risicoaansprakelijkheid voor de producent van de operatierobot. Zodra de producent een operatierobot in het verkeer brengt en deze als gebrekkig moet worden aangemerkt, is de producent uit hoofde van zijn hoedanigheid aansprakelijk.12 Uit art. 6:186 lid 1 BW volgt dat een product als gebrekkig wordt aangemerkt

indien het niet de veiligheid biedt die men redelijkerwijs mag verwachten. De producent ontkomt echter aan aansprakelijkheid wanneer een beroep op een van de bevrijdende verweren van art. 6:185 lid 1 sub a tot en met f BW wordt gehonoreerd.13

2.2.3. Vaststellen van de gebrekkigheid van een product

In de literatuur worden drie gebreken genoemd die kunnen optreden bij producten. Onderscheiden worden ontwerpgebreken (die zien op de voorbereiding), fabricagegebreken (tijdens de productie zelf) en instructiegebreken, die zich voordoen indien ondeugdelijke informatie aan de gebruiker wordt gegeven.14 Meer specifiek ten aanzien van een operatierobot

doen zich gebreken voor in de ‘lichaamsdelen’ van een robot, op het niveau van de software en

9 Wijne 2017, p. 459; Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.10.1.

10 Zie voor een vergelijkbare definitie van het begrip ‘medisch hulpmiddel’: art. 1 lid 1 sub a Wet op de Medische hulpmiddelen. 11 Wijne 2017, p. 445.

12 Wijne 2017, p. 448.

13 Lankhorst, in: T&C BW, art. 6:185, aant. 1. 14 Dommering-van Rongen, AV&S 2002, p. 139.

op het niveau van de diensten die de robot levert.15 Zoals in § 2.2.2. reeds werd beschreven

wordt een product als gebrekkig beschouwd indien het niet de veiligheid biedt die ‘men’ redelijkerwijs daarvan mag verwachten (art. 6:186 lid 1 BW). Volgens Lankhorst wordt ‘men’ in beginsel uitgelegd als de verwachtingen van het grote publiek, maar wanneer het een product betreft voor een specifieke doelgroep wordt van de verwachtingen van die doelgroep uitgegaan. In het kader van de operatierobot zal mijns inziens daarom slechts worden uitgegaan van de verwachtingen van deskundigen op dit gebied. Het betreft zodoende een gesubjectiveerd-objectief criterium, aangezien de gebreken vervolgens gesubjectiveerd-objectief dienen te worden vastgesteld aan de hand van de veiligheidsnormen die bestonden op het moment dat de operatierobot in het verkeer werd gebracht.16

Uit de parlementaire geschiedenis bij art. 6:186 lid 1 BW volgt dat de rechter een ruime beoordelingsmarge heeft bij het vaststellen van gebrekkigheid.17 De veiligheid wordt immers

aan de hand van alle concrete omstandigheden van het geval vastgesteld, waarbij in het bijzonder de presentatie, het redelijkerwijs te verwachten gebruik en het tijdstip waarop het product in het verkeer werd gebracht in aanmerking worden genomen (art. 6:186 lid 1 sub a tot en met c BW).18 Onder concrete omstandigheden beschouwde de Hoge Raad in het

Halcion-arrest het nut van het product, de ernst en frequentie van letsel, plus het bestaan van alternatieven.19 Stolker voegt hieraan toe dat tevens het ontwerp, de kenbaarheid van gevaar,

de aard en prijs van het product, maar ook de voordelen afgezet tegen de nadelen in ogenschouw moeten worden genomen.20

Aan de hand van voorgenoemde factoren dient de patiënt hard te maken dat sprake is van een gebrek, alsmede dat dit gebrekkige product heeft geleid tot zijn schade (art. 6:188 BW jo. art. 150 RV).21 Daarbij is het ‘soort’ gebrek van invloed op de onderbouwing door de patiënt ervan.

Productiegebreken kunnen worden gesteld (en indien betwist, bewezen) door het product te vergelijken met een ander product van de serie; ontwerpgebreken kunnen worden gesteld (en indien betwist, bewezen) door het product te vergelijken met een alternatief ontwerp en

15 De Schrijver & Van den Hoven van Genderen, Computerrecht 2015/197, p. 4-5. 16 Lankhorst, in: T&C BW, art. 6:186, aant. 2.

17 Kamerstukken ll 1985/86, 19636, nr. 3, p. 9. 18 HR 30 juni 1989, NJ 1990, p. 652. 19 Ibidem.

20 Stolker, in: GS Onrechtmatige daad, art. 6:186 BW, aant. 2. 21 Wijne 2017, p. 448.

instructiegebreken kunnen worden gesteld (en indien betwist, bewezen) door aan te tonen dat een waarschuwing niet, dan wel onvoldoende kenbaar of duidelijk is afgegeven.22

Nu gebreken objectief moeten worden vastgesteld uitgaande van de veiligheidsnormen die bestonden op het moment dat de operatierobot in het verkeer werd gebracht, mag de operatierobot niet als gebrekkig worden aangemerkt uitsluitend omdat naderhand een ‘veiliger’ product op de markt is gebracht. Zo volgt expliciet uit art. 6:186 lid 2 BW. Zodoende wordt de angst voor aansprakelijkheid bij productinnovaties (‘chilling effects’) ontnomen.23 Lid 2 vormt

daardoor tevens een verweermogelijkheid voor de producent.24

Een product mag eveneens niet als gebrekkig worden aangemerkt als het algemeen publiek bekend is met de logische (schadelijke) gevolgen bij gebruik ervan.25 Zo wordt bijvoorbeeld

verondersteld dat het algemeen publiek bekend is met bijwerkingen van paracetamolgebruik. Nu deze kennis mijns inziens niet verondersteld hoeft (en behoeft) te worden bij patiënten die door een operatierobot worden geopereerd, gaat deze ontsnappingsmogelijkheid voor de producent niet op.

2.2.4. Bevrijdende verweren van art. 6:185 lid 1 sub a tot en met f BW

De producent ontkomt echter wel aan aansprakelijkheid indien een beroep op een van de bevrijdende verweren van art. 6:185 lid 1 sub a tot en met f BW door de rechter wordt gehonoreerd.

Mijns inziens biedt in het kader van de operatierobot voornamelijk het ‘ontwikkelingsrisicoverweer’ soelaas voor de producent (art. 6:185 lid 1 sub e BW). Een beroep op het ontwikkelingsrisicoverweer slaagt wanneer de producent ten tijde van het op de markt brengen van de operatierobot op grond van de state of the art onmogelijk het gebrek had kunnen ontdekken. State of the art wordt door het Hof van Justitie beschreven als “de objectieve stand

van wetenschappelijke en technische kennis, waaronder begrepen het meest geavanceerde niveau, dat toegankelijk was voor de producent toen het product op de markt werd gebracht”.26

Het gebrek was dus reeds aanwezig in het product, maar kon simpelweg nog niet worden

22 Wijne 2017, p. 501-504; L. Dommering-van Rongen 2000, p. 51-53.

23 Stolker, in: GS Onrechtmatige daad, art. 6:186 BW, aant. 3; Tjong Tjin Tai & Boesten, NJB 2016/496, p. 7. 24 Vellinga, VR 2014/151, p. 5.

25 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 6.3.2. 26 HvJ EU 29 mei 1997, ECLI:EU:C:1997:255.

ontdekt. Vanwege de complexe materie van operatierobots valt te bepleiten dat een producent de gebreken aanvankelijk niet kon constateren.

Als het ontwikkelingsrisicoverweer wordt gehonoreerd, dan merkt Vellinga terecht op dat het slachtoffer achterblijft met de schade.27 Een onwenselijke situatie. Door Stolker wordt daarom

aan producenten aanbevolen dit ontwikkelrisico van de bezitter contractueel over te nemen, hetgeen verdisconteerd kan worden in een hogere verkoopprijs.28 Nu de ontwikkeling van

autonome operatierobots nog in de kinderschoenen staat, is de kans aanzienlijk dat producenten een beroep toekomt op het ontwikkelingsrisicoverweer. Contractuele uitsluiting is mijns inziens wenselijk om een regresmogelijkheid voor schuldeisers te bieden. Daarmee wordt een uitzondering gevormd op de hoofdregel dat aansprakelijkheid van de producent niet kan worden beperkt of uitgesloten jegens de benadeelde (art. 6:192 BW). Het leidt daardoor echter wel tot overeenstemming met het doel van art. 6:185 BW: bescherming van het slachtoffer.29 Het

neveneffect is daarentegen dat producenten van operatierobots aansprakelijk worden gehouden voor gebreken die zij onmogelijk konden, noch behoorden te kennen. Eveneens een onwenselijke situatie.

2.3. Aansprakelijkheid van de hulpverlener: robot gekwalificeerd als hulpzaak

2.3.1. Kan de operatierobot worden aangemerkt als hulpzaak?

Een tweede mogelijkheid voor de patiënt om schade als gevolg van een falende operatierobot te verhalen, biedt afwenteling van schade aan de hulpverlener. Doorgaans wordt tussen de hulpverlener en zijn patiënt een geneeskundige behandelingsovereenkomst gesloten waaruit verbintenissen voortvloeien die beide partijen dienen na te komen (art. 7:446 BW). Worden deze verbintenissen echter niet of niet naar behoren uitgevoerd, dan schiet de schuldenaar tekort en dient de daardoor ontstane schade van de schuldeiser te vergoeden (art. 6:74 BW). De tekortkoming in de nakoming komt daarentegen niet voor rekening van de schuldenaar indien deze hem niet kan worden toegerekend krachtens schuld, de wet, een rechtshandeling of in het verkeer geldende opvattingen (art. 6:75 BW). Toerekening krachtens de wet vindt daarentegen wel plaats op grond van art. 6:74 BW in samenhang gelezen van art. 6:77 BW.30 Als de

27 Vellinga, VR 2020/42, p. 4.

28 Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.8.2; Vellinga, VR 2020/42, p. 4. 29 Spijkerman, AV&S 2015/27, p. 169.

tekortkoming van de hulpverlener te wijten is aan het gebruik van een ongeschikte medische hulpzaak bij de uitvoering van een geneeskundige behandelingsovereenkomst, dan is de hulpverlener weliswaar niet ‘schuldig’, maar komt de tekortkoming op grond van art. 6:77 BW wel voor zijn rekening.

Uit art. 6:77 BW volgt dat hulpzaken voor menselijke beheersing vatbare stoffelijke objecten zijn die de schuldenaar aanwendt ter uitvoering van verbintenissen. In de definitie van een hulpzaak ligt aldus besloten dat sprake moet zijn van een zaak als bedoeld in art. 3:2 BW. De hulpzaak dient immers een voor menselijke beheersing vatbaar stoffelijk object te zijn. Nu operatierobots stoffelijke objecten zijn en gebruikt worden bij de uitvoering van een geneeskundige behandelingsovereenkomst, voldoet een operatierobot op zichzelf aan deze definitie.31 De software op basis waarvan de operatierobot functioneert vormt daarentegen op

zichzelf geen zaak.32 Een uitstap naar de regels van productaansprakelijkheid biedt uitkomst.

In § 2.2.1. werd reeds beschreven dat zolang de geïmplementeerde software ondergeschikt en dienstig is aan het functioneren van de robot, de robot wordt geacht te vallen onder de Productaansprakelijkheidsrichtlijn (Richtlijn 85/374/EEG).33 De operatierobot wordt dan

beschouwd als product. Nu in § 2.2.1. tevens werd beschreven dat software voldoet aan de definitiebepaling van een medisch hulpmiddel als bedoeld in art. 2 Verordening (EU) 2017/745, ben ik van mening dat software tevens dient te worden aangeduid als zaak (art. 3:2 BW).34

Wordt bij de uitvoering van de geneeskundige behandelingsovereenkomst dus gebruik gemaakt van een operatierobot, dan kan de operatierobot mijns inziens naar analogie worden gekwalificeerd als een hulpzaak zoals bedoeld in art. 6:77 BW.

2.3.2. Aansprakelijkheid voor een ongeschikte hulpzaak

2.3.2.1. Toerekening op grond van de wet

Gedurende het – misschien wel oneindige – leven van een operatierobot, kan de robot schade veroorzaken tijdens een operatie. In beginsel heeft de hulpverlener hier geen invloed op, waardoor verwijtbaarheid is uitgesloten. Vooralsnog gaat de hulpverlener niet vrijuit. Nu de operatierobot wordt gekwalificeerd als hulpzaak, komt de schade in beginsel voor rekening van

31 Tjong Tjin Tai, NHTR 2017/3, p. 128.

32 Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.7.

33 Van Wees, MvV 2018, p. 118; Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.7; Lankhorst, in: T&C BW, art. 6:187 BW, aant. 1. 34 Wijne 2017, p. 459; Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.10.1.

de hulpverlener die hem gebruikt (art. 6:77 BW). Op grond van art. 6:77 BW geldt dus een toerekening aan de hulpverlener.35

Een hulpverlener is echter slechts aansprakelijk indien de hulpzaak als ongeschikt wordt aangemerkt. De ongeschiktheid wordt bepaald in het licht van de specifieke geneeskundige behandelingsovereenkomst.36 Art. 6:77 spreekt tenslotte van “een zaak die daartoe ongeschikt

is”. Het vaststellen van ongeschiktheid verschilt zodoende ten opzichte van het vaststellen van

gebrekkigheid overeenkomstig art. 6:185 BW.37 Gebrekkigheid wordt immers bepaald aan de

hand van de algemene veiligheid (lees: veiligheidsnormen) van het product, zoals in § 2.2.2. reeds werd beschreven.

Een hulpverlener dient bovendien voorafgaand aan de operatie zich ervan te vergewissen dat een hulpzaak geschikt is ter uitvoering van de geneeskundige behandelingsovereenkomst. Het moment waarop een zaak als ongeschikt wordt aangemerkt verschilt dus ook van het vaststellen van gebrekkigheid. Immers, op grond van art. 6:186 BW is de producent aansprakelijk voor gebreken ten tijde van het op de markt brengen van het product. De situatie is mijns inziens daardoor denkbaar dat een hulpzaak eerder als geschikt werd aangemerkt en bij de huidige geneeskundige behandelingsovereenkomst als ongeschikte hulpzaak wordt beschouwd.

De ongeschiktheid van een hulpzaak kan een hulpverlener slechts worden tegengeworpen indien het bekende, objectieve ongeschiktheden betreft. Als de hulpverlener deze niet kon dan wel niet behoorde te kennen, volgt in beginsel geen aansprakelijkheid.38 De tenzij-formule van

art. 6:77 BW beschermt de hulpverlener dus tegen aansprakelijkheid voor gevallen waarin toerekening van onbekende ongeschiktheden onredelijk is. Die onredelijkheid dient dan te volgen uit “de inhoud en strekking van de rechtshandeling waaruit de verbintenis voortspruit,

de in het verkeer geldende opvattingen en de overige omstandigheden van het geval”.

Aangezien de bewijslast rust op degene die zich op de rechtsgevolgen beroept, dient de hulpverlener de feiten en omstandigheden daartoe aan te dragen (art. 150 RV).

De vraag rijst aan de hand van welke omstandigheden wordt bepaald of het falen van een hulpzaak binnen de risicosfeer van de hulpverlener valt. Hiemstra concludeert op grond van

35 Hiemstra, AV&S 2014/18, afl. 5/6, p. 4.

36 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 9.2. 37 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 9.7. 38 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 9.12.3.

een analyse van jurisprudentie, gewezen in de jaren 1984 tot en met 2017, dat van onredelijkheid van toerekening op grond van de tenzij-formule van art. 6:77 niet snel sprake is.39 Artikel 77 van Boek 6 heeft volgens Hiemstra het karakter van een (strikte)

risicoaansprakelijkheid, hetgeen inhoudt dat slechts verwezenlijking van het risico leidt tot aansprakelijkheid en dus niet is vereist dat verwijtbaar is gehandeld door de schuldenaar. Naar algemeen gebruik komt de schade dus voor rekening van de schuldenaar die de gebrekkige zaak heeft uitgekozen.40

Volgens Advocaat Generaal Wissink dient materieelrechtelijk (als open vraag) te worden beredeneerd óf en waarom een bepaalde oorzaak van een ongeschikte hulpzaak binnen de risicosfeer van de hulpverlener behoort te vallen.41 Wissink spreekt hieromtrent over in de

zaken welke betrekking hebben op PIP-borstimplantaten en Miragelplombes, waarin een ‘ooggel’ als hulpzaak centraal staat.42 De Hoge Raad heeft recentelijk antwoord gegeven op de

aan haar gestelde prejudiciële vragen. In de zaak rondom PIP-borstimplantaten heeft de Hoge Raad besloten dat het plaatsen van dergelijke implantaten, waarmee is gefraudeerd door de producent, weliswaar een tekortkoming in de geneeskundige behandelingsovereenkomst oplevert, maar niet aan de hulpverlener (of het ziekenhuis) kan worden toegerekend.43 Ten

aanzien van Miragelplombes besloot de Hoge Raad dat naderhand verkregen of nieuwe medische inzichten niet als tekortkoming kunnen worden aangemerkt als die op het moment van handelen nog niet bekend waren.44

Wissink bespreekt meerdere omstandigheden die zowel betrekking hebben op de aard van de overeenkomst als de persoonlijke omstandigheden van de partijen. Met betrekking tot de aard van de overeenkomst zijn zijns inziens onbekendheid, deskundigheid, keuzevrijheid en zeggenschap over de hulpzaak van belang. Ten aanzien van de persoonlijke omstandigheden spreekt Wissink over draagkracht, een regresmogelijkheid en het aantal (hulp)zaken. Het profijt van een hulpzaak en de verzekerbaarheid ervan gaan voor beide op.45

39 Hiemstra, R&P CA19 2018, p. 130-137. 40 Hiemstra, R&P CA19 2018, p. 137.

41 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 9.29.1.

42 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176; Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:175. 43 HR 19 juni 2020, ECLI:NL:HR:2020:1090.

44 HR 19 juni 2020, ECLI:NL:HR:2020:1082.

2.3.2.2. Omstandigheden met betrekking tot de aard van de overeenkomst

Wissink en Hiemstra zijn mijns inziens terecht van mening dat de onbekendheid, deskundigheid en het profijt van de overeenkomst beperkte grondslag bieden voor de allocatie van risico’s.46

Als uitgangspunt dient immers te worden genomen dat sprake was van onbekendheid omtrent de ongeschiktheid aan de zijde van de hulpverlener. Indien een hulpverlener wel bekend was met de ongeschiktheid, levert dit per slot van rekening een directe tekortkoming op. Daarnaast wordt een operatierobot doorgaans niet door de hulpverlener zelf geproduceerd, waardoor zijn deskundigheid zich slechts uitstrekt over het gebruik van de operatierobot en niet over de productie ervan met inbegrip van gebreken daaromtrent. Deskundigheid biedt mijns inziens slechts een grondslag ingeval de producent van een operatierobot door zijn eigen creatie wordt geopereerd. Al zal die situatie zich niet snel voordoen. Ten slotte is het ‘eenzijdige karakter’ van een geneeskundige behandelingsovereenkomst opmerkelijk.47 Centraal staat het verlenen

van goede zorg; centraal staat niet het behalen van wederzijds economisch voordeel zoals bij reguliere overeenkomsten het geval is. Het profijtbeginsel biedt volgens Wissink dan ook geen goede grondslag voor de risicoverdeling.

Volgens Wissink wordt de aansprakelijkheid van de hulpverlener met name gerechtvaardigd door de keuzevrijheid en zeggenschap die een hulpverlener heeft over de hulpzaak.48 De keuze

voor een operatierobot gaat immers in beginsel buiten de patiënt om. Wordt de keuze voor een operatierobot daarentegen gemaakt door de patiënt zelf, dan komt de hulpverlener sneller een beroep op de tenzij-formule van art. 6:77 BW toe.49 Laatstgenoemde situatie is echter bij het

ontbreken van deskundigheid omtrent de operatierobot mijns inziens vooralsnog ondenkbaar.

2.3.3.3. Persoonlijke omstandigheden van partijen

Met betrekking tot de persoonlijke omstandigheden van partijen, wordt een eerste omstandigheid gevormd doordat een van de partijen mogelijk verzekerd is voor schade als gevolg van een falende hulpzaak. Algemeen wordt aangenomen dat aanwezigheid van een verzekering niet mag leiden tot een eerdere aanname van aansprakelijkheid. Ditzelfde geldt

46 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 10.4.1, 10.4.2 en 10.4.5; Hiemstra, R&P CA19 2018, p. 336-338. 47 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176), 10.5.

48 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 10.8.1 e.v. en 10.9 e.v. 49 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:175, 7.4.3.

voor het draagkrachtbeginsel.50 Beide omstandigheden hebben slechts betrekking op welke

partij de schade financieel gezien ‘het beste’ kan dragen.

Daarnaast wordt de vraag of ongeschiktheid binnen de risicosfeer van de hulpverlener valt, niet beantwoord door de aanwezigheid, of het ontbreken, van een regresmogelijkheid.51 Deze

omstandigheid speelt volgens Wissink slechts een rol bij de redelijkheidstoets van art. 6:77 BW omtrent toerekening. Als een patiënt ook nog de mogelijkheid heeft om de producent aan te spreken op grond van art. 6:185 e.v. BW, kan toerekening onredelijk worden geacht. Tegelijkertijd leidt het ontbreken van een regresmogelijkheid – als gevolg van faillissement bijvoorbeeld – mogelijk wel tot honorering van een beroep op de tenzij-formule.

Evenmin is van belang of de ongeschikte hulpzaak deel uitmaakt van een groot aantal ongeschikte hulpzaken.52 Dit speelt slechts een rol bij de omvang van de schade; een

hulpverlener stelt zich immers op het feit dat hij onbekend is met de ongeschiktheid. Vandaar dat ook het aantal ongeschikte zaken geen grondslag biedt.

Concluderend kan aan de hand van de opvatting van Wissink worden gesteld dat de hiervoor beschreven omstandigheden een hulpverlener niet snel vrijwaren van zijn risicoaansprakelijkheid voor hulpzaken. Een beroep op de tenzij-formule van art. 6:77 BW zal tijdens de materiële toetsing door de rechter dan ook niet snel worden gehonoreerd.

2.4. Kwalitatieve aansprakelijkheid van de bezitter: bezittersaansprakelijkheid

2.4.1. Wanneer zijn de regels van kwalitatieve aansprakelijkheid van toepassing?

Reeds in § 2.3. werd beschreven dat een operatierobot mijns inziens kan worden beschouwd als een medische hulpzaak als bedoeld in art. 6:77 BW. Wanneer de hulpverlener de hulpzaak gebruikt en derhalve tot zijn bezit toerekent, geldt voor hem een bezittersaansprakelijkheid op grond van art. 6:173 BW. Uit art. 6:173 lid 1 BW volgt dat een bezitter risicoaansprakelijk is voor zijn of haar roerende zaken, indien zich een bijzonder gevaar voor personen of zaken verwezenlijkt zodra de roerende zaak niet voldoet aan de eisen die men daarvan mag

50 Hiemstra, R&P CA19 2018, p. 127; Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 10.6en 10.7.1; Calabresi 1970, p. 39. 51 Concl. AG M.H. Wissink, 21 februari 2020, ECLI:NL:PHR:2020:176, 10.7.2.

verwachten. De hulpverlener dient daarbij met de potentiële verwezenlijking van dat gevaar bekend te zijn. De vereiste bekendheid heeft louter betrekking op het ‘aan het gebrek verbonden’ gevaar en dus niet het gebrek zelf. Tevens hoeft het gebrek slechts bekend te zijn bij de kring van personen waartoe de hulpverlener behoort.53

Een hulpverlener ontkomt daarentegen aan aansprakelijkheid, indien het ziekenhuis (tevens zijnde hulpverlener) de operatierobot bedrijfsmatig gebruikt. Op grond van art. 6:181 BW is het ziekenhuis in tegenstelling tot de bezitter in zo een geval aansprakelijk. Art. 6:173 lid 1 BW biedt eveneens een beperkte verweermogelijkheid voor de hulpverlener.54 De

bezittersaansprakelijkheid van art. 6:173 BW gaat immers slechts op indien het te verwezenlijken gevaar ‘externe’ oorzaken heeft.55 De hulpverlener dient in dat geval te stellen

(en bij betwisting, te bewijzen) dat zijn aansprakelijkheid zou hebben ontbroken indien hij op de hoogte was van het gevaar ten tijde van het ontstaan ervan. Heeft de bezitter namelijk zelf (gedeeltelijk) schuld aan het gevaar, dan kan mogelijk een toerekening op grond van “de vorige

afdeling” volgen (art. 6:173 lid 1, laatste volzin BW jo. art. 6:162 BW).

2.4.2. Kanalisatie naar productaansprakelijkheid

Uit art. 6:173 lid 2 BW volgt dat een hulpverlener zijn schade kan afwentelen aan de producent indien de zaak niet voldoet wegens een veiligheidsgebrek die valt onder de risicoaansprakelijkheid van de producent (art. 6:185 e.v. BW).56 De kanalisatie naar

productaansprakelijkheid vindt daarentegen slechts plaats wanneer het gebrek reeds aanwezig was toen de zaak in het verkeer werd gebracht, dan wel niet later is ontstaan (art. 6:173 lid 2 sub a BW). Wordt hieraan niet voldaan, dan komt de producent mijns inziens immers de bevrijdende verweermogelijkheid van art. 6:185 lid 1 sub b BW toe.

Van den Hoven van Genderen onderschrijft een risicoaansprakelijkheid voor bezitters van operatierobots, nu de gereduceerde kans op ongelukken door autonome objecten (slechts 1%) dit rechtvaardigt.57 Mijns inziens biedt een bezittersaansprakelijkheid echter geen soelaas, want

daardoor wordt het idee van een ‘persoonlijke’ aansprakelijkheid van de robot ondermijnd. Indien de robot als rechtssubject wordt erkend, kan het simpelweg niet ‘in bezit’ zijn. Het in

53 Wijne 2017, p. 419-420.

54 Lankhorst, in: T&C BW, art. 6:173, aant. 1. 55 Asser/Sieburgh 6-IV 2019/226.

56 Asser/Sieburgh 6-IV 2019/228.

bezit nemen van rechtssubjecten kan mijns inziens namelijk worden beschouwd als slavernij, hetgeen sinds 1 juli 1863 in Nederland is verboden. Bovendien beschikt een operatierobot zelf over voldoende ‘vermogen’ waaruit de schadevergoeding aan de patiënt kan worden voldaan. In § 4.2.3. wordt hier nader op ingegaan.

2.5. Beschouwing

De beschrijving van huidige aansprakelijkheid van de producent werd in dit hoofdstuk vervolgd met een uiteenzetting over de aansprakelijkheid van de hulpverlener. Daarna werd de risicoaansprakelijkheid van de bezitter besproken. Alle drie de grondslagen van aansprakelijkheid hebben tot doel de schade als gevolg van een falende operatierobot te vergoeden.

Indien (evident) sprake is van een gebrek in de operatierobot bieden de regels van productaansprakelijkheid uitkomst. Een gebrek doet zich voor indien de robot niet de veiligheid biedt die wel mag worden verlangd (art. 6:186 BW). Mijns inziens staat de redelijkheid van deze aansprakelijkheidsgrond ter discussie. Hoewel een producent risicoaansprakelijk is voor (toekomstige) gebreken vanaf het moment dat hij de robot aflevert, dienen dergelijke gebreken reeds aanwezig te zijn ten tijde van aflevering. Het is maar de vraag of gebreken die zich voordoen bij een zelflerende, autonome operatierobot als reeds aanwezig kunnen worden beschouwd. Zodra operatierobots zelfstandig en adequaat kunnen reageren op externe factoren, wordt het namelijk overgelaten aan zijn eigen intellect en vaardigheden.58 Derhalve kan niet

worden teruggevallen op de ontwikkelde software door de producent. Het geheugen van de robot wordt dus onzichtbaar voor de mens en het zelflerend vermogen resulteert in het steeds intelligenter worden van de robot. Als gevolg daarvan vindt een ‘gedaanteverwisseling’ plaats waardoor de autonome operatierobot niet meer te vergelijken is met de robot ten tijde van de aflevering door de producent. Faalt een autonome operatierobot, dan zal patiënt ook die schade vergoed wensen te zien. De vraag rijst of een risicoaansprakelijkheid voor de producent van de ‘oorspronkelijke’ operatierobot gerechtvaardigd is. De ‘docent’ van een chirurg in opleiding wordt tenslotte ook niet ter verantwoording geroepen indien de chirurg zich later niet meer gedraagt conform de norm van goed hulpverlenerschap (art. 7:453 BW). De chirurg is na zijn opleiding bevoegd en bekwaam geacht te functioneren en is als zodanig zelf verantwoordelijk

te houden voor eventuele ‘gebreken’. Een vergelijkbare benadering geldt mijns inziens ook ten aanzien van de autonome operatierobot. De risicoaansprakelijkheid van de producent kan dan ook niet worden gehandhaafd.

Evenmin kan de aansprakelijkheid van de hulpverlener worden gehandhaafd. Aangezien een robot, inclusief zijn software, als hulpzaak kan worden aangemerkt, geldt thans een aansprakelijkheid op grond van de wet voor de chirurg die ervan gebruik maakt. Die aansprakelijkheid wordt gerechtvaardigd door de voordelen die operatierobots nu bieden voor de chirurg. Zodra operatierobots echter autonoom functioneren, worden de geneeskundige handelingen zelfstandig door hen uitgevoerd. De operatierobot biedt de hulpverlener geen hulp meer, maar ontneemt de chirurgische handelingen. De definitie van een hulpzaak gaat aldus niet meer op. Wordt de operatierobot niet meer aangeduid als hulpzaak, dan kan tevens geen gehoor meer worden gegeven aan de aansprakelijkheid van de hulpverlener (art. 6:77 BW).

Aan de bezittersaansprakelijkheid op grond van art. 6:173 BW kan eveneens geen gehoor meer worden gegeven met de komst van autonome operatierobots. Wordt de operatierobot immers erkend als rechtssubject, dan kan de robot niet meer in bezit worden genomen. De bezittersaansprakelijkheid gaat derhalve überhaupt niet op, aangezien voor toepassing van art. 6:173 BW per definitie ‘bezit’ is vereist. Reeds in 1863 werd slavernij als verboden aangemerkt, waardoor eigendom of bezit slechts kan worden verkregen over rechtsobjecten die niet zelfstandig drager van rechten en plichten zijn.

Concluderend kan worden gesteld dat de huidige wijzen van aansprakelijkstelling bij fouten in de operatiekamer geen standhouden met de komst van autonome operatierobots. Zowel de producent als de hulpverlener en ‘bezitter’ zullen dus beschermd dienen te worden voor aansprakelijkheid. In hoofdstuk 3 wordt daarom geanalyseerd of rechtssubjectiviteit aan autonome operatierobots kan worden toegekend, wat mogelijk leidt tot ‘persoonlijke’ aansprakelijkstelling van de robot.

3. TOEKENNEN VAN RECHTSSUBJECTIVITEIT ALS MOGELIJKE O PLOSSING VOOR DE AANSPRAKELIJKHEID VAN ROBOTICA

3.1. Inleiding

In dit hoofdstuk wordt bezien of robots van rechtsobject kunnen transformeren naar rechtssubject. Daartoe wordt allereerst beschreven wat rechtssubjectiviteit inhoudt (§ 3.2.). Vervolgens wordt de omgang met aansprakelijkheidsvraagstukken bij de zelfrijdende auto-industrie geanalyseerd (§ 3.3.). Daarna wordt aan de hand van interviews met dr. W.F.G. Haselager en dr. R. van den Hoven van Genderen overwogen of het toekennen van rechtssubjectiviteit aan robots al dan niet wenselijk is (§ 3.4.). Dit hoofdstuk wordt afgesloten met een beschouwend oordeel over de potentie van het toekennen van rechtssubjectiviteit als mogelijke oplossing voor de aansprakelijkheid van robotica (§ 3.5.).

3.2. Rechtssubjectiviteit nader beschouwd

Nederland kent een gesloten stelsel van rechtssubjecten. Zowel natuurlijke personen als rechtspersonen worden in de artikelen 1:1 lid 1 en 2:1 e.v. BW (in combinatie met art. 2:5 BW) als zodanig aangemerkt.59 Een rechtssubject wordt omschreven als zelfstandig drager van

rechten en plichten.60 Dankzij die juridische persoonlijkheid kunnen rechtsbetrekkingen

worden aangegaan, hetgeen deelname aan het maatschappelijk verkeer mogelijk maakt.61

Tot op heden worden operatierobots aangeduid als rechtsobjecten. Rechtsobjecten kunnen geen drager van rechten en plichten zijn. Zij zijn slechts het lijdend voorwerp daarvan.62 Het

rechtsobject is dus ‘datgene’ waarop het recht van het rechtssubject betrekking heeft.63

Overeenkomstig art. 3:2 BW zijn operatierobots “voor menselijke beheersing vatbare

stoffelijke objecten”, wat betekent dat zij in het goederenrecht worden aangeduid als zaak.

Degene aan wie de operatierobot toebehoort, heeft de zaak in beginsel in eigendom en kan derhalve de operatierobot onderwerpen aan rechten en plichten (art. 5:1 BW).

59 Van Doesum 2009/9.3. 60 Asser/De Boer 1* 2010/21. 61 Van Doesum 2009/9.6.

62 Asser/Bartels & Van Mierlo 3-IV 2013/53. 63 Ibidem.

Door het gesloten stelsel van rechtssubjecten te openen voor operatierobots, transformeert de operatierobot van object naar subject van het recht. Om dit te bewerkstelligen dient het huidige Burgerlijk Wetboek mijns inziens te worden aangevuld met een nieuwe afdeling gericht op kunstmatige intelligentie (voor medische doeleinden). De wettelijke verankering van de operatierobot als rechtssubject resulteert in de mogelijkheid om burgerlijke rechten te genieten. Theoretisch gezien kan een operatierobot zo zelfstandig een arbeidsovereenkomst met het ziekenhuis sluiten, op basis waarvan de operatierobot geneeskundige behandelingsovereenkomsten met patiënten kan sluiten (art. 7:446 BW). In het verlengde daarvan kan een operatierobot mogelijk aansprakelijk worden gehouden voor fouten die zich voordoen in de operatiekamer, omdat de geneeskundige behandelingsovereenkomst dan niet naar behoren wordt nagekomen (art. 6:74 BW).

3.3. (Rechts)vergelijkende praktijk

3.3.1. De komst van autonome objecten

De komst van autonome objecten lijkt het leven op het eerste gezicht te vergemakkelijken. Over enkele jaren plaatsen huishoudrobots direct een bestelling bij de supermarkt van ontbrekende producten in de ijskast, terwijl op hetzelfde moment het huis wordt gestofzuigd door een stofzuigerrobot.64 In tegenstelling tot de stofzuigerrobot, pleegt de huishoudrobot

rechtshandelingen waardoor de juridische omstandigheden veranderen.65 De software achter

deze robots is onderdeel van een zaak, waarop eigendom van de eigenaar rust. De autonome beslissingen kunnen daarom worden toegeschreven aan de eigenaar, die op zijn of haar beurt verantwoordelijk is voor de rechtsgevolgen.66 Dit is opmerkelijk, nu niet de eigenaar van de

robot maar de software bepaalt welke (rechts)handelingen worden verricht. Met het autonomer worden van robots wordt eigendom bovendien steeds lastiger te traceren.67 Door een juridische

entiteit voor robots te aanvaarden is mijns inziens een regresmogelijkheid voor schuldeisers gegarandeerd.

64 Van den Hoven van Genderen, interview 25 maart 2020, p. 61. 65 Ibidem.

66 Van Schaick, NTBR 2018/7, p. 1.

3.3.2. Internationaal perspectief op de komst van autonome objecten

Het idee van robots erkennen als rechtssubject is niet nieuw. Sinds 2005 wordt in Zuid-Korea en Japan reeds geëxperimenteerd met robotrechten.68 Robots worden zodoende aangemerkt als

juridische entiteit. Aan de hand van de drie wetten van Isaac Asimov worden ethische en juridische normen ontwikkeld waaraan robots zich dienen te houden:

1. Een robot mag door te handelen of nalaten te handelen een mens geen letsel toebrengen; 2. Een robot moet de bevelen van de mens uitvoeren, tenzij deze in strijd is met de Eerste Wet;

3. Een robot moet zichzelf beschermen, tenzij dit in strijd is met de Eerste of Tweede Wet.69

Het experiment is echter niet zodanig gevorderd dat vraagstukken rondom aansprakelijkheid kunnen worden beantwoord, wat mijns inziens cruciaal is voor erkenning van juridische persoonlijkheid.70

Anders dan het toekennen van een ‘nieuwe’ vorm van rechtssubjectiviteit zoals in Zuid-Korea en Japan, heeft Saoedi-Arabië robot Sophia aangemerkt als staatsburger. Sophia is de eerste robot die zowel menselijke uiterlijke kenmerken als karaktereigenschappen vertoont. Uitvinder David Hanson heeft haar voorkomen geïnspireerd op actrice Audrey Hepburn en zijn eigen vrouw.71 Robot Sophia is de eerste ‘robotburger’ van de wereld en heeft door haar

staatsburgerschap dezelfde rechten en plichten als Saoedi-Arabische vrouwen. Opmerkelijk vind ik, nu Sophia geen sluier draagt en geen mannelijk voogd heeft wat daarentegen wel verplicht is voor vrouwen in Saoedi-Arabië.72

Robot Sophia pretendeert emoties te voelen en te kunnen leren door de interactie met mensen.73

Robot-onderzoeker prof. dr. K.V. Hindriks benadrukt dat Sophia echter vooral een menselijk uiterlijk heeft; haar karakter is volledig vooraf geprogrammeerd.74 Ondanks haar volwassen

uiterlijk, is Sophia slechts 2,5 jaar oud.75 Naar Nederlands recht wordt Sophia dan ook

beschouwd als minderjarige (art. 1:233 BW). Aangezien minderjarigen worden geacht niet in

68 Van den Hoven van Genderen, interview 25 maart 2020, p. 66.

69 De Schrijver & Van den Hoven van Genderen, Computerrecht 2015/197, p. 1. 70 ‘Robotrecht’, switchlegal.nl 2019.

71 ‘Sophia, first citizen robot of the world’, researchgate.net 27 november 2011, p. 3; ‘Maak kennis met Sophia, de robot die er bijna menselijk uitziet’,

nationalgeographic.com 18 mei 2018.

72 ‘Robot Sophia (zonder hoofddoek) is nu Saudisch staatsburger’, nos.nl 27 oktober 2017; ‘Everything you need to know about Sophia, the world’s

first robot citizen’, forbes.com 7 november 2017.

73 ‘Sophia, first citizen robot of the world’, researchgate.net 27 november 2011, p. 2.

74 ‘Robot Sophia lijkt net een mens, maar is net zo ‘dom’ als een chatbot’, nos.nl 28 september 2018. 75 ‘Sophia, first citizen robot of the world’, researchgate.net 27 november 2011, p. 2.

staat te zijn tot een redelijke waardering van zijn of haar belangen, kunnen zij slechts rechtshandelingen verrichten met toestemming van een wettelijk vertegenwoordiger (art. 1:234 BW). Robot Sophia is naar Nederlands recht vooralsnog handelingsonbekwaam en kan daarom niet zelfstandig rechtshandelingen verrichten. Nu Sophia derhalve ook niet verantwoordelijk kan worden gehouden voor de rechtsgevolgen van haar rechtshandelingen, zal erkenning van het Nederlandse staatsburgerschap mijns inziens niet snel volgen.

3.3.3. Zelfrijdende auto-industrie

3.3.3.1. Wanneer wordt een auto als zelfrijdend aangemerkt?

Een meer representatieve vergelijking ten aanzien van aansprakelijkheidsvraagstukken kan worden gemaakt met de zelfrijdende auto-industrie. Een auto wordt geacht geheel zelfstandig te rijden indien inzittenden geen toezicht hoeven te houden op de besturing.76 In zo een geval

is aan de auto level SAE 5 toegekend door de Society of Automotive Engineers. Vooralsnog is dit level hypothetisch.77 Autofabrikanten Volvo en Ford brengen naar verwachting in 2021 de

eerste auto met level SAE 4 op de markt, wat betekent dat de mens slechts beperkt toezicht hoeft te houden.78 Het systeem zou zich zonder menselijk ingrijpen daarentegen bij level SAE

4 moeten kunnen redden.79

Uit onderzoek van de U.S. Department of Transportation blijkt dat zelfrijdende auto’s het aantal auto-ongelukken aanzienlijk reduceren. Meer dan 90% van de verkeersongevallen wordt immers veroorzaakt door menselijk falen.80 Ruim 8% is te wijten aan milieucondities en slechts

een aandeel van 1% is het gevolg van technische gebreken.81 Van den Hoven van Genderen

voegt hieraan toe dat technische gebreken wederom het gevolg zijn van menselijk falen, aangezien zij de software in de zelfrijdende auto programmeren.82 Ondanks de reductie van het

aantal auto-ongelukken, blijft de vraag wie verantwoordelijk kan worden gehouden voor het geval waarin een zelfrijdende auto onverhoopt toch faalt. Nu de gebruiker van een autonome auto slechts de bestemming van het voertuig invoert en daardoor vrijwel nauwelijks invloed uit

76 Tjong Tjin Tai & Boesten, NJB 2016/496, p. 2. 77 Ibidem.

78 Dhawan 2019, p. 130; ‘Fords targets fully autonomous vehicle for ride sharing in 2021’, media.ford.com 16 augustus 2016. 79 Tichelaar, TAV 2018/24, p. 1.

80 Singh, NHTSA 2015/DOTHS812115, p. 1.

81 ‘Verkehr auf einen Blick’, destatis.de april 2013, p. 38. 82 Van den Hoven van Genderen, interview 25 maart 2020, 64.

kan oefenen op het rijgedrag, kunnen aansprakelijkheidsvraagstukken niet worden beantwoord door huidig Nederlands verkeersrecht.83

3.3.3.2. Aansprakelijkheid van de producent: art. 6:185 e.v. BW

Het rijgedrag van de zelfrijdende auto wordt daarentegen wel beïnvloed door de producent van de auto. De producent programmeert en implementeert immers de software op basis waarvan de auto rijdt. Zoals in § 2.2.1. reeds werd beschreven valt software onder de Productaansprakelijkheidsrichtlijn (Richtlijn 85/374/EEG) zolang de software een onlosmakelijk deel van het product vormt en dienstig is aan het functioneren ervan.84 Nu de

regels van productaansprakelijkheid in het huidige Burgerlijk Wetboek een implementatie van de Productaansprakelijkheidsrichtlijn vormen, zijn de regels van productaansprakelijkheid van toepassing op de – software van de – de zelfrijdende auto. Op grond van art. 6:185 BW is de producent van zelfrijdende auto’s risicoaansprakelijk voor schade die wordt veroorzaakt door gebreken, tenzij een geslaagd beroep op een van de verweren in het vervolg van het artikel wordt gedaan.

Gebreken bij zelfrijdende auto’s kunnen zich voordoen op het niveau van het ontwerp, de fabricage of de instructies aan de gebruiker.85 Fabricagegebreken leiden vrijwel altijd tot

productaansprakelijkheid, nu het plaatsen van ondeugdelijke sensoren of camera’s evident zouden moeten zijn opgemerkt door de producent.86 Met betrekking tot instructiegebreken dient

een producent aan te tonen dat zijn waarschuwingen in algemene zin effectief zijn gebleken om te ontkomen aan aansprakelijkheid.87 Als een benadeelde dergelijke aanwijzingen niet heeft

opgevolgd, kan hem de schade op grond van eigen schuld worden verweten en wordt niet langer gesproken van een gebrek (art. 6:185 lid 2 BW). Een voorbeeld hiervan is het niet uitvoeren van software-updates. Bij ontwerpgebreken dient te worden afgevraagd welke veiligheidsstandaarden van de producent kunnen worden gevergd. Inherent hieraan verbonden zijn het in kaart brengen van de verbonden risico’s die nog aanvaardbaar zijn en de potentie voor een alternatief ontwerp dat de schade mogelijk had kunnen voorkomen.88 Daarbij biedt

het Halcion-arrest hulp: naarmate het product dienstiger is, zullen risico’s van het ontwerp

83 Hof Arnhem-Leeuwarden 31 juli 2019, ECLI:NL:GHARL:2019:6122; Vellinga, VR 2020/42, p. 2. 84 Van Wees, MvV 2018, p. 118.

85 Schreuder AV&S 2014/20, p. 2.

86 Tjong Tjin Tai & Boesten, NJB 2016/496, p. 4. 87 Schreuder, AV&S 2014/20, p. 3.

sneller worden aanvaard.89 Nu een autonome auto mijns inziens gekwalificeerd kan worden als

een product dat 100% dienstig is, zullen de risico’s van het zelfrijdende ontwerp sneller worden aanvaard. Tjong Tjin Tai en Boesten merken mijns inziens bovendien terecht op dat het implementeren van een zelflerend systeem in een auto ook een ontwerpkeuze is. Gebreken die hierin optreden komen zodoende in beginsel voor rekening van de producent ervan, tenzij een geslaagd beroep op een van de bevrijdende verweren in art. 6:185 lid 1 sub a tot en met f BW wordt gedaan.

3.3.3.3. Algemene aansprakelijkheid van de bezitter: art. 6:173 BW

Een tweede aansprakelijkheidsgrond bij schade door zelfrijdende auto’s wordt gevormd door art. 6:173 BW. Ingevolge dit artikel is de bezitter risicoaansprakelijk voor zijn of haar roerende zaken. Vereist is dat zich een bijzonder gevaar voor personen of zaken voordoet. Daarnaast is vereist dat de bezitter bekend is met het feit dat dit gevaar zich verwezenlijkt indien zijn roerende zaak niet voldoet aan de eisen die men daarvan mag verwachten. Tjong Tjin Tai en Boesten beschrijven twee benaderingen ten aanzien van het veiligheidsniveau dat wordt verlangd.90 In de toegeeflijke opvatting hoeft de zaak slechts te voldoen aan de state of the

art-mogelijkheden. Er wordt dan aangesloten bij de regels omtrent productaansprakelijkheid. Wordt echter uitgegaan van een strenge opvatting, dan wordt gesproken van een gebrekkige autonome auto als deze slechter rijdt dan de maatman (de gemiddelde bestuurder). Eenzelfde ‘maatman’-benadering wordt gehanteerd in art. 7:453 BW, die de norm van goed hulpverlenerschap duidt: hulpverleners dienen bij hun uitoefening de zorgvuldigheid van een redelijk handelend en redelijk bekwaam vakgenoot als uitgangspunt te nemen.91 Aangezien de

bezitter van de zelfrijdende auto geen mogelijkheid heeft om in te grijpen, zijn de auteurs mijns inziens terecht van mening dat aangesloten moet worden bij de strenge benadering.92

Wordt eenmaal geconcludeerd dat sprake is van een gebrekkige auto, dan kan op grond van art. 6:173 lid 2 sub a BW wederom de producent worden aangesproken.93 Aan afwenteling van

schade aan de producent wordt echter geen gehoor gegeven indien de fout te wijten is aan de bestuurder zelf.94 Verwijtbaar handelen van de bestuurder kan zelfs leiden tot een

89 HR 30 juni 1989, NJ 1990, p. 652.

90 Tjong Tjin Tai & Boesten, NJB 2016/496, p. 4. 91 HR 9 november 1990, ECLI:NL:HR:1990:AC1103. 92 Tjong Tjin Tai & Boesten, NJB 2016/496, p. 5. 93 Schreuder, AV&S 2014/20, p. 4.

onrechtmatige daad (art. 6:162 BW). Art. 6:162 BW biedt mijns inziens verder geen toereikende grondslag voor schadevergoeding, nu het handelen van de bestuurder dan als uitgangspunt wordt genomen en laatstgenoemde nauwelijks invloed kan uitoefenen op de zelfrijdende auto.95

3.3.3.4. Bijzondere aansprakelijkheid van de bezitter: art. 185 WVW

Ten slotte heeft een niet-gemotoriseerd slachtoffer nog een extra civiele aansprakelijkheidsgrond: art. 185 Wegenverkeerswet (WVW). Overeenkomstig de begripsbepaling van art. 1 lid 1 sub c WVW genieten slachtoffers ook bescherming voor schade veroorzaakt door een zelfrijdende auto.96 De bezitter van de auto wordt verantwoordelijk

gehouden, tenzij sprake is van overmacht. Een beroep op overmacht wordt echter niet snel gehonoreerd.97 De Hoge Raad heeft op 16 april 1942 al geoordeeld dat een technisch defect aan

de auto geen overmacht oplevert.98 De bezitter dient de schade dus te vergoeden, waarna

aannemelijk is dat een procedure tegen de producent van de autonome auto volgt (art. 6:185 e.v. BW). Er was immers sprake van een gebrek.

Nu geen onderscheid kan worden gemaakt tussen ‘gemotoriseerde’ en ‘niet-gemotoriseerde’ patiënten gedurende een operatie door de operatierobot, behoeft deze aansprakelijkheidsgrond mijns inziens geen nadere uitleg.

3.3.3.5. Oplossing voor aansprakelijkheidsvraagstukken bij zelfrijdende auto’s: risicoaansprakelijkheid voor de bezitter

Wanneer het apparaat naar behoren functioneert en onverhoopt toch schade optreedt, wordt door Schreuder mijns inziens terecht bepleit dat het in zo een geval lastig is een producent dan wel een bezitter aan te spreken. Een risicoaansprakelijkheid voor de bezitter biedt volgens Schreuder uitkomst.99 De bezitter heeft immers profijt van de auto en door het veilige karakter

van de zelfrijdende auto wordt minder verzekeringspremie betaald.100

95 Schreuder, AV&S 2014/20, p. 5; Tjong Tjin Tai & Boesten, NJB 2016/496, p. 3. 96 Tjong Tjin Tai & Boesten, NJB 2016/496, p. 3.

97 HR 22 mei 1992, ECLI:NL:RBMNE:2014:783; Tichelaar, TAV 2018/24, p. 3. 98 HR 16 april 1942, NJ 1942, p. 394; Tichelaar, TAV 2018/24, p. 3.

99 Schreuder, AV&S 2014/20, p. 7. 100 Vellinga, VR 2014/151, p. 7.

Het handelen van de autonome auto wordt in geval van schade getoetst, waarbij bezitter zich kan verweren door te bewijzen dat de auto tot de meest veilige handelswijze is overgegaan, dan wel aannemelijk is dat de schade ook zou zijn ontstaan indien met verhoogde zorgvuldigheid zou zijn gehandeld.101 Zoals in § 2.4.2. reeds werd beschreven onderschrijft Van den Hoven

van Genderen een risicoaansprakelijkheid voor bezitters, nu de gereduceerde kans op ongelukken door gebruik van autonome objecten dit rechtvaardigt.102 Mijns inziens biedt een

risicoaansprakelijkheid voor de bezitter van een operatierobot echter geen uitkomst, omdat daardoor het idee van ‘persoonlijke’ aansprakelijkheid van de robot wordt ondermijnd.

3.4. Is het wenselijk dat aan een robot rechtssubjectiviteit wordt toegekend?

Alvorens over te kunnen gaan tot erkenning van de operatierobot als rechtssubject, dienen kritische kanttekeningen bij het idee te worden geplaatst. Zo stelt Van den Hoven van Genderen dat in de meeste gevallen slechts een beperkte mate van rechtssubjectiviteit wenselijk is. Zonder aanvaarding van (een beperkte mate van) rechtssubjectiviteit kan een operatierobot uiteraard geen juridische verantwoordelijkheid dragen.103 Rechtssubjectiviteit dient zijns inziens echter

slechts te worden toegekend indien de functie en de mate van autonomie dit legitimeren. Tevens dient sprake te zijn van maatschappelijke noodzaak.104 De mate van autonomie kan volgens

drie maatstaven worden bepaald: menselijke intelligentie door middel van de Turing-test, sociale intelligentie en actie-intelligentie.105 Slaagt de robot voor de drie testen, dan komt het

een beperkte rechtsbevoegdheid toe. Een vergelijkbare wijze wordt gehanteerd bij minderjarigen die onder de verantwoordelijkheid van hun wettelijke vertegenwoordigers vallen (art. 1:234 BW). De inhoudelijke invulling van de rechtssubjectiviteit zal zijns inziens, net als bij natuurlijke personen, dus dienen te verschillen per ‘type’ robot.106 Vandaar dat wordt

gesproken over een verschil in de mate van rechtssubjectiviteit. Door de mate van zelflerend vermogen ontstaan bovendien verschillende persoonlijkheden. Van den Hoven van Genderen pleit in dat kader voor opname van ‘rechtsbevoegde’ robots in een openbaar register, zodat duidelijkheid is gewaarborgd omtrent de mate van rechtsbevoegdheid.107 Zodra de mate van

rechtssubjectiviteit verschilt naar gelang het niveau van autonomie, de functie en maatschappelijke noodzaak is een dergelijk register in het kader van rechtszekerheid (omtrent

101 Schreuder, AV&S 2014/20, p. 7.

102 Van den Hoven van Genderen, interview 25 maart 2020, p. 64. 103 Van den Hoven van Genderen, MEMO RAD 2017, afl. 3, p. 31. 104 Van den Hoven van Genderen, interview 25 maart 2020, p. 62. 105 Van den Hoven van Genderen, MEMO RAD 2017, afl. 3, p. 32.

106 Van den Hoven van Genderen, MEMO RAD 2017, afl. 3, p. 28; Van den Hoven van Genderen, interview 25 maart 2020, p. 65 en 66. 107 Van den Hoven van Genderen, interview 25 maart 2020, p. 67.

het aangaan van (rechts)handelingen) mijns inziens gewenst. Een vergelijkbare wijze wordt bijvoorbeeld ook gehanteerd ten aanzien van mensen die onder curatele of bewind zijn geplaatst en derhalve worden opgenomen in het centrale curatele- en bewindregister.

Op Europees niveau blijft het autonomer worden van robotica ook niet onopgemerkt. In een resolutie van 16 februari 2017 doet het Europees Parlement aanbevelingen aan de Europese Commissie over civielrechtelijke regels ten aanzien van robotica.108 Aangezien de verhouding

tussen producenten en gebruikers vanwege het zelflerende karakter van robots steeds lastiger is terug te voeren op een menselijke actor, is het Europees Parlement van mening dat dient te worden nagedacht over de wettelijke verantwoordelijkheid voor autonome handelingen (onderdeel Z & AB). In onderdeel 51 wordt de Europese Commissie daarom aanbevolen een wetgevingsinstrument te bedenken voor toekomstig roboticagebruik. Als voorbeeld voor een dergelijk wetgevingsinstrument benoemt het Europees Parlement in onderdeel 57 sub f expliciet het creëren van een specifieke rechtspersoonlijkheid. In haar mededeling van 25 april 2018 laat de Europese Commissie zich niet uit over een dergelijke vorm van rechtspersoonlijkheid, waaruit mijns inziens kan worden geconcludeerd dat zij hierin vooralsnog geen vertrouwen heeft.109

De aanbeveling van het Europees Parlement omtrent een specifieke rechtspersoonlijkheid stuitte eveneens op veel kritiek van geleerden op het gebied van kunstmatige intelligentie. Honderdvijftig critici schreven in een openbare brief aan de Europese Commissie dat de capaciteiten van huidige robots worden overgewaardeerd.110 Daarnaast wordt een robot niet

vertegenwoordigd en verdedigd door mensen zoals bij rechtspersonen het geval is. Een robot kan daarom mijns inziens terecht niet worden vergeleken met (huidige) vormen van rechtspersoonlijkheid. Vooralsnog is erkenning van robots als rechtssubject in het Europees Parlement onbesproken gebleven; wel concretiseerde Delvaux de intentie van het Europees Parlement waaruit een zienswijze blijkt die de robot zelfstandig aansprakelijk wenst te houden.111

Wie echter standvastig van mening is dat robots nimmer als rechtssubject mogen worden aanvaard, is dr. W.F.G. Haselager. Nu een robot slechts ‘doet alsof’ hij intelligent is en niet

108 Resolutie 2015/2103 van het Europees Parlement (16 februari 2017), Civielrechtelijke regels over robotica (2015/2103(INL)). 109 Mededeling 2018/237 van de Commissie (24 april 2018), Kunstmatige intelligentie voor Europa (COM(2018) 237 final). 110 ‘Open letter to the European Commission Artificial Intelligence and Robotics’, robotics-openletter.eu April 2018.

111 ‘Open letter to the European Commission Artificial Intelligence and Robotics’, robotics-openletter.eu April 2018; Van der Spek, MvO 2020/1-2, p.