Kan een robot ‘persoonlijk’ aansprakelijk worden gehouden voor een fout in de operatiekamer door hem rechtssubjectiviteit toe te kennen?

In hoofdstuk 2 heb ik geconcludeerd dat huidige wijzen van aansprakelijkstelling uit het Burgerlijk Wetboek geen mogelijkheden kent om operatierobots persoonlijk aansprakelijk te stellen. Mijns inziens heeft de komst van autonome operatierobots het huidige Burgerlijk Wetboek ingehaald en noopt deze snelle medische-modernisering tot een herziening van het aansprakelijkheidsrecht.

Over de toepassing van moderne medische ontwikkelingen heb ik in hoofdstuk 2 de huidige grondslagen voor het aansprakelijkheidsrecht beschreven. Daarbij was de vraag of een operatierobot als product dan wel als (hulp)zaak kan worden aangemerkt, het uitgangspunt. Mijn analyse van de Productaansprakelijkheidsrichtlijn, die de basis voor de regels van productaansprakelijkheid in het huidige Burgerlijk Wetboek vormt, beantwoordde die vraag bevestigend. De software op basis waarvan de operatierobot functioneert, valt te kwalificeren als een product. De software is immers ondergeschikt en dienstig is aan het functioneren van de operatierobot. Dit sluit bovendien aan bij het feit dat software tevens als medisch hulpmiddel wordt beschouwd als bedoeld in art. 2 Verordening (EU) 2017/745, zolang de producent de

software specifiek heeft ontwikkeld ter diagnostisering, preventie, bewaking, behandeling of

verlichting van ziekten. Nu software kan worden beschouwd als product en als medisch hulpmiddel, ben ik van mening dat software tevens dient te worden aangemerkt als zaak.

Operatierobots vallen dus onder het bereik van de regels van productaansprakelijkheid. Op grond van die productaansprakelijkheid kan een eerste juridische grondslag voor aansprakelijkheid worden gevonden. Ingevolge art. 6:185 BW geldt een risicoaansprakelijkheid voor de producent van een operatierobot. Vanaf het moment dat de robot in het verkeer wordt gebracht, is de producent zodoende risicoaansprakelijk voor gebreken. De operatierobot wordt beschouwd als gebrekkig in het geval de robot niet de veiligheid biedt die men daar redelijkerwijs van mag verwachten. Anders gezegd wordt aan de hand van de op het moment van levering geldende veiligheidsnormen een gebrek vastgesteld. De producent ontkomt echter slechts aan productaansprakelijkheid indien hij een geslaagd beroep op een van de bevrijdende gronden uit art. 6:185 lid 1 sub a tot en met f BW doet. Onder de gronden van art. 6:185 BW vormt sub e het ‘ontwikkelingsrisicoverweer’. Een beroep op het ontwikkelingsrisicoverweer slaagt wanneer de producent bewijst dat hij ten tijde van het op de markt brengen van de operatierobot, op grond van de state of the art, onmogelijk het gebrek kon noch behoorde te kennen. Het gebrek dient in zo een geval wel reeds bij ‘aflevering’ aanwezig te zijn.

Aangezien de ontwikkeling van operatierobots nog in de kinderschoenen staat, bepleit ik dat een producent eventuele gebreken voorafgaand aan de levering aan de koper niet of moeizaam kon constateren. Nu de kennis over autonome en zelflerende operatierobots naar huidig state of

the art te beperkt is, is het niet mogelijk om gebreken bij autonome operatierobots als ‘reeds

aanwezig’ te kunnen bestempelen. Mijns inziens kan niet worden teruggevallen op de software van de producent omdat die niet meer te vergelijken is met de software ten tijde van aflevering door de producent. Door autodidactische ontwikkeling en de reactie op externe factoren is de operatierobot velen malen ‘intelligenter’ geworden en heeft de software zich verder ontwikkeld. Aansprakelijkheid van de producent van de ‘oorspronkelijke’ robot kan daarom niet worden gehandhaafd.

Een tweede juridische grondslag die in hoofdstuk 2 werd besproken, betreft de aansprakelijkheid van de hulpverlener. Op grond van art. 6:77 BW komt de schade die ontstaat door gebruik van een ongeschikte hulpzaak voor rekening van de hulpverlener die ervan gebruik maakt. Artikel 6:77 BW vertaalt zich in de casus van de operatierobot als volgt: de hulpverlener is niet ‘schuldig’ aan het falen van de operatierobot, maar op grond van de wet dient hij de schade te vergoeden omdat hij zijn mogelijkheden heeft vergroot door de hulp van de robot.

Om aan de aansprakelijkheid van art. 6:77 BW te ontkomen dient de hulpverlener te bewijzen dat hij onmogelijk de ‘ongeschiktheid’ kon dan wel behoorde te kennen. Zodra operatierobots autonoom functioneren kan de aansprakelijkheid van de hulpverlener niet worden gehandhaafd. De operatierobot kan immers niet meer worden aangeduid als hulpzaak, want deze biedt de hulpverlener geen hulp meer. In tegendeel. De operatierobot ontneemt de hulpverlener geneeskundige handelingen doordat de robot deze zelfstandig verricht.

Een derde, laatste juridische grondslag in het aansprakelijkheidsrecht kan gevonden worden in art. 6:173 BW. Op grond van art. 6:173 BW is de bezitter van een roerende zaak risicoaansprakelijk voor gevaar dat zich voordoet bij personen of zaken, zodra de zaak niet voldoet aan de eisen die men daaraan mag stellen. Wanneer de operatierobot wordt erkend als rechtssubject, kan de robot logischerwijs niet meer in ‘bezit’ worden genomen. Zou dat wel gebeuren, dan is sprake van slavernij. Enkel rechtsobjecten kunnen door de bezitter, zijnde rechtssubject, worden onderworpen aan rechten en plichten. Daardoor biedt art. 6:173 BW geen aanleiding voor ‘persoonlijke’ aansprakelijkheid van een operatierobot.

De hiervoor besproken grondslagen voor aansprakelijkheid van het Burgerlijk Wetboek tonen aan dat de huidige wijzen van aansprakelijkstelling niet is toegesneden op de stand van de moderne techniek. In hoofdstuk 3 werd daarom bezien of het toekennen van rechtssubjectiviteit wel tot ‘persoonlijke’ aansprakelijkheid van de robot kan leiden. Het gesloten stelsel van rechtssubjecten dient daarvoor te worden geopend. De wettelijke verankering van de operatierobot in een nieuwe afdeling – omtrent kunstmatige intelligentie voor medische doeleinden – van het Burgerlijk Wetboek creëert rechtsbevoegdheid, op grond waarvan een operatierobot geneeskundige behandelingsovereenkomsten met patiënten kan sluiten. Eveneens wordt met erkenning van de robot als juridische entiteit een regresmogelijkheid voor patiënten gegarandeerd voor het geval een operatierobot bij zijn uitvoering faalt.

In andere rechtsstelsels, voornamelijk in de ‘tech-landen’ uit Azië, heeft een verruiming van het rechtssubjectbegrip al plaatsgevonden. In Zuid-Korea en Japan zijn robots reeds drager van rechten en plichten. De erkenning van de robot als rechtssubject is in deze landen echter onvoldoende uitgewerkt om tot een ‘persoonlijke’ aansprakelijkheid te leiden. In Saoedi-Arabië is dit daarentegen wel mogelijk. In tegenstelling tot Zuid-Korea en Japan, heeft Saoedi-Arabië robot Sophia aangemerkt als staatsburger. Sophia is de eerste robot die zowel menselijke uiterlijke kenmerken als karaktereigenschappen vertoont. Nu robot Sophia echter qua

‘intelligentieniveau’ overeenstemt met het niveau van een 2,5-jarige, wordt Sophia naar Nederland recht beschouwd als een minderjarige (art. 1:233 BW). In Nederland zijn minderjarigen handelingsonbekwaam en slechts met toestemming van hun wettelijk vertegenwoordiger rechtsbevoegd. Sophia kan daardoor niet ‘persoonlijk’ aansprakelijk worden gehouden voor de rechtsgevolgen van haar handelen. Een vergelijkbare benadering in Nederland ten aanzien van autonome operatierobots biedt dus geen oplossing voor aansprakelijkheidsvraagstukken.

Kan, nu de huidige aansprakelijkheidsgronden uit het Burgerlijk Wetboek en aansprakelijkheidsregimes uit het buitenland geen soelaas bieden, worden aangesloten bij de beantwoording van aansprakelijkheidsvraagstukken over ‘vergelijkbare’ techniek? Zoals aansprakelijkheidsvraagstukken die zich voordoen bij de zelfrijdende auto-industrie. De toerekening van schade als gevolg van falende zelfrijdende auto’s wordt in Nederland thans opgelost middels een bezittersaansprakelijkheid als bedoeld in art. 6:173 BW. In § 3.3.3.5. van hoofdstuk 3 heb ik echter betoogd dat een bezittersaansprakelijkheid voor aansprakelijkheidsvraagstukken bij falende operatierobots geen oplossing biedt, nu het idee van een ‘persoonlijke’ aansprakelijkheid van autonome operatierobots zodoende wordt ondermijnd. De operatierobot kan immers niet in bezit worden genomen indien het wordt erkend als subject van het recht.

Er kan worden gesteld dat de operatierobot dient te worden erkend als rechtssubject om ‘persoonlijke’ aansprakelijkheid te bewerkstelligen. Alvorens de robot kan worden erkend als rechtssubject, dient de robot te worden geproduceerd (en gefinancierd). In hoofdstuk 4 werd beschreven dat financiering van de operatierobot mijns inziens door de overheid dient te gescheiden, zodat de robot vanaf dat moment onafhankelijk kan ‘opereren’ en geen investeringsbedrag (inclusief rente) aan private investeerders verschuldigd is.

In de fictieve situatie waarin de geheel autonome operatierobot daadwerkelijk bestaat moet niet alleen worden gekeken naar waar deze zich tussen de andere rechtssubjecten in het Burgerlijk Wetboek bevindt, maar ook welke fysieke plaats deze bij het ziekenhuis moet krijgen. De robot kan zowel als zelfstandige als in loondienst werkzaam voor het ziekenhuis worden. Wordt gekozen voor loondienst, dan opereert de robot als hulppersoon van het ziekenhuis en wordt het ziekenhuis daarbij aangemerkt als hulpverlener. De robot wordt echter aangeduid als zelfstandig hulpverlener indien hij als zelfstandige werkzaam is voor het ziekenhuis. In ruil

voor de geneeskundige handelingen die de robot verricht, dient vervolgens per overeenkomst een financiële tegemoetkoming te worden vastgesteld. Het is mijns inziens verstandig de tegemoetkoming vast te stellen op een bedrag waaruit het onderhoud van de robot en een verzekeringspremie voor een beroepsaansprakelijkheidsverzekering kunnen worden voldaan. Zodoende ‘kost’ de operatierobot niet meer dan nodig is.

Mocht de operatierobot werkzaam zijn als zelfstandige en onverhoopt falen bij zijn uitvoering dan is de robot in beginsel ‘persoonlijk’ aansprakelijk, waarna vergoeding naar algemeen gebruik plaatsvindt door de verzekeraar van het ziekenhuis. De schade vond immers binnen de muren van het ziekenhuis plaats, waardoor op grond van art. 7:462 BW een centrale (mede) aansprakelijkheid geldt voor het ziekenhuis. Is de operatierobot daarentegen werkzaam in loondienst bij het ziekenhuis, dan is het ziekenhuis ‘direct’ aansprakelijk voor zijn falen. Aangezien de robot dan wordt beschouwd als hulppersoon als bedoeld in art. 6:76 BW, wordt het handelen van de operatierobot dan beschouwd ‘als ware het handelen van het ziekenhuis zelf’.

Concluderend kan worden gesteld dat een operatierobot te midden van andere rechtssubjecten kan worden erkend als rechtssubject. Daarvoor zal de wetgever het Burgerlijk Wetboek moeten aanpassen. De aanpassing is ook vereist ten aanzien van de huidige rechtsgronden voor aansprakelijkheid in het Burgerlijk Wetboek. Deze aansprakelijkheidsbepalingen sluiten te weinig aan op de zelfstandige werkzaamheden van een robot die naar de huidige (en toekomstige) stand van de techniek mogelijk zijn. Daardoor zijn de klassieke productaansprakelijkheid uit art. 6:185 BW, de aansprakelijkheid voor hulpzaken uit art. 6:77 BW en de aansprakelijkheid voor een ‘gebrekkige’ zaak uit art. 6:173 BW teveel gericht op het handelen van de mens en te weinig compatibel met de robot als rechtssubject.

5.3. Aanbevelingen

In de vorige paragraaf is naar voren gekomen dat het Burgerlijk Wetboek in zijn huidige vorm niet klaar is voor de huidige (en toekomstige) stand van de techniek. Voor het aansprakelijk stellen van een robot zelf is in het huidige Burgerlijk Wetboek geen ruimte. In deze paragraaf zullen concrete aanbevelingen worden gedaan om het Burgerlijk Wetboek naar de huidige stand van de techniek aan te passen. Gelukkig staan die technische ontwikkelingen, zeker rondom de

autonome operatierobot, nog in de kinderenschoenen. Dat geeft de wetgever meer ademruimte om het Burgerlijk Wetboek te moderniseren.

5.3.1. De robot erkennen als rechtssubject

In het huidige Burgerlijk Wetboek wordt een operatierobot aangeduid als rechtsobject. ‘Persoonlijke’ aansprakelijkheid van operatierobots als rechtsobjecten is onmogelijk; zij kunnen immers geen burgerlijke rechten genieten. Slechts rechtssubjecten kunnen dit en kunnen rechtsobjecten daardoor onderwerpen aan rechten en plichten.

Het is aan te bevelen het gesloten stelsel van rechtssubjecten te openen voor operatierobots. Middels een wetswijziging dient het huidige Burgerlijk Wetboek te worden aangevuld met een nieuwe afdeling omtrent kunstmatige intelligentie voor medische doeleinden. Zodoende wordt de operatierobot erkend als rechtssubject, waardoor de robot te midden van natuurlijke personen en rechtspersonen aan het rechtsverkeer kan deelnemen. In het verlengde daarvan kan een operatierobot in loondienst van het ziekenhuis gaan, dan wel als zelfstandige ‘opereren’ teneinde geneeskundige handelingen voor het ziekenhuis te verrichten.

5.3.2. Nieuwe afdeling omtrent kunstmatige intelligentie voor medische doeleinden in het Burgerlijk Wetboek

De nieuwe afdeling in het Burgerlijk Wetboek dient een aantal rechten en plichten voor de operatierobot te waarborgen. Het is allereerst aan te bevelen een verplichting voor het ziekenhuis ter ‘tegemoetkoming’ te verankeren in de wet. Net als een hulpverlener van vlees en bloed, dient de operatierobot tegemoet te worden gekomen voor de geneeskundige handelingen die het verricht (art. 7:461 BW). Met zijn ‘salaris’ kan de robot voorzien in zijn onderhoud en de premie voldoen voor een beroepsaansprakelijkheidsverzekering.

“De opdrachtgever is de operatierobot loon verschuldigd, behoudens zover deze voor zijn werkzaamheden loon ontvangt op grond van het bij of krachtens de wet bepaalde dan wel uit de overeenkomst anders voortvloeit.”

Mijns inziens dient in de nieuwe afdeling in het Burgerlijk Wetboek een beroepsaansprakelijkheidsverzekering voor operatierobots te worden verplicht. Hoewel een

dergelijke verzekeringsplicht voor hulpverleners thans ontbreekt in de wet, valt uit art. 4 lid 1 sub d van de Richtlijn 2011/24/EU wel een zekere plicht af te leiden. Door de verzekeringsplicht is de patiënt gegarandeerd verzekerd van schadevergoeding zodra de operatierobot onverhoopt toerekenbaar faalt.

“De operatierobot die ingevolge art. 7:610 in loondienst, dan wel als zelfstandige werkzaam is voor het ziekenhuis, is verplicht zich krachtens een beroepsaansprakelijkheidsverzekering te verzekeren of te laten verzekeren voor schade die zich voordoet bij de uitvoering van (geneeskundige) handelingen in de hoedanigheid van hulpverlener.”

Ten aanzien van het onderhoud van de robot valt aan te bevelen dat de robot een overeenkomst van opdracht tot onderhoud sluit (art. 7:400 e.v. BW). De overeenkomst strekkende tot onderhoud kan zowel met het ziekenhuis, die op zijn beurt hulppersonen inschakelt, als direct met gespecialiseerde ‘onderhouders’ worden gesloten. Het ziekenhuis en/of de gespecialiseerde onderhouders dienen zich daarbij als ‘goed opdrachtnemer’ te gedragen en de overeenkomst strekkende tot onderhoud van de operatierobot naar behoren uit te voeren. Is op grond van de bewijsmiddelen echter sprake van een ondeugdelijke controle en heeft die ondeugdelijke controle geleid tot schade bij de patiënt, dan vrijwaart de operatierobot zich van aansprakelijkheid (art. 6:74 jo. art. 6:75 BW). De overeenkomst van opdracht tot onderhoud creëert zodoende onder omstandigheden een exoneratiemogelijkheid voor de operatierobot.

“Wordt bij de uitvoering van een geneeskundige behandelingsovereenkomst schade veroorzaakt, waarvan wordt bewezen dat die schade voortkomt uit een ondeugdelijke controle, dan wordt de tekortkoming die daardoor ontstaat niet aan de operatierobot, maar aan de daarvoor verantwoordelijke contractspartij toegerekend.”

5.3.3. Draagvlak bij de overheid creëren ten aanzien van financiering van de operatierobot

Om te bewerkstelligen dat een robot onafhankelijk functioneert nadat zij is ‘ontstaan’, is het aan te bevelen de robot ter beschikking te laten stellen door de overheid. Wordt een robot namelijk gefinancierd door private investeerders, dan zullen zij naderhand hun investeringsbedrag (inclusief rente) terugverdiend wensen te zien. Indien de overheid de robot ter beschikking stelt, hoeft de investering niet te worden terugbetaald en is slechts van belang

dat de robot voldoende ‘tegemoetkoming’ ontvangt, zodat in zijn onderhoud kan worden voorzien en de premie van een beroepsaansprakelijkheidsverzekering kan worden betaald.

Het ziekenhuis, dat deels gefinancierd wordt door de overheid, zal daardoor minder ‘salaris’ hoeven uit te keren aan de robot. Dit resulteert in een kostenverlagend effect, waardoor het ziekenhuis geld overhoudt voor andere doeleinden of juist bezuinigingen daarvan.

5.3.4. Het belang van monitoring van rechtsontwikkelingen in Zuid-Korea en Japan

Sinds 2005 wordt in Zuid-Korea en Japan reeds geëxperimenteerd met robotrechten. Sindsdien worden robots dus erkend als juridische entiteit. Vooralsnog bood de vergelijking met beide landen geen inzichten, nu het experiment niet dusdanig gevorderd was dat vraagstukken rondom aansprakelijkheid kunnen worden beantwoord.

Het is aan te bevelen de ontwikkelingen rondom het experiment in Zuid-Korea en Japan te monitoren. Mocht het experiment dusdanig vorderen dat aansprakelijkheidsvraagstukken wel kunnen worden beantwoord, dan leidt dit mogelijk tot vernieuwde inzichten in Nederland.

6. LITERATUURLIJST

Asser/Bartels & Van Mierlo 3-IV 2013/53

S.E. Bartels & A.I.M. van Mierlo, MR. C. Assers Handleiding tot de beoefening van het Nederlands burgerlijk recht. 3. Vermogensrecht algemeen. Deel IV. Algemeen goederenrecht, Deventer: Wolters Kluwer 2013.

Asser/De Boer 1* 2010/21

J. de Boer, Mr. C. Assers Handleiding tot beoefening van het Nederlands burgerlijk recht. 1. Personen- en familierecht, Deventer: Wolters Kluwer 2010.

Asser/Tjong Tjin Tai 7-IV 2014/457

T.F.E. Tjong Tjin Tai, Mr. C. Assers Handleiding tot de beoefening van het Nederlands burgerlijk recht. 7. Bijzondere overeenkomsten. Deel IV. Opdracht, Deventer: Wolters Kluwer 2014.

Asser/Sieburgh 6-IV 2019/228

C.H. Sieburgh, Mr. C. Assers Handleiding tot de beoefening van het Nederlands burgerlijk recht. 6. Verbintenissenrecht. Deel IV. De verbintenis uit de wet, Deventer: Wolters Kluwer 2019.

Asser/Sieburgh 6-IV 2019/226

C.H. Sieburgh, Mr. C. Assers Handleiding tot de beoefening van het Nederlands burgerlijk recht. 6. Verbintenissenrecht. Deel IV. De verbintenis uit de wet, Deventer: Wolters Kluwer 2019.

Calabresi 1970

G. Calabresi, The Costs of Accidents: A Legal and Economic Analysis, New Haven: Yale University Press 1970.

Dekker, Beleid en Maatschappij 2016/43

F. Dekker, ‘Robots en Arbeid: Technologisch determinisme revisited?’, Beleid en Maatschappij 2016/43, afl. 2, p. 24-40.

Dhawan 2019

C. Dhawan, Autonomous Vehicles Plus: A Critical Analysis of Challenges Delaying AV Nirvana, Canada: FriesenPress 2019.

Doesum (van) 2009

A.J. van Doesum, Contractuele samenwerkingsverbanden in de BTW (Fiscale Monografieën, nummer 133), Deventer: Wolters Kluwer 2009.

Dommering-van Rongen, AV&S 2002/5

L. Dommering-van Rongen, ‘Actualiteiten productaansprakelijkheidsrecht’, Aansprakelijkheid, Verzekering & Schade 2002/5, p. 139.

Dommering-van Rongen 2000

L. Dommering-van Rongen, Productaansprakelijkheid, een rechtsvergelijkend overzicht, Deventer: Kluwer 2000.

Hiemstra, R&P CA19 2018

J.T. Hiemstra, De aansprakelijkheid voor ongeschikte medische hulpzaken, Recht en Praktijk nr. CA19 (diss. Groningen), Deventer: Wolters Kluwer 2018.

Hiemstra, AV&S 2014/18

J.T. Hiemstra, ‘Ongeschikte zaken en gebrekkige producten: twee zijden van dezelfde medaille?’, Aansprakelijkheid, Verzekering & Schade 2014/18, afl. 5/6, p. 1-15.

Hoven van Genderen (van den), MemoRad 2017

R. van den Hoven van Genderen, ‘AI systemen en Robot als rechtspersoon, juridische noodzaak of begin van het einde?’, MemoRad 2017, afl. 3, p. 26-33.

Krukkert 2018/6.3.1.1

I.J. Krukkert, Individuele straftoemeting in het fiscale bestuurlijke boeterecht (Fiscale Monografieën, nummer 151), Deventer: Wolters Kluwer 2018.

Lankhorst, in: T&C BW 2019

G.H. Lankhorst, commentaar op art. 6:187 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Lankhorst, in: T&C BW 2019

G.H. Lankhorst, commentaar op art. 6:186 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Lankhorst, in: T&C BW 2019

G.H. Lankhorst, commentaar op art. 6:185 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Lankhorst, in: T&C BW 2019

G.H. Lankhorst, commentaar op art. 6:173 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Olthof, in: T&C BW 2019

M.M. Olthof, commentaar op art. 6:76 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Schaick (van), NTBR 2018/7

A.C. van Schaick, ‘Robot als rechtssubject’, Nederlands Tijdschrift voor Burgerlijk Recht 2018/7, afl. 2, p. 1-3.

Schreuder, AV&S 2014/20

A.I. Schreuder, ‘Aansprakelijkheid voor ‘zelfdenkende’ apparatuur’, Aansprakelijkheid, Verzekering & Schade 2014/20, afl. 5/6, p. 131-136.

Schrijver (de) & Van den Hoven van Genderen, Computerrecht 2015/197

S. de Schrijver & R. van den Hoven van Genderen, ‘l, robot: realiteit of fictie?’, Computerrecht 2015/197, p. 307-312.

Singh, NHTSA 2015/DOTHS812115

S. Singh, ‘Critical reasons for crashes investigated in the National Motor Vehicle Crash Causation Survey’, National Highway Traffic Safety Administration 2015, rapportnr. DOTHS812115, p. 1-3.

Sluis (van der) e.a., NTvG 2013/157

P.C. van der Sluis e.a., ‘Centralisatie van robotchirurgie’, Nederlands Tijdschrift voor Geneeskunde 2013/157, A5228, p.1-7.

Spek (van der), MvO 2020

A. van der Spek, ‘De toekomst van de vennootschappelijk bestuurder: aan de bestuurstafel met een robot?’, Maandblad voor Ondernemingsrecht 2020, afl. 1-2, p. 23-30.

Spijkerman, AV&S 2015/27

E.N. Spijkerman, ‘3D-printen: het nieuwe doe-het-zelven’, Aansprakelijkheid, Verzekering & Schade 2015/27, afl. 5, p. 164-169.

Stolker/Stolker & Sombroek-van Doorm, in: T&C BW 2019

C.J.J.M. Stolker & M.P. Sombroek-van Doorm, commentaar op art. 7:462 BW, in: H.B. Krans, C.J.J.M. Stolker & W.L. Valk, Tekst & Commentaar Burgerlijk Wetboek, Deventer: Wolters Kluwer 2019.

Stolker, in: GS Onrechtmatige daad

C.J.J.M. Stolker, commentaar op art. 6:187 BW, in: C.J.J.M. Stolker (red.), Groene Serie Onrechtmatige daad, Deventer: Wolters Kluwer 2019.

Stolker, in: GS Onrechtmatige daad

C.J.J.M. Stolker, commentaar op art. 6:186 BW, in: C.J.J.M. Stolker (red.), Groene Serie Onrechtmatige daad, Deventer: Wolters Kluwer 2019.

Tichelaar, TAV 2018/24

B.E. Tichelaar, ‘Aansprakelijkheidsvraagstukken bij zelfrijdende auto’s’, Tijdschrift Aansprakelijkheids- en Verzekeringsrecht 2018/24, afl. 1, p. 1-5.

Tjong Tjin Tai, NTHR 2017

In document Kan een robot 'persoonlijk' aansprakelijk worden gehouden voor een fout in de operatiekamer door hem rechtssubjectiviteit toe te kennen? (pagina 44-57)