SLIMME ROBOT - SLIM RECHT?
Naam: Martijn Werker
Email: martijnwerker@gmail.com
Studentnummer: 12145300
Master: Privaatrechtelijke rechtspraktijk Begeleider: Prof. Dr. M.B.M. Loos Inleverdatum: 6 januari 2019
INHOUDSOPGAVE
1. INLEIDING - p.4
1.1. Wat is een slimme robot - p. 4 1.2. Onderzoekskader - p.5
2. RECHTSPERSOONLIJKHEID VAN DE ROBOT - p. 7 2.1. Robot als rechtssubject? - p. 7
2.2. Argumenten tegen rechtspersoonlijkheid - p.8 2.3. Tussenconclusie hoofdstuk 2 - p. 10
3. PRODUCTENAANSPRAKELIJKHEID - p. 12. 3.1. Gebrek - p. 13
3.1.1. Verschillende soorten gebreken - p. 14 3.1.2. Instructiegebrek - p.14
3.1.3. Ontwerpgebrek - p.17 3.2. Beperkingen afdeling 6.3.3.- p. 18
3.2.1. Software-updates - p. 18
3.2.2. Unpredictable by design – 6:185 lid 1 sub b BW - p. 20
3.2.3. Onverklaarbare ongevallen en het ontwikkelingsverweer - p. 20 3.2.4. Soorten vergoedbare schade - p. 22
3.2.5. Bewijspositie - p. 22
3.3. Tussenconclusie hoofdstuk 3 - p. 23
4. AANSPRAKELIJKHEID ROERENDE ZAAK - p. 24 4.1. Gebrekkige zaak – p.24
4.1.1. Evident gebrek in de objectieve staat van de robot - p. 25 4.1.2. Geen gebrek, wel schade - p. 27
4.2. Overige vereisten aansprakelijkheid 6:173 BW - p. 28 4.3. Tussenconclusie hoofdstuk 4 - p. 29
5. NIEUWE RISICOAANSPRAKELIJKHEID VOOR DE ROBOT - p. 31
5.1. Duits recht - p. 32 5.2. Gebrek - p. 33 5.3. Reikwijdte tenzij-clausule - p. 34 5.4. Bewijsproblematiek - p. 35 5.5. Tussenconclusie hoofdstuk 5 - p. 36 6. CONCLUSIE - p. 37 BIBLOGRAFIE - p. 39
ABSTRACT:
In dit onderzoek staat de vraag centraal of het huidige recht voldoende is uitgerust om met schade veroorzaakt door een slimme robot om te gaan? Zo niet, hoe moet deze aansprakelijkheid dan worden vormgegeven? De probleemstelling is verder onderverdeeld in drie sub-onderwerpen. Het eerste sub-onderwerp is of rechtspersoonlijkheid van de slimme robot een oplossing biedt voor de aansprakelijkheidsproblematiek omtrent de slimme robot? In het daaropvolgende sub-onderwerp heb ik onderzocht in hoeverre productenaansprakelijkheid (artikel 6:185 e.v. Burgerlijk Wetboek) en de aansprakelijkheid voor gebrekkige roerende zaken (art. 6:173) voor de benadeelde een uitkomst kunnen bieden om zijn schade te verhalen. In het laatste sub-onderwerp heb ik onderzocht hoe een nieuw wetsartikel omtrent schade veroorzaakt door een slimme robot er uit moet zien.
Het onderzoek is gedaan aan de hand van de klassieke juridische methode waarbij gebruikt is gemaakt van jurisprudentie, wetsgeschiedenis en wetenschappelijke artikelen en/of naslagwerken. De probleemstelling is vanuit een intern perspectief onderzocht en de conclusies zijn normatief van aard. Het normatieve kader wordt gevormd door het perspectief van de benadeelde die schade ondervindt door toedoen van handelen van een slimme robot.
Het resultaat van dit onderzoek is dat rechtspersoonlijkheid voor de benadeelde geen oplossing biedt om schade als gevolg van handelen van een slimme robot te kunnen verhalen. Voor wat betreft de productenaansprakelijkheid en de aansprakelijkheid voor gebrekkige roerende zaken geldt dat deze kwalitatieve aansprakelijkheden bij een evident gebrek op zich voor de benadeelde goed zijn uitgerust om schade als gevolg van handelen van de slimme robot te kunnen verhalen op ofwel de producent, ofwel de bezitter. Maar in het geval van een onduidelijke oorzaak of het in geval er geen gebrek is maar wel schade, voldoen deze artikelen niet. Hiervoor heb ik een (nieuw) artikel 6:179a Burgerlijk Wetboek ontwikkeld. Dit artikel voldoet in alle schadegevallen veroorzaakt door een slimme robot en legt de aansprakelijkheid in principe bij de bezitter, behoudens tegenbewijs.
Aldus, wordt de hoofdvraag als volgt beantwoord: het huidige recht is bij een evident gebrek aan de slimme robot voldoende uitgerust om met schade veroorzaakt door een slimme robot om te gaan. In het geval van geen gebrek, maar wel schade is dit niet het geval. Hierom is een nieuw artikel nodig, namelijk artikel 6:179a Burgerlijk Wetboek.
1. Inleiding:
Robots zijn voor de mensheid al lange tijd een bekend fenomeen. De term robot is door Karel Čapek, Tsjechisch toneelschrijver, bedacht en is afgeleid van het Tsjechische woord robotnik wat – ironisch genoeg – ‘werker’ betekent. Čapek ontwikkelde deze term ten behoeve van het door hem geschreven toneelstuk Rossum Universele Robots (R.U.R.). Rossum is een uitvinder die een robot heeft ontwikkeld, deze mensachtige machine kan allerlei taken en werkzaamheden van de mens overnemen. Rossum wilde een artificiële mens creëren die geen andere verlangens had dan werken. Voor een aantal jaren liepen de zaken van Rossum gestaag en gingen de robots als warme broodjes over de toonbank. Na verloop van enige tijd gaat het echter mis, de robots besluiten dat ze het zat zijn door de mensen aangestuurd te worden en besluiten om alle mensen op aarde te vermoorden.1 Deze vrij bittere afloop van dit toneelstuk laat zien dat de angst voor de robotisering van de samenleving niet een nieuw hedendaags fenomeen is, maar begin 20e eeuw al een onderwerp van discussie was.
De angst dat robots het van de mens overnemen speelt heden ten dage ook nog een grote rol. Facebook heeft in 2017 een experiment met twee robots stilgelegd, nadat de twee robots hun eigen taal begonnen te ontwikkelen die voor mensen totaal onbegrijpelijk was.2
Bovenstaand voorbeeld laat zien dat, alhoewel het nog niet zo ver is dat robots een zelfbewustzijn kunnen ontwikkelen en op dat punt menselijke trekjes gaan vertonen, het evident is dat in zelfdenkende apparatuur een zeker gevaar schuilgaat. Onze samenleving wordt steeds meer geregeerd door systemen van kunstmatige intelligentie en algoritmes. Machines die door algoritmes worden aangestuurd worden ook wel aangeduid met de term ‘robot’.3 Deze robots zijn zelflerende systemen die steeds autonomer beslissingen gaan nemen. Voorbeelden hiervan zijn de zelfrijdende auto, de slimme ijskast of de zorgrobot die aan ons bed staat.
1.1Wat is een slimme Robot?:
“ I can’t define a robot, but I know when I see one”4
Een operatie waarbij de robot de operatie uitvoert en de dienstdoende chirurg nog slechts een toezichthoudende functie heeft; auto’s die geheel autonoom aan het verkeer deelnemen en 1 Čapek 2010.
2 Van de Sype, AD, 1 augustus 2017.
3 Tjong Tjin Tai, NTHR 2017/14, p. 123–32.
waarbij de bezitter slechts nog passagier is; de ijskast die zelf online boodschappen doet voor de eigenaar van de ijskast. Dit zijn slechts een aantal voorbeelden van toepassingen van algoritmes en zelflerende systemen. Een gemeenschappelijke deler die al deze toepassingen bezitten is dat zij vallen onder de door het Europees Parlement opgestelde definitie van een slimme robot. Volgens het Europees Parlement is een robot een slimme robot als deze de volgende kenmerken bezit5:
a) Verwerven van autonomie via sensoren en/of het uitwisselen van gegevens met zijn omgeving (interconnectiviteit) en ruilen en analyseren van die gegevens;
b) Vermogen om zelf te leren van ervaringen en door interactie; c) Ten minste een kleine fysieke drager;
d) Vermogen om zijn gedrag en handelen aan te passen aan zijn omgeving; e) Afwezigheid van leven in biologische zin.
Binnen de kaders van dit onderzoek zal ik, wanneer ik over een slimme robot spreek, doelen op de bovenstaande kenmerken.
Het onderscheidende karakter van een slimme robot is gelegen in twee elementen. Ten eerste is dit het autonomie-element. Dit behelst het feit dat de mens niet meer de volledige controle over deze robot heeft maar dat een slimme robot in staat is situaties te beoordelen en zelf te bepalen welk gedrag in die gegeven situatie het best geschikt is. Hierdoor kan het enigszins gewrongen voordoen om aansprakelijkheid voor foutief handelen van de robot af te wentelen op de eigenaar of gebruiker van deze robot.6
1.2 Onderzoekskader:
Robots worden, en misschien zijn ze dat al, autonome systemen die zelf handelingen kunnen verrichten en dus soms ook schade aanrichten. Hoe gaan we hier mee om?
In deze scriptie staat de volgende vraag centraal: is het huidige recht voldoende uitgerust om met schade veroorzaakt door een slimme robot om te kunnen gaan? Zo niet, hoe zou deze aansprakelijkheid dan moeten worden vormgegeven? Deze vraag zal ik vanuit het perspectief van de benadeelde behandelen en in drie onderdelen onderverdelen. Ten eerste zal ik onderzoeken in hoeverre rechtspersoonlijkheid van de robot een oplossing biedt om de benadeelde voor de geleden schade te compenseren? In de daaropvolgende twee hoofdstukken zal ik achtereenvolgens de relevante risicoaansprakelijkheden behandelen. Dit zijn de 5Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica, onder 1.
productenaansprakelijkheid (artikel 6:185 e.v. Burgerlijk Wetboek) en de aansprakelijk voor gebrekkige zaken (artikel 6:173 Burgerlijk Wetboek). Ik zal ervoor kiezen deze twee kwalitatieve aansprakelijkheden te behandelen omdat ik verwacht dat de andere mogelijk relevante kwalitatieve aansprakelijkheden door het tweede hoofdstuk en de gehanteerde definitie van de slimme robot worden uitgesloten. Voor de toepassing van de artikelen 6:169 Burgerlijk Wetboek, 6:170 Burgerlijk Wetboek, 6:171 Burgerlijk Wetboek is vereist dat de slimme robot kwalificeert als natuurlijk persoon. Ik verwacht dat de slimme robot niet als rechtssubject kan worden beschouwd en derhalve niet als natuurlijk persoon. Voor de toepassing van artikel 6:179 Burgerlijk Wetboek is vereist dat de slimme robot over biologisch leven beschikt, dit is gezien de in dit onderzoek gehanteerde definitie ook uitgesloten. Bovenstaande laat onverlet dat ik in het laatste hoofdstuk wel elementen van de voornoemde artikelen mee zal nemen in het ontwikkelen van een nieuwe vorm van risicoaansprakelijkheid voor slimme robots.
Deze scriptie schrijf ik volgens een klassiek juridische onderzoeksmethode. Dit houdt in dat ik gebruik zal maken van bestaande (Europese) wetgeving, jurisprudentie, parlementaire geschiedenis en literatuur. Ik zal de probleemstelling vanuit een intern perspectief behandelen. Dit wordt gerechtvaardigd omdat ik ga onderzoeken in hoeverre het bestaande rechtssysteem voldoende uitgerust is om te kunnen omgaan met schade veroorzaakt door een slimme robot. De resultaten van dit onderzoek zullen normatief van aard zijn en de conclusie zal vanuit het normatieve kader van de bescherming van de benadeelde, die door handelen van de slimme robot schade ondervindt, getrokken worden.
2. Rechtspersoonlijkheid van de robot:
28 oktober 2017 is in de wereld van robotics een uniek moment. Op die datum kreeg Sophia, een op de mens lijkende robot, het staatsburgerschap van Arabië. Sophia heeft in Saudi-Arabië nu dezelfde rechten en plichten als een normale burger. Op het eerste gezicht lijkt dit misschien een publiciteitsstunt van Saudi-Arabië, maar deze stap roept toch een meer fundamentele vraag op: moeten robots een rechtssubject zijn?7
Een rechtssubject is degene aan wie het recht toekomt. Dit begrip staat tegenover het rechtsobject (artikel 3:1 Burgerlijk Wetboek), datgene waarop het recht betrekking heeft en die zelf niet de drager van rechten of plichten kan zijn.8 Dat hij een titularis kan zijn van rechten en plichten en rechtshandelingen kan verrichten, is nu juist een kenmerkende eigenschap van het rechtssubject.9 Een rechtssubject kan een natuurlijke persoon of een andere entiteit met rechtspersoonlijkheid zijn. Wanneer de wil van de gebruiker van de slimme robot overeenstemmen en zolang de robot altijd handelt binnen de door de gebruiker gestelde grenzen, is er geen reden de robot niet als rechtsobject te zien. Dit verschiet mogelijk van kleur wanneer het een slimme robot betreft die in staat is autonoom te handelen buiten de wil van de gebruiker om.10
2.1 Robot als rechtssubject?:
Het Europees Parlement beveelt in het kader van civielrechtelijke regels inzake robotica het volgende aan de Europese Commissie aan:
“op de lange termijn een specifieke rechtspersoonlijkheid creëren voor robots, zodat
in elk geval de meest geavanceerde autonome robots de status kunnen krijgen van elektronisch persoon die verantwoordelijk is voor het vergoeden van veroorzaakte schade, en eventueel uitgaan van elektronische persoonlijkheid als robots autonome beslissingen treffen of anderszins onafhankelijk reageren met derden”11
Deze aanbeveling is één van de zes aanbevelingen die het Europees Parlement gedaan heeft, waarvan ik een aantal in volgende hoofstukken nog zal behandelen.
7 Mols, NRC, 6 november 2017.
8 Asser/Bartels & Van Mierlo 3-IV 2013/53.
9 Kempenaars 2017, p. 296; De Schrijver & Van den Hoven van Genderen, Computerrecht 2015/197, p. 2.
10 Schermer, Durinck en Bijmans 2005, p. 32.
11 Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica, onder 59 sub f.
Voorstanders van rechtspersoonlijkheid voor robots stellen dat het wenselijk is om robot als rechtssubject tot het rechtsverkeer toe te laten omdat het robots in staat stelt om aansprakelijk gesteld te worden wanneer als gevolg van hun handelen schade ontstaat. Daarnaast stelt het de robot in staat zichzelf te verzekeren.12 In de literatuur wordt gesteld dat slimme robots het Burgerlijk Wetboek op de proef gaan stellen omdat zij zelf autonoom beslissingen, ook van ethische of morele aard, gaan maken. Het doet gespannen aan als we dit soort apparaten als rechtsobjecten blijven zien.13
Naar huidig recht kan een slimme robot in ieder geval niet als rechtssubject worden beschouwd vanwege het gebrek aan rechtspersoonlijkheid. Rechtspersonen staan in het huidige Burgerlijk Wetboek limitatief opgesomd in de artikelen 2:1 tot en met 2:3 Burgerlijk Wetboek. Bovendien wordt een rechtspersoon bestuurd door een natuurlijk- of rechtspersoon en is de rechtspersoon zelf niet in staat autonoom te handelen. Wil een rechtspersoon zelf handelen, dan is volgens Boek 2 Burgerlijk Wetboek daarvoor een handeling van het bestuur van de rechtspersoon noodzakelijk.14 Dit in tegenstelling tot de slimme robot, die juist wel in staat is zelf te handelen.15
Daarnaast valt een slimme robot ook niet als een natuurlijk persoon aan te merken. Een natuurlijk persoon staat namelijk gelijk aan een mens en in de, in deze scriptie overgenomen, definitie van de slimme robot zoals door het Europees Parlement opgesteld, is opgenomen dat bij een slimme robot biologisch leven afwezig is.16
2.2 Argumenten tegen rechtspersoonlijkheid:
Het lijkt, ook gezien de vlucht die deze autonome en slimme apparaten in de maatschappij nemen, van belang voor de toekomst een aantal argumenten te behandelen waarom rechtssubjectiviteit voor slimme robots onwenselijk is. Deze argumenten zijn zowel van juridische als van maatschappelijk-ethische aard.17
Een eerste argument is dat het toekennen van rechtspersoonlijkheid aan slimme robots niet erg zinvol is. De slimme robot heeft, om als rechtspersoon verhaal te kunnen bieden voor 12 J. Delckerk, Politico 4 november 2018 (online publiek).
13 A.C. van Schaick, ‘Robot als rechtssubject’, NTBR 2018/7 afl. 2; Schermer, Durinck en Bijmans 2005, p. 32.; Van den Hoven van Genderen 2015, p. 173-175; De Schrijver & Van den Hoven van Genderen,
Computerrecht 2015/197, p. 3
14 J.B.S. Hijink, ‘Robots in de boardroom’, Ondernemingsrecht 2019/3, par. 3.2.
15 Kempenaars 2017, p. 297.
16 “Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica”, Pub. L. No. P8_TA(2017)0051, nr. 1,
17 Ik behandel slechts argumenten tegen rechtspersoonlijkheid, niet zijnde een natuurlijk persoon. Dat een robot geen natuurlijk persoon is, ligt m.i. door de afwezigheid van biologisch leven zo voor de hand dat die variant geen verdere bespreking behoeft.
vorderingen van derden, een vermogen nodig. Uiteindelijk zal de slimme robot dit vermogen op een of andere manier moeten verkrijgen, hoogstwaarschijnlijk en meest voor de hand liggend wordt dit door ofwel de producent of de gebruiker verschaft. Hierdoor komt men, wanneer een slimme robot aansprakelijk wordt gesteld, weliswaar via een omweg toch weer bij de gebruiker of producent uit.
Bovendien, zo resoneert in het voorstel van het Europees Parlement, mag het in de toekomst niet uitmaken bij de afwikkeling van de schadevergoeding of de schade is veroorzaakt door een slimme robot.18 Mede in dit licht is rechtspersoonlijkheid, in de vorm van een rechtspersoon met een afgescheiden vermogen, niet wenselijk. Op deze manier is het voor een benadeelde slechts mogelijk zich te verhalen op het vermogen van de robot en niet op het vermogen van de producent of bezitter van de slimme robot. Het maakt dan dus verschil of de schade wordt veroorzaakt door een slimme robot, of door een andere gebrekkige zaak – niet zijnde een slimme robot. In dat laatste geval is het ingevolge het systeem van risicoaansprakelijkheid mogelijk om de bezitter, dan wel de producent aansprakelijk te stellen voor schade als gevolg van het gebrek en zijn de verhaalsmogelijkheden niet beperkt tot slechts het vermogen van de robot.19 Het Europees Parlement beveelt aan de beperkte verhaalsmogelijkheden te omzeilen met een verplichte verzekering en een compensatiefonds.20 Dit zou in combinatie met rechtspersoonlijkheid een oplossing kunnen bieden; de vraag is echter wel, in hoeverre het onvoorzienbare karakter van de slimme robot aan verzekerbaarheid in de weg staat.
Een naar mijn smaak overtuigender argument wordt gegeven door onderzoekers en bestuurders vanuit veertien Europese Lidstaten. Zij hebben naar aanleiding van de aanbevelingen van het Europees Parlement een open brief aan de Europese Commissie opgesteld waarin ze onder meer waarschuwen voor de aansprakelijkheidsrisico’s van rechtspersoonlijkheid voor robots.21 Zo laten twee ondertekenaars van een brief in Politico optekenen dat producenten mogelijk zouden proberen door middel van rechtspersoonlijkheid van de slimme robot onder hun aansprakelijkheid voor eventuele gebreken uit te komen.22 18 Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica.
19 Relevante wetsartikelen in dit kader zijn: artikel 6:173 Burgerlijk Wetboek en artikel 6:185 Burgerlijk Wetboek.
20 Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica, onder 59.
21 Zie in dit kader: Robot rights violate human rights, experts warn EU, euronews.com (geraadpleegd 5 november 2019); Open letter tot he European Commission Artificial Intelligence and Robotics, robotics-openletter.eu (geraadpleegd 5 november 2019).
Het Europees Economisch en Sociaal Comité loopt in haar op 31 mei 2017 gepubliceerde advies ook niet warm voor rechtspersoonlijkheid voor robots:
“Het EESC is tegen een vorm van rechtspersoonlijkheid voor robots of AI(-systemen), omdat dit een onaanvaardbaar moreel risico in zich draagt. Van het aansprakelijkheidsrecht gaat een preventieve gedragscorrigerende werking uit, welke kan verdwijnen zodra de maker niet langer het aansprakelijkheidsrisico draagt, omdat dit is verlegd naar de robot (of het AI-systeem). Bovendien is er risico op oneigenlijke toepassing en misbruik van een dergelijke rechtsvorm.”23
Het argument tegen rechtspersoonlijkheid van de robot is er dus in gelegen dat de producent wordt aangemoedigd risicovolle robots op de markt te brengen. Het risico van aansprakelijkheid ligt immers niet meer bij de producent maar is verlegd naar de robot zelf. Hier schuilt ook een moreel risico in, namelijk dat er geen natuurlijke personen meer achter de robot te identificeren zijn die ter verantwoording geroepen kunnen worden. Veel voorstanders beroepen zich op de analogie met rechtspersoonlijkheid voor bedrijven. Bedrijven kunnen ook aansprakelijk zijn en worden beboet of bestraft. Echter, gaat deze vergelijking niet op omdat achter een bedrijf mensen staan die ter verantwoording kunnen worden geroepen, achter een robot niet.24 Een robot handelt namelijk voor en namens zichzelf. Een bestuurder handelt namens een rechtspersoon en kan ter verantwoording worden geroepen. Van Middelaar stelt dat rechtssubjectiviteit van de robot een inherent moreel risico in zich draagt: “want als we machines tot mensen maken, ontmenselijken we onszelf”.25
2.3 Tussenconclusie:
In dit hoofdstuk heb ik aangetoond dat onder het huidige Burgerlijk Wetboek het niet mogelijk is de robot als rechtssubject te zien. De slimme robot voldoet namelijk noch aan de eisen van een natuurlijk-, noch van een rechtspersoon. Ondanks dat het (nog) niet mogelijk is dat de robot als zodanig kan worden beschouwd, heb ik aangetoond dat het vanuit zowel maatschappelijk als juridisch oogpunt ook in de toekomst niet wenselijk is dat de robot een dergelijke status zal bemachtigen. Vanuit juridisch oogpunt is het niet wenselijk omdat 23 Advies van het Europees Economisch en Sociaal Comité over kunstmatige intelligentie — De gevolgen van kunstmatige intelligentie voor de (digitale) eengemaakte markt, de productie, consumptie, werkgelegenheid en samenleving (initiatiefadvies) (2017/C 288/01), aanbeveling 3.33
24 Van den Middelaar, NRC 20 april 2018.
dankzij de rechtspersoonlijkheid slechts verhaal mogelijk zal zijn op het (beperkte) vermogen van de slimme robot. Dit biedt hoogstwaarschijnlijk minder verhaal dan wanneer een benadeelde zich op het vermogen van of wel de bezitter, of wel de producent kan verhalen. Daarnaast is het vanuit maatschappelijk-moreel oogpunt niet wenselijk dat achter een robot geen natuurlijke persoon staat die uiteindelijk als ultieme verantwoordelijke gezien kan worden. Kortom, rechtspersoonlijkheid voor robot is noch mogelijk, nog wenselijk.
Met dit in het achterhoofd, is het advies van het Europees Economisch en Sociaal Comité dat het huidige stelsel van product- en risicoaansprakelijkheid verder onderzocht moet worden begrijpelijk.26 Dit is dan ook precies wat ik in de volgende hoofdstukken zal doen.
26 Advies van het Europees Economisch en Sociaal Comité over kunstmatige intelligentie — De gevolgen van kunstmatige intelligentie voor de (digitale) eengemaakte markt, de productie, consumptie, werkgelegenheid en samenleving (initiatiefadvies) (2017/C 288/01), aanbeveling 3.33
3. Productenaansprakelijkheid:
Een mogelijke aansprakelijkheidsvariant om als benadeelde schade te verhalen die is ontstaan door handelen van een slimme robot, is de route van de productenaansprakelijkheid van afdeling 6.3.3. Burgerlijk Wetboek. Onder productenaansprakelijkheid wordt verstaan de aansprakelijkheid van diegene die een zaak heeft geproduceerd en in het verkeer heeft gebracht, die door een daaraan klevend gebrek schade aan andere zaken of aan personen heeft veroorzaak.27 Deze afdeling is gebaseerd op de Europese Richtlijn inzake de aansprakelijkheid voor producten met gebreken.28 Maar voldoet deze afdeling nog wel om schade veroorzaakt door de slimme robot op de producent te verhalen?
De eerste complicerende factor is de vraag of software als ‘product’ in de zin van artikel 6:185 Burgerlijk Wetboek kan worden beschouwd? Gezien artikel 6:187 lid 1 Burgerlijk Wetboek kunnen slechts roerende zaken als product beschouwd worden. Een roerende zaak wordt in artikel 3:2 Burgerlijk Wetboek beschreven als een voor menselijke beheersing vatbaar object. Om software onder deze definities te laten vallen is een ruimere toepassing van de richtlijn/afdeling vereist. Een ruimere toepassing van de richtlijn is thans in de jurisprudentie nog niet terug te vinden en het is aan de Europese wetgever of Hof van Justitie om software ook als product onder de reikwijdte van de richtlijn te brengen. Er gaan echter in de literatuur geluiden op om software die geïncorporeerd is in een stoffelijk product en dienstbaar is aan het functioneren van dat product onder afdeling 6.3.3. BW te brengen.29 Software wordt in een dergelijk geval een onlosmakelijk onderdeel van het product.30 Een gebrek in de software gevestigd vastgelegd op die roerende zaak kan dan resulteren in een gebrek van de gehele zaak.31 Van Wees betoogt dat ook software, die later door de producent middels een over-the-air software-update wordt uitgebreid en/of bijgesteld, onder de reikwijdte van afdeling 6.3.3. BW valt.32 Deze software, die dus later dan ten tijde van het in het verkeer brengen in de robot wordt geladen, moet volgens van Wees als onderdeel van het product worden beschouwd. De producent is dus ook aansprakelijk voor eventuele gebreken in deze software.
27 Asser/Hartkamp & Sieburgh 6-IV 2015/257.
28 RICHTLIJN VAN DE RAAD van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der Lid-Staten inzake de aansprakelijkheid voor produkten met gebreken (85/374/EEG)
29 Westerdijk 1995; Stolker, in: GS Onrechtmatige daad, art. 6:187 BW, aant. 1.7 (online, laatst bijgewerkt op 4 mei 2019); De Vey Mestdagh & Lubbers, AA 2015/4, p. 267 e.v.
30 Van Wees, Maandblad voor Vermogensrecht, 2018/4, p. 115.
31 Lankhorst, “T&C BW, commentaar op art. 6:187 BW”, Tekst & Commentaar.
Hieruit concludeer ik dat software die een slimme robot aanstuurt en daarmee onlosmakelijk onderdeel is geworden van die slimme robot dus onder de productenaansprakelijkheid van afdeling 6.3.3. Burgerlijk Wetboek valt. Ik sluit mij bij van Wees aan dat ook een latere software-update onder de reikwijdte van de productenaansprakelijkheid zou moeten vallen. Het komt arbitrair voor om deze software anders te behandelen dan software die ten tijde van het in het verkeer brengen al in de robot zat. Het staat overigens ook op de politieke agenda van Nederland om software onder de reikwijdte van de Richtlijn Productenaansprakelijkheid – en dus onder afdeling 6.3.3. Burgerlijk Wetboek - te krijgen.33
Hierbij merk ik op dat ik in dit onderzoek niet in zal gaan op slimme robots die duurzaam met de grond bevestigd zijn en daarmee onroerend zaken zijn geworden.34
3.1. Gebrek:
Bij de beoordeling van de aansprakelijkheid van een producent van een product staat het begrip ‘gebrek’ centraal. Artikel 6:186 lid 1 Burgerlijk Wetboek stelt dat een product gebrekkig is, indien het niet de veiligheid biedt die men daarvan mag verwachten, alle omstandigheden in aanmerking genomen en in het bijzonder:
a) de presentatie van het product;
b) het redelijkerwijs te verwachten gebruik van het product; c) het tijdstip waarop het product in het verkeer werd gebracht.
De omstandigheden aan de hand waarvan geoordeeld wordt of een product al dan niet gebrekkig is, zijn niet limitatief opgesomd in dit artikel. In de literatuur omtrent dit artikel worden als overige omstandigheden ook nog genoemd: de waarschijnlijkheid van het intreden van schade, de aard en ernst van de mogelijke schade, de aard en prijs van het product, het bestaan van een veiliger product en de haalbaarheid van een veiliger ontwerp in financiële en technische zin.35
Het centrale en overkoepelende criterium aan de hand waarvan beoordeeld moet worden of een product gebrekkig is of het de veiligheid biedt die men in de gegeven omstandigheden mag verwachten. De hierboven genoemde omstandigheden bieden aanknopingspunten om dit te bepalen.36 In dit kader is het relevant op te merken dat het niet 33 Ministerie van Economische Zaken & Ministerie van Justitie en Veiligheid, 2018, p. 25.
34 Zie in dit kader: Hoge Raad 31 oktober 1997, ECLI:NL:HR:1997:ZC2478 (Portacabin).
35 Schreuder, AV&S 2014/20, p. 2; Tjong Tjin Tai NTHR 2017/14(3), p. 126; C.J.M. van Doorn en S.B. Pape, “Productaansprakelijkheid en productveiligheid”, in E.H. Hondius en G.J. Rijken (red.), Handboek
Consumentenrecht, Paris: Zutphen 2015, p. 426 e.v.
specifiek gaat om de verwachtingen omtrent de veiligheid van de producent of gebruiker van het product maar om de verwachting van het grote publiek.37 Echter als het gaat om zulke specifieke producten dat er slechts een bepaalde kring gebruik zal maken van een bepaald product, dan zal bij de verwachtingen van die specifieke groep moeten worden aangeknoopt.38
3.1.1. Verschillend soorten gebreken:
Een in de literatuur veelgemaakt onderscheid is de onderverdeling van gebreken in
ontwerpgebreken, productiegebreken en instructiegebreken.39 Deze onderverdeling in soorten gebreken heeft binnen de Nederlandse rechtsorde geen aparte juridische status, maar is wel behulpzaam om de aansprakelijkheidsnorm voor de producent van een gebrekkige slimme robot scherper op het netvlies te krijgen.40 Ik zal hieronder per soort gebrek uiteenzetten in hoeverre deze norm kan worden toegepast op de slimme robot.
Voor wat betreft productiegebreken lijkt een grondige bespreking niet noodzakelijk. In het algemeen geldt dat wanneer een product een productiefout bevat en er ontstaat door die productiefout schade, die blijkens afdeling 6.3.3. Burgerlijk Wetboek voor vergoeding in aanmerking komt, dan zal de producent aansprakelijk zijn.41 Ik zie geen reden waarom dit anders zou liggen in het geval van een productiefout bij een slimme robot.
3.1.2. Instructiegebrek:
In het geval van een instructiegebrek bij een slimme robot is een grondige evaluatie van de aansprakelijkheidsmaatstaf voor de producent wel vereist. Een producent moet de gebruiker waarschuwen voor de gevaren van het gebruik van het product, ook al is het product niet onredelijk gevaarlijk.42 Een onjuiste instructie of gebruiksaanwijzing kan onder omstandigheden van een niet-gebrekkig product een gebrekkig product maken. Een dergelijk geval deed zich voor in het Halcion-arrest waarbij door de producent niet indringend genoeg gewezen werd op de ernstige bijwerkingen van een bepaald slaapmiddel. Het slaapmiddel voldeed aan alle eisen die daaraan gesteld mogen worden, het gebrek zat in de ontoereikende gebruiksinstructies van de producent. Dit resulteerde er in dat het hele product als gebrekkig 37 Memorie van Toelichting, Kamerstukken II 1985/86, 19 636, nr. 3, p. 9.
38 Dommering – van Rongen 2000, p. 43 e.v.
39 Zie bijvoorbeeld: Kasper, Lemmink, Nijsen, Rijken en Rinkes 1995, p. 44; Van Doorn & Pape 2015, p. 374-375.
40 Schreuder, AV&S 2014/20, p. 2.
41 Één van de vele voorbeelden in dit kader: Hoge Raad 2 Februari 1973, ECLI:NL:HR:1973:AB6726 (Lekkende Kruik).
werd geacht.43 Bij productenaansprakelijkheid moet de fabrikant voorzien op welke wijze er van zijn product gebruik gemaakt kan worden en voor de aan dat gebruik verbonden risico's waarschuwen. Daarbij moet de fabrikant ook voorzien op welke wijze het product anders dan bedoeld kan worden gebruikt.
Voor het gebruik van slimme robots is het geven van een duidelijke instructie niet zo eenvoudig. Het behelst namelijk een nieuw product waar de gebruikers vaak nog geen ervaring mee zullen hebben. Voor wat betreft de risico’s van het gebruik van dergelijke slimme robots zal het dus aankomen op de informatie die de producent hierover verstrekt. Mijns inziens kleurt mede deze omstandigheid de aansprakelijkheidsnorm voor de producent van een slimme robot. Hoe innovatiever het product, des te zwaarder weegt de instructieverplichting van de producent. Deze redenering kan ook omgedraaid worden: hoe innovatiever het product, hoe moeilijker het is om voor te stellen op welke wijzen het product gebruikt kan worden. Er dient bij de kleuring van de aansprakelijkheidsnorm naar mijn overtuiging ook rekening te worden gehouden met het feit dat een slimme robot een zelflerend en autonoom karakter heeft en dat de gedragingen van de robot deels voortkomen uit input die de gebruiker aan de slimme robot verschaft. Op basis van die input gaat de slimme robot namelijk handelen. Het is voor een producent van slimme robots niet doenlijk om iedere vorm van mogelijke input voor te stellen en voor de eventuele gevolgen daarvan te waarschuwen. Hierbij signaleer ik dat de considerans van de Richtlijn bij de beoordeling van de veiligheid van een product, elk in de gegeven omstandigheden onredelijk gebruik uitsluit.44 De producent hoeft dus niet te waarschuwen voor volstrekt abnormaal gebruik van zijn product. Hiermee wil ik zeggen dat als de producent niet gewaarschuwd heeft dat een zorgrobot niet geschikt is om een huis te schilderen en de gebruiker besluit dit toch door de zorgrobot te laten doen, dat dit niet in een instructiegebrek resulteert waardoor artikel 6:185 e.v. Burgerlijk Wetboek hier niet op van toepassing is.
In het kader van de inkleuring van het instructiegebrek is daarentegen wel van belang op welke manier de producent de slimme robot in de markt zet. In het geval van intelligente voertuigveiligheidssystemen (denk aan: deels autonoom rijden, inparkeerassistentie, cruise control die zelf afstand houdt of slimme bochtenverlichting) worden deze dikwijls als veiligheidsbevorderend gepresenteerd. Deze systemen nemen taken over die normaal door mensen uitgevoerd zouden worden. Welke invloed heeft dit op de waarschuwingsplicht van 43 Hoge Raad 30 juni 1989, NJ 1990, 652, (Upjohn/Van Ommeren (Halcion)).
44 Richtlijn van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der Lid-Staten inzake de aansprakelijkheid voor produkten met gebreken (85/374/EEG).
de producent? Van Wees wijst er op dat in het kader van een zelfrijdende auto een enkele waarschuwing voor de potentiële gevaren niet voldoende is. De producent moet er rekening mee houden dat de gebruiker niet altijd de gewenste voorzichtigheid in acht neemt. Hij stelt dat dit een zekere paradoxale situatie impliceert. Enerzijds wordt er een product gepresenteerd die het rijden van de mens overneemt, anderzijds wordt van de gebruiker van de zelfrijdende auto verwacht dat hij constant oplettend is en kan ingrijpen wanneer dat nodig is. Volgens Van Wees is dit de kat op het spek binden en moet de producent in zijn ontwerp er rekening mee houden dat de gebruiker niet altijd de vereiste oplettendheid in acht neemt.45 De instructieplicht zit als het ware geïntegreerd in de plicht een veilig product te ontwerpen. Maar dit ontslaat de producent niet van de plicht om voor en tijdens het gebruik de gebruiker voor de gevaren te waarschuwen en de gebruiker er op te attenderen dat hij oplettend moet blijven. Dit is mijns inziens bij andere slimme robots niet anders. Wanneer er een zekere verwachting wordt gewekt dat de slimme robot in staat is allerlei activiteiten van de mens over te nemen, dan rust er op de fabrikant van de robot een zwaardere waarschuwingsplicht om voor en tijdens het gebruik de gebruiker er op te wijzen dat hij de vereiste oplettendheid in acht neem. Daarnaast bestaat er een plicht om bij het ontwerp rekening te houden met eventuele onoplettendheid. Dit zal ik in het volgende hoofdstuk verder uitwerken.
De instructie dient zodanig zijn dat de gebruiker moet kunnen begrijpen hoe hij de slimme robot moet gebruiken en de gebruiker dient op de hoogte te zijn van de risico’s en beperkingen van de slimme robot. Voor de producten is het niet eenvoudig om aan deze instructieverplichting te voldoen, nu een slimme robot een complex karakter heeft en de eigenschappen en beperkingen niet eenvoudig aan de gebruiker kunnen worden uitgelegd.46 Om aan aansprakelijkheid te ontlopen zal de waarschuwing van de fabrikant zodanig moeten zijn dat de producent redelijkerwijs mag verwachten dat de gebruiker als gevolg van die instructie de vereiste oplettendheid in acht neemt. Kan de producent in geval van schade veroorzaakt door handelen van de slimme robot aantonen dat de producent effectief heeft gewaarschuwd, en de benadeelde deze waarschuwing niet heeft opgevolgd, dan lijkt het niet mogelijk de producent aansprakelijk te houden voor de ontstane schade.
3.1.3. Ontwerpgebrek:
45 Van Wees, Maandblad voor Vermogensrecht, 2018/4, p. 117.
Het ontwerpen van een intelligent systeem dat in staat is adequaat om te gaan met iedere situatie waarmee het mogelijk geconfronteerd kan worden, vormt een grote uitdaging. De vraag die in het kader van de productaansprakelijkheid van de producent centraal staat, is wat in redelijkheid van de producent gevergd kan worden? Hoe foutloos moet een slimme robot zijn? In een ideale situatie zou een systeem zodanig ontworpen worden dat het adequaat, voorspelbaar en veilig reageert op iedere denkbare situatie. Echter, slimme robots zijn afhankelijk van de input die de gebruiker de robot geeft. Het is voor de producent niet mogelijk alle input van tevoren te voorzien.
Maar welke mate van veiligheid mag een gebruiker van de producent verwachten? Het is evident dat voldaan moet worden aan bestaande veiligheidsnormen. Echter, het enkele voldoen aan veiligheidsnormen neemt niet weg dat er schade kan ontstaan en dat de producent hiervoor aansprakelijk kan worden gehouden. In de literatuur omtrent zelfrijdende auto’s wordt betoogd dat om te bepalen of het ontwerp van de zelfrijdende auto al dan niet gebrekkig is in de zin van artikel 6:186 Burgerlijk Wetboek, gebruik moet worden gemaakt van de menselijke-maat-bestuurdersnorm.47 Dit lijkt mij een gerechtvaardigd criterium, omdat de zelfrijdende auto de taak van de bestuurder overneemt. Stel nu dat per 100.000 km, menselijke bestuurders 500 fouten maken met 5 ongevallen als gevolg. Stel dat de zelfrijdende auto zodanig ontworpen is dat deze per 100.000 km 50 fouten maakt met 0,5 ongeval als gevolg: de zelfrijdende auto is dus 10 keer zo veilig als de door de mens bestuurde auto. Het ontwerp is dus als zodanig niet gebrekkig. Daarop stuit een vordering uit productenaansprakelijkheid af indien er toch schade optreedt.
Voor een slimme robot geldt, net als bij de mens overigens, dat deze al doende leert (learning by doing).48 Ondanks dat misschien niet alle input van tevoren door de producent is
aangeleerd zijn slimme robots in staat van elkaar en van oudere input te leren om zo alsnog adequaat te kunnen reageren. Als een zelflerend systeem schade veroorzaakt omdat het niet adequaat reageert op de input die het krijgt als gevolg van het feit dat de producent bij het ontwikkelen van het product te beperkte leerscenario’s of testscenario’s heeft gebruikt dan resulteert dit in een ontwerpgebrek. Een zelfrijdende auto die slechts getest is in een warm en zonnig land functioneert wellicht minder goed in een land waar vaak sneeuw valt. In zo’n geval is de software niet adequaat getraind en kan de zelfrijdende auto niet hetzelfde veiligheidsniveau bereiken als de mens. Dit houdt dus in dat wanneer een slimme robot in het 47 Tjong Tjin Tai & Boesten NJB 2016/91, p. 660; Van Wees, Maandblad voor Vermogensrecht, 2018/4, p. 118.
verkeer wordt gebracht, deze moet beschikken over voldoende testervaring. Bij schade als gevolg van een gebrek hieraan kan de producent op grond van artikel 6:185 Burgerlijk Wetboek aansprakelijk gehouden worden.49
3.2. Beperkingen afdeling 6.3.3. Burgerlijk Wetboek:
Er zijn situaties te bedenken waarin aansprakelijkheid op grond van afdeling 6.3.3. Burgerlijk Wetboek niet direct gegeven is. Ik zal hieronder achtereenvolgens de voor slimme robots relevante gevallen behandelen. Ten eerste is dat het feit dat afdeling 6.3.3. Burgerlijk Wetboek er niet in voorziet dat de producent gehouden is software-updates uit te voeren. Daarnaast zal ik het inherente risico dat aan het gebruik van de slimme robot verbonden is behadelen. Vervolgens zal ik achtereenvolgens het ontwikkelingsrisicoverweer dat de producent kan inroepen, de bewijspositie van de benadeelde en de beperkte vergoedbare soorten schade behandelen.
3.2.1. Software- updates:
Voor slimme robots, en overigens ook voor veel andere digitale apparaten, geldt dat een ontwerpgebrek in de software door de producent op afstand door een software-update kan worden gerepareerd. Zoals hierboven al besproken geldt afdeling 6.3.3. Burgerlijk Wetboek mijns inziens ook voor software die na een update ter beschikking is gesteld en moet ook deze ‘nieuwe’ software voldoen aan de eisen van die afdeling. Interessant is in dit kader de vraag of op de producent van slimme robots een verplichting rust om een gebrek in het ontwerp te repareren door middel van een software-update?
In de literatuur wordt betoogd dat een dergelijke verplichting van de producent ingebakken zit in de open normen van het Burgerlijk Wetboek.50 Mijns inziens, kan een verplichting tot het verschaffen van updates niet gestoeld worden op de afdeling 6.3.3. Burgerlijk Wetboek, slechts schade komt via deze afdeling voor vergoeding in aanmerking (zie in dit kader ook par. 3.2.4). Getuige de uitspraak van de Rechtbank Den Haag van 30 mei 2018 blijkt het bovendien lastig te zijn om deze verplichting tot het bijwerken van software voor alle producenten – van in dit geval mobiele telefoons – algemeen toepasbaar te laten zijn. De omstandigheden van het geval zijn steeds dermate verschillend en complex waardoor een algemene verplichting niet te formuleren is.51 Deze verplichting bestaat in ieder geval niet 49 Tjong Tjin Tai & Boesten NJB 2016/91, p. 660.
50 Gelevert, Smulders & van den Brink 2017, p. 65; Wolters, WPNR 2018/7207, p. 688.
wanneer er nog geen schade is opgetreden. Wolters meent dat de uitspraak van de Rechtbank Den Haag wel suggereert dat de plicht tot een software-update bestaat als er schade door de gebrekkige software is opgetreden, of als er een reële dreiging op schade bestaat.52 Wel is in de Richtlijn Verkoop van Goederen bepaald dat een leverancier – dus niet een fabrikant – er voor moet zorgen dat, naast eventuele contractueel overeengekomen updates, de goederen met digitale elementen voorzien worden van beveiligingsupdates die noodzakelijk zijn voor behoud van de conformiteit van dergelijke producten.53
Naar mijn mening zou een dergelijke redenering ook voor de productenaansprakelijkheid passend zijn en zou de afdeling 6.3.3. Burgerlijk Wetboek moeten worden aangepast, door het mogelijk te maken om naast schadevergoeding als benadeelde ook te kunnen vorderen dat de producent de slimme robot een software-update moet verschaffen zodat de slimme robot weer voldoet aan de veiligheidseisen. Dit vorderingsrecht moet voor de benadeelde gedurende een redelijke termijn bestaan, het is immers niet gerechtvaardigd dat de producent een slimme robot tot in de eeuwigheid van updates moet voorzien.54 Naar mijn overtuiging wordt het vorderingsrecht van de benadeelde op een update gerechtvaardigd doordat de slimme robot opereert in een omgeving die constant in verandering is. Een update is een noodzakelijk instrument om te waarborgen dat de slimme robots naar behoren kunnen blijven functioneren. Een update maakt mogelijk dat bijvoorbeeld een ontwerpgebrek dat resulteert in een onveilige situatie door de producent van de slimme robot moet worden hersteld. Uiteraard moet in dit kader wel worden uitgezocht hoe ver deze verplichting van de producent reikt, met name ook in verhouding tot de vergelijkbare verplichting van de leverancier/verkoper en de verplichting van de bezitter de update te installeren. Op dit laatste punt kom ik nog terug. Daarnaast moet zich in dit kader ook (in de rechtspraak) uitkristalliseren in welke gevallen een systeem-update gerechtvaardigd van de producent verlangd kan worden. Als de producent gigantische ontwikkelingskosten moet maken tegen een marginale toename van de veiligheid, kan ik mij voorstellen dat dit redelijkerwijs niet van de producent verlangd kan worden.
52 Wolters, WPNR 2018/7207, p. 688.
53 Richtlijn van het Europees Parlement en de Raad betreffende bepaalde aspecten van overeenkomsten voor de verkoop van goederen, tot wijziging van Verordening (EU) 2017/2394 en Richtlijn 2009/22/EG, en tot
intrekking van Richtlijn 1999/44/EG, onder 30.
54 Voor de termijn sluit ik aan bij artikel 7 lid 3 sub a Richtlijn Verkoop van goederen – updates moeten verstrekt worden gedurende de termijn dat de benadeelde dit redelijkerwijs kon verwachten.
3.2.2. Unpredictable by design – artikel 6:185 lid 1 sub b:
Betoogd kan worden dat er inherente risico’s zijn verbonden aan zelfdenkende apparatuur zoals de slimme robot. Een slimme robot is tot op zekere hoogte unpredictable by design vanwege het zelflerende karakter en de mogelijkheid tot autonoom handelen. Als er geen sprake is van een evident gebrek of duidelijk onaanvaardbare risico’s dan is het alsnog mogelijk dat er dankzij het handelen van een slimme robot schade optreedt. Deze schade komt dan voort uit het kenmerkende element dat deze apparatuur niet slechts als passief hulpmiddel wordt aangewend, maar actief en autonoom handelt.55 In een dergelijk geval lijkt het mij op grond van artikel 6:185 lid 1 sub b Burgerlijk Wetboek niet mogelijk om de producent hiervoor aansprakelijk te houden. Het gebrek bestond namelijk nog niet op het moment dat de slimme robot het productieproces verliet, maar is ontstaan nadat de slimme robot ‘aan het werk is gegaan’. De producent heeft geen invloed op welke input de gebruiker aan de slimme robot geeft. Om deze reden is het dan ook niet gerechtvaardigd om verkeerde input van de gebruiker voor risico van de producent te laten zijn. Verkeerde input kwalificeert dus ook niet als ontwerpgebrek. Met het ontwerp van de robot was immer niks mis, de input die door de gebruiker in de robot is gestopt en de onvoorspelbare natuur en het autonome karakter van de robot maken dat er schade is ontstaan. Mijns inziens doet het gewrongen aan om schade daaruit voortvloeiend voor rekening van de producent te laten komen. Het inherente risico en de verantwoordelijkheid voor de input maken dat het gerechtvaardigder is dit risico bij de gebruiker of bezitter te leggen. Vereist is hierbij natuurlijk wel (en nog steeds) dat de producent voldaan heeft aan zijn instructieplicht. Aansprakelijkheid van de bezitter zal ik in volgende hoofdstukken verder uitwerken.
3.2.3. Onverklaarbare ongevallen en het ontwikkelingsrisicoverweer:
Artikel 185 lid 1 sub e Burgerlijk Wetboek stelt dat een producent aansprakelijk is voor schade veroorzaakt door een gebrekkig product, tenzij het op grond van de wetenschappelijke en technische kennis op het tijdstip dat hij het product in het verkeer bracht, onmogelijk was het bestaan van het gebrek te ontdekken. Dit wordt in de literatuur vaak aangeduid met het zogenaamde ontwikkelingsrisico.56 Dit begrip is door het Europese Hof van Justitie zodanig uitgelegd dat de huidige stand van wetenschappelijke en technische kennis niet slechts doelt op de gebruikelijke veiligheidsvoorschriften, maar op de objectieve stand van de
55 Schreuder, AV&S 2014/20, p. 4.
wetenschappelijke en technische kennis, daaronder begrepen het meest geavanceerde niveau op het tijdstip waarop het betrokken product in het verkeer is gebracht.57
Dit verweer staat de producent met name ten dienste in het geval van een onverklaarbaar ongeval. Dit zijn ongevallen die gebeuren zonder dat er een te detecteren gebrek aan ten grondslag ligt, noch dat het menselijk handelen van invloed is op het ongeval.58 De slimme robot handelt in zo’n geval geheel autonoom. Vladeck pleit er voor dat in dergelijke gevallen de aansprakelijkheid bij de producent moet komen te liggen omdat het volgens Vladeck niet rechtvaardig is om een benadeelde de schade te laten dragen. De producent is volgens hem beter in staat “to either absorb the costs, or through pricing
decisions to spread the burden of loss widely”.59 Daarnaast betoogt hij dat een risicoaansprakelijkheid in dergelijke gevallen hoge proceskosten zou besparen voor beide partijen.60
Echter, onder het huidige BW kan de producent het bovenstaande
ontwikkelingsverweer inroepen. Dit staat dan aan aansprakelijkheid van de producent in de
weg als inderdaad blijkt dat het gaat om een niet te verklaren gebrek die de producent ten tijde van het in het verkeer brengen niet kon en hoefde te kennen. Dit toont aan dat in geval van een onverklaarbaar gebrek dat het ontwikkelingsverweer er voor kan zorgen dat de producent niet aansprakelijk gehouden kan worden. De benadeelde kan de producent dan niet aanspreken. Dit is een onwenselijke situatie. In het laatste hoofdstuk zal ik voor deze problematiek een oplossing aandragen.
In het kader van het ontwikkelingsrisicoverweer en software-updates merk ik op dat als de producent een geslaagd beroep doet op het ontwikkelingsverweer, de benadeelde naar mijn overtuiging nog wel een software-update zou moeten kunnen vorderen. Dit wordt gerechtvaardigd door de beschermingsgedachte die ten grondslag ligt aan de Richtlijn inzake aansprakelijkheid voor producten met gebreken.61 De benadeelde blijft dan alsnog zitten met zijn schade. Deze wordt niet vergoed als het ontwikkelingsrisicoverweer slaagt.
57 Hof van Justitie, 29 mei 1997, C-300/95, NJ 1998/522 (Commissie/Verenigd Koninkrijk)
58 David C. Vladeck, Washington Law Review, 2014/89-1, p. 141 e.v.
59 Vladeck Washington Law Review 2014/89-1, p. 146.
60 Vladeck Washington Law Review 2014/89-1, p. 147.
61 Richtlijn van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der Lid-Staten inzake de aansprakelijkheid voor produkten met gebreken (85/374/EEG).
3.2.4. Vergoedbare schade
Op grond van artikel 6:190 Burgerlijk Wetboek bestaat er een beperking in welke soorten schade op grond van afdeling 6.3.3. Burgerlijk Wetboek voor vergoeding in aanmerking komen. Deze soorten zijn limitatief opgesomd in artikel 6:190 lid 1 Burgerlijk Wetboeken zijn:
a) de schade veroorzaakt door dood of door lichamelijk letsel; en
b) de beschadiging of vernietiging van een andere zaak dan het gebrekkige product, mits deze zaak gewoonlijk is bestemd voor ge- of verbruik in de privésfeer en door de benadeelde hoofdzakelijk is gebruikt voor ge- of verbruik in de privésfeer. Hieruit blijkt dus dat schade aan een andere zaak die bedrijfsmatig wordt gebruikt niet voor vergoeding in aanmerking komt.62 Daarnaast valt schade aan de slimme robot zelf ook niet onder de voornoemde afdeling.
3.2.5. Bewijspositie:
Daarnaast dient de benadeelde op grond van artikel 6:188 Burgerlijk Wetboek de schade, het gebrek en het causale verband tussen schade en gebrek te bewijzen. Dit lijkt op het eerste gezicht een zware taak op de schouders van de benadeelde te leggen. De soep wordt echter niet zodanig heet gegeten, dit zou ook in strijd zijn met de consumentenbeschermingsgedachte achter de afdeling 6.3.3 BW. Het bewijs van de schade lijkt voor de benadeelde relatief eenvoudig. Bij het bewijs van het gebrek en het causaal verband is dit wellicht lastiger.
Bij het bewijs van het gebrek kan de rechter de benadeelde tegemoet treden door de
res ipsa loquitur-regel toe te passen. Als de benadeelde aannemelijk maakt dat hij het product
op een normale manier gebruikt heeft en het product niettemin schade heeft opgeleverd dan wijst dat op de gebrekkigheid van een product ten tijde van het in het verkeer brengen daarvan. Het causale verband tussen gebrek en schade wordt dan vermoed te bestaan.63 Het staat de producent vrij om dit vermoeden te ontkrachten en twijfel omtrent de oorzaak te zaaien, bijvoorbeeld door oorzaken aan te dragen die niet in de risicosfeer van de producent liggen.64 In geval van een slimme robot is voorstelbaar dat de producent bijvoorbeeld onvoldoende heeft gewaarschuwd voor de mogelijk gevaarlijke gevolgen en/of voor de gevaarlijke eigenschappen van de slimme robot. Als de gebruiker dan zonder hiervan op de hoogte te zijn, de robot een handeling waartoe de robot niet uitgerust is laat uitvoeren, 62 Stolker, in: GS Onrechtmatige daad, art. 6:190 BW, aant. 1.1 (online, laatst bijgewerkt op 4 mei 2019).
63 Stolker, in: GS Onrechtmatige daad, art. 6:188 BW, aant. 2.1 (online, laatst bijgewerkt op 4 mei 2019).
waardoor er schade ontstaat. Dan wordt het causale verband tussen het instructiegebrek en de schade vermoed te bestaan. Het is dan aan de producent om dit vermoeden te ontkrachten.
3.3. Tussenconclusie:
In dit hoofdstuk heb ik onderzocht in hoeverre afdeling 6.3.3. Burgerlijk Wetboek van toepassing is op schade veroorzaakt door handelen van een slimme robot. Bij de beoordeling of de producent aansprakelijk is draait het erom of het product ten tijde van het in het verkeer brengen al dan niet gebrekkig is. Het begrip gebrek kan worden onderverdeeld in productiegebreken, instructiegebreken en ontwerpgebreken.
Voor instructiegebreken geldt dat er op de producent van potentieel gevaarlijke slimme robots een zwaardere waarschuwingsplicht rust op de producent en dat niet adequaat of effectief waarschuwen dan ook snel zal resulteren in een gebrek. Een ontwerpgebrek bestaat als de slimme robot niet kan meten met een zorgvuldige menselijke handeling. Hierop stuit een vordering o.g.v. productenaansprakelijkheid vaak af omdat de slimme robot vaak juist veiliger opereert dan een mens. Als er toch schade optreedt blijft de benadeelde hier dan mee zitten. Een minimaal vereiste dat in dit kader wel aan de producent kan worden gesteld is dat de robot ontwikkeld is met zeer uitgebreide test- en leerscenario's waardoor de robot in staat is net zo adequaat te reageren als de mens dat zou doen. In een dergelijk geval is sprake van een ontwerpgebrek.
De producent kan daarnaast gebruik maken van het ontwikkelingsverweer. Dit houdt in het gebrek volgens de technische en wetenschappelijke kennis van dat moment niet voor de producent kenbaar was en is met name relevant in het geval van een onverklaarbaar ongeval. Bovendien kan worden betoogd dat het gebruik van slimme robottechnologie een zeker inherent risico in zich draagt. Het handelen van een slimme robot is nu eenmaal unpredictable
by design. Het voelt enigszins gewrongen aan om de producent hiervoor altijd aansprakelijk te
houden. Daarnaast is artikel 6:190 BW ook een beperking voor de toepasbaarheid van afdeling 6.3.3. Deze afdeling is namelijk slecht van toepassing op de daarin limitatief opgesomde soorten schade. Een andere beperking van afdeling 6.3.3. Burgerlijk Wetboek is gelegen in het feit dat het de benadeelde niet in staat stelt een software-update bij de producent af te dwingen. Mijns inziens zou dit wel mogelijk moeten zijn en moet de afdeling op dit vlak aangepast worden. Tot slot, zorgt artikel 6:188 Burgerlijk Wetboek er voor dat de benadeelde niet in een perfecte bewijspositie zit ten opzichte van de producent. Ik zal op bovenstaande beperkingen in het laatste hoofdstuk nog terug komen.
Voor roerende zaken geldt dat de bezitter aansprakelijk is op grond van artikel 6:173 lid 1 Burgerlijk Wetboek:
‘De bezitter van een roerende zaak waarvan bekend is dat zij, zo zij niet voldoet aan de eisen die men in de gegeven omstandigheden aan de zaak mag stellen, een bijzonder gevaar voor personen of zaken oplevert, is, wanneer dit gevaar zich verwezenlijkt, aansprakelijk, tenzij aansprakelijkheid op grond van de vorige afdeling zou hebben ontbroken indien hij dit gevaar op het tijdstip van ontstaan daarvan zou hebben gekend.’
Met dit artikel wordt in de eerste plaatst beoogd de benadeelde een handreiking te bieden wanneer hij of zij schade lijdt door gebrekkige roerende zaken. Door de aansprakelijkheid op de bezitter van de roerende zaak, dan wel de bedrijfsmatig gebruiker daarvan (artikel 6:181 Burgerlijk Wetboek) te doen rusten, ontstaat voor de benadeelde een traceerbaar traject om zijn schade te verhalen.65 Maar in hoeverre is dit artikel ook toe te passen op schade veroorzaakt door een slimme robot? In dit hoofdstuk zal ik de vereisten voor aansprakelijkheid ex artikel 6:173 Burgerlijk Wetboek behandelen en beoordelen of schade veroorzaakt door een slimme robot onder de reikwijdte van dit artikel valt. Ik merk hierbij op dat ik mij slechts concentreer op de robot als roerende zaak, en dus niet op de robot die duurzaam met de grond verbonden is en daardoor (wellicht) een onroerende zaak is geworden.
4.1. Gebrekkige zaak:
Net zoals bij productaansprakelijkheid, is in het geval van aansprakelijkheid voor een roerende zaak vereist dat deze gebrekkig is. In dit kader is van belang te signaleren dat een gebrek als bedoeld in artikel 6:186 Burgerlijk Wetboek en zoals aangehaald in het vorige hoofdstuk, niet voor risico van de bezitter van de zaak komen: artikel 6:173 lid 2 Burgerlijk Wetboek kanaliseert een dergelijke aansprakelijkheid namelijk naar de producent van het product. Voor de slimme robot houdt dit in dat slechts potentiële gebreken die zijn ontstaan na het in het verkeer brengen van het product en die de producent bij het ontwerpen van het product niet had kunnen voorzien, voor rekening komen van de bezitter. Daarnaast komt schade veroorzaakt door een gebrek dat ook de producent niet kon voorkomen volgens de ten
tijde van het in het verkeer brengen geldende stand van de techniek, voor rekening van de bezitter.
Of een product gebrekkig is, wordt beoordeeld door te bekijken of de zaak voldoet aan de eisen die men daar in de gegeven omstandigheden aan mocht stellen. Maar welke eisen mag men in de gegeven omstandigheden aan de zaak stellen? Bauw knoopt hiervoor aan bij het Wilnis-arrest waarin de Hoge Raad, weliswaar ten aanzien van de risicoaansprakelijkheid voor gebrekkige opstallen, overweegt dat bij de eisen die vanuit het oogpunt van veiligheid aan de opstal gesteld mogen worden de aan de gebruiker of bezitter te stellen zorgvuldigheidsnormen een grote rol spelen.66 Bauw stelt dat een zaak moet voldoen aan wat gebruikelijk is bij dat soort zaken. De gebrekkigheid wordt beoordeeld aan de hand van de veiligheidseisen die aan de zaak, gegeven de bestemming of het te verwachten gebruik er van, moeten worden gesteld.67
Voor de slimme robot ligt dit gecompliceerder. Het bovenstaande gebreksbegrip is bij uitstek geschikt voor passieve zaken. Dit zijn zaken die er vooral op berekend moeten zijn externe krachten te weerstaan, zoals een kruik die niet mag lekken, of een fles die niet mag breken.68 In dat soort situaties is evident dat de zaak tekortschiet in het te verwachten gebruik en dat er een gevaar ontstaat waar men niet op bedacht hoefde te zijn. Bij een slimme robot is dit anders. Een slimme robot is een actief handelend, zelfdenkend en autonome zaak. Het lijkt dan ook zinvol om twee situaties van elkaar te onderscheiden. Enerzijds de situatie waarin de robot niet handelt zoals hij behoort te doen door een evident gebrek en anderzijds de situatie waarin de robot handelt zoals hij behoort te doen, maar er toch schade ontstaat.
4.1.1. Evident gebrek in de objectieve staat van de robot:
Een voorbeeld van de eerste situatie is bijvoorbeeld een zorgrobot waarvan tijdens het gebruik de sensoren, wellicht mede veroorzaakt door slecht onderhoud van de bezitter, beschadigd zijn geraakt waardoor bij het inschenken van een kopje thee, de hete thee in plaats van in het kopje, over de buurvrouw wordt geschonken. In een dergelijk geval is evident dat de zorgrobot niet voldeed aan de eisen die daaraan in de gegeven omstandigheden mochten worden gesteld en dat dit een bijzonder gevaar oplevert voor personen of zaken. Mijns inziens geldt dit ook voor software-updates die door de producent beschikbaar worden gesteld. Als de bezitter nalaat de slimme robot te updaten en als gevolg daarvan de slimme robot niet meer in 66 Hoge Raad 17 december 2010, ECLI:NL:HR:2010:BN6236, r.o. 4.4.3.
67 Bauw 2015, nr. 14.
staat is adequaat op situaties te reageren als gevolg waarvan schade ontstaat, dan is dit te beschouwen als een gebrek waarvoor de bezitter moet instaan. De bezitter is hiervoor dus aansprakelijk op grond van artikel 6:173 Burgerlijk Wetboek. De Richtlijn verkoop van Goederen overweegt hieromtrent het volgende:
“Het moet de consument vrijstaan om de geleverde updates al dan niet te installeren. Indien de consument besluit de updates die nodig zijn om de conformiteit van goederen met digitale elementen te waarborgen niet te installeren, mag de consument niet verwachten dat de conformiteit van dergelijke goederen gewaarborgd blijft. De verkoper moet de consument meedelen dat het besluit van de consument om niet over te gaan tot het installeren van updates, waaronder beveiligingsupdates, die nodig zijn om de goederen conform te houden gevolgen zal hebben voor de aansprakelijkheid van de verkoper voor de conformiteit van die kenmerken van de goederen met digitale elementen waarvan de desbetreffende updates de conformiteit worden geacht te handhaven.”69
Ondanks dat deze Richtlijn ziet op de verkoper-consument verhouding biedt dit naar mijn overtuiging wel een richtsnoer bij de vraag hoe aansprakelijkheid voor schade als gevolg van het niet downloaden van een software-update beoordeeld moet worden in het kader van een aansprakelijkheid ex artikel 6:173 Burgerlijk Wetboek. De bezitter is aansprakelijk voor het niet doorvoeren van een software-update. In lijn met de Richtlijn verkoop goederen, lijkt mij het peilmoment waarop de aansprakelijkheid voor schade door handelen van een slimme robot als gevolg van het niet downloaden van een software-update op de bezitter komt te liggen, het moment dat de bezitter kennis heeft genomen van de update en de mogelijk schadelijke gevolgen van niet-downloaden.70 Als de bezitter dan nalaat deze te downloaden, ontstaat er een gebrek dat voor zijn risico moet komen.
Om een slimme robot als gebrekkig in de zin van artikel 6:173 Burgerlijk Wetboek te beschouwen, moet er dus een gebrek zijn in de staat waarin de zaak zich bevindt. Een slimme robot die wel goed werkt maar toch schade berokkent, valt evenwel dus niet onder
69 Richtlijn van het Europees Parlement en de Raad betreffende bepaalde aspecten van overeenkomsten voor de verkoop van goederen, tot wijziging van Verordening (EU) 2017/2394 en Richtlijn 2009/22/EG, en tot
intrekking van Richtlijn 1999/44/EG, onder 30.
70 Artikel 7 lid 4, Richtlijn van het Europees Parlement en de Raad betreffende bepaalde aspecten van overeenkomsten voor de verkoop van goederen, tot wijziging van Verordening (EU) 2017/2394 en Richtlijn 2009/22/EG, en tot intrekking van Richtlijn 1999/44/EG.
bovenstaand gebreksbegrip omdat hier geen direct evident gebrek aan te wijzen is. Dit zal ik hieronder verder uitwerken.
4.1.2. Geen gebrekkige robot, wel schade:
De tweede situatie laat zich lastiger in een voorbeeld vatten, maar is ook weer op te delen in twee verschillende situaties. De eerste situatie is deels al besproken in de paragrafen 1.3.1 en 1.3.2. Zij komt voort uit het feit dat slimme robots nu eenmaal onvoorspelbaar by design zijn. Wanneer door handelen van de robot schade ontstaat en deze schade niet te herleiden is tot een aanwijsbare oorzaak dan stelt Oldenhuis dat vanuit het oogpunt van veiligheid, dergelijke zaken onder de reikwijdte van artikel 6:173 Burgerlijk Wetboek dienen te vallen.71 De Toelichting Meijers in de Parlementaire Geschiedenis stelt omtrent deze gevallen van onbekende oorzaken dat de gebruiker van een zaak voor de gevolgen van onbekende gebreken aansprakelijk is, indien het een zaak betreft waarvan bekend is dat gebruik bij aanwezigheid van bepaalde gebreken een bijzonder gevaar voor personen of zaken oplevert. Het is dan, aldus de Toelichting Meijers, redelijk dat bij een dergelijke zaak niet de benadeelde, maar degene die de zaak gebruikt het risico draagt voor het gebruik van een dergelijk zaak.72
Ik volg deze redenering niet. Ik ben namelijk van mening dat wanneer er schade ontstaat door het naar behoren handelen van een robot, er geen gebrek in de zin van artikel 6:173 Burgerlijk Wetboek bestaat. Het enkele feit dat door het handelen van een slimme robot schade ontstaat, maakt nog niet dat het bestaan van een gebrek kan worden aangenomen. Op deze grond kan artikel 6:173 Burgerlijk Wetboek dus voor deze soort schade niet van toepassing zijn.
Het tweede geval is anders en komt voort uit een verklaarbare gedraging van de robot. Dit geval laat zich beter in een voorbeeld vatten: De Vey Mestdagh en Lubbers noemen in het kader van de zelfrijdende auto als voorbeeld een zelfrijdende auto die perfect functioneert. Deze zelfrijdende auto moet in een noodsituatie kiezen tussen twee kaden: het aanrijden van een fietser enerzijds en het aanrijden van een leegstaand kantoorpand anderzijds. De zelfrijdende auto kiest, geheel in lijn met hoe hij geprogrammeerd is, voor het leegstaande kantoorpand. Hierdoor ontstaat schade aan het kantoorpand.73 Deze schade kan door de benadeeld niet op grond van artikel 6:173 Burgerlijk Wetboek verhaald worden (noch op
71 Oldenhuis, in: GS Onrechtmatige daad, art. 6:173 BW, aant. 5.3.4. (online, laatst bijgewerkt op 1 april 2016).
72 Parlementaire Geschiedenis, Boek 6 p. 743.
grond van artikel 6:185 e.v. Burgerlijk Wetboek) – de auto handelde immers zoals van hem verwacht mocht worden.
Als deze redenering gevolg wordt, dan blijkt dat als uit een autonome en eigen afweging van de robot schade ontstaat, dat niet te herleiden is tot een evident gebrek in het ontwerp van de robot, noch het gevolg is van een evident gebrek dat na het in het verkeer brengen door toedoen van de bezitter is ontstaan, er geen aansprakelijke partij kan worden aangewezen. De benadeelde blijft dan met zijn of haar schade zitten.74 In mijn optiek is dit geen wenselijke situatie en dit toont aan dat artikel 6:173 Burgerlijk Wetboek niet goed toegesneden is op schade veroorzaakt door een slimme robot.
4.2. Overige vereisten aansprakelijkheid ex artikel 6:173 Burgerlijk Wetboek:
In het geval van een evident gebrek in de staat van de robot dat na het in het verkeer brengen is ontstaan, zoals bijvoorbeeld het geval waarin de robot schade veroorzaakt doordat de sensoren beschadigd zijn geraakt, dan kan de bezitter of de bedrijfsmatig gebruiker van de robot hiervoor naar geldend recht wel aansprakelijk zijn. Voor aansprakelijkheid is wel vereist dat is voldaan aan de overige vereisten van artikel 6:173 Burgerlijk Wetboek. Deze zal ik hieronder achtereenvolgens behandelen.
Ten eerste moet het gebrek een bijzonder gevaar opleveren. Het moet gaan om een gevaarlijke eigenschap die de zaak normaal niet bezit. Aan fietsen is een algemeen gevaar verbonden, maar als de remmen van de fiets defect zijn dan heeft de fiets een afwijkende eigenschap. Hierdoor ontstaat een gevaar waar een derde die door de fietser wordt aangereden in de gegeven omstandigheden geen rekening mee had hoeven te houden.75 Bovendien moet een dergelijk gebrek een gevaar opleveren voor personen of zaken. Voorts is vereist dat op het moment dat de schadeveroorzakende gebeurtenis plaatsvond, bekend was dat, indien de zaak in kwestie gebrekkig zou zijn, dat zou resulteren in een bijzonder gevaar voor personen of zaken.76
Voor aansprakelijkheid voor de slimme robot uit hoofde van artikel 6:173 Burgerlijk Wetboek zijn dit geen onoverkomelijke hobbels om te nemen. Een evident gebrek in de staat van de robot levert een bijzonder gevaar op. Bijvoorbeeld een zelfrijdende auto met een lekke band of een barst in de voorruit, levert een bijzonder gevaar op. Het is ook bekend dat als een auto een zodanig afwijkende eigenschap bezit, deze een bijzonder gevaar vormt en niet 74 Ingevolge de artikelen 6:173 lid 2 jo. 6:185 sub b Burgerlijk Wetboek.
75 Bauw 2015, nr. 10.
voldoet aan de eisen die men daaraan in de gegeven omstandigheden mag stellen. Bovendien kan ook als bekend worden verondersteld dat een robot met een afwijkende eigenschap gevaar op kan leveren. Het bekendheidsvereiste is aldus gekoppeld aan het gevaar en niet zozeer aan het gebrek. Het moet algemeen bekend zijn dat een slimme robot, zo hij niet aan de eisen voldoet die men daaraan in de gegeven omstandigheden mocht stellen, gevaar oplevert.
De tenzij-clausule van artikel 6:173 lid 1 Burgerlijk Wetboek beperkt de aansprakelijkheid van de bezitter van een gebrekkige roerende zaak. De tenzij-regel bepaalt namelijk dat de bezitter om aan aansprakelijkheid te ontlopen, ook de verweren die in het kader van de onrechtmatige daad gevoerd kunnen worden, kan voeren. De aangesprokene kan dus beroep doen op een rechtvaardigingsgrond, op overmacht of op afwezigheid van relativiteit (artikel 6:163 Burgerlijk Wetboek).77 Voor de slimme robot geldt in dit kader dat wanneer iemand bewust een gebrekkige slimme robot gebruikt en daarbij schade ontstaat, aansprakelijkheid niet zou hebben ontbroken op grond van onrechtmatige daad. Dat betekent dat de bezitter ook geen beroep op de tenzij-clausule heeft als hij zich niet bewust was van het gebrek.
4.3. Tussenconclusie:
Artikel 6:173 Burgerlijk Wetboek schept een aansprakelijkheid voor de bezitter (of bedrijfsmatige gebruiker, artikel 6:181 Burgerlijk Wetboek) voor schade veroorzaakt door een zaak die niet voldoet aan de eisen die men daaraan in de gegeven omstandigheden mag stellen. Deze aansprakelijkheid geldt echter alleen voor gebreken die zijn ontstaan nadat de roerende zaak in het verkeer is gebracht. Voor gebreken ex artikel 6:186 Burgerlijk Wetboek is de producent aansprakelijk. In dat geval is de bezitter op grond van artikel 6:173 lid 2 Burgerlijk Wetboek dan juist niet aansprakelijk.
Maar welke eisen mogen in de gegeven omstandigheden aan de slimme robot gesteld worden? Aansprakelijkheid ex artikel 6:173 Burgerlijk Wetboek gekleurd door de notie van het begrip 'gebrek'. Voor slimme robots kunnen er om te bepalen of artikel 6:173 Burgerlijk Wetboek van toepassing is, twee situaties onderscheiden worden. Ten eerste de situatie waarin de slimme robot een evident gebrek bezit. Dit gebrek is gelegen in de objectieve staat van de robot en moet ontstaan zijn nadat de slimme robot in het verkeer is gebracht. Ook een niet-uitgevoerde software update valt onder dit gebreksbegrip. Voor dit soort gebreken biedt artikel 6:173 Burgerlijk Wetboek een uitkomst en kan de bezitter uit hoofde van dit artikel aansprakelijk gesteld worden voor schade als gevolg van de gebrekkige slimme robot.
