Conclusie: wat is een betere norm?

Bij de afweging van belangen komt naar mijn mening bijzonder gewicht toe aan de

volgende argumenten. In het voordeel van strenge aansprakelijkheid spreekt het belang van consumentenbescherming. En dat de normen voor menselijk advies en roboadvies niet te ver uiteen mogen lopen, anders verkrijgt een van beide een competitief voordeel. Ook is het de financiële onderneming die invloed op de werking van het algoritme heeft en over de data beschikt om aan te tonen dat het advies juist was.

Daartegenover zijn er ook belangrijke argumenten voor een soepelere regeling ten aanzien van roboadvies. Het gaat om een nieuwe, veelbelovende vorm van dienstverlening die financieel advies stukken toegankelijker kan maken voor minder vermogende cliënten. Zulke innovatie moet de ruimte worden geboden. Zeker in een land als Nederland waar de

overheid de kenniseconomie wil stimuleren.177 Ook is de klantverwachting anders, het advies mag dus meer grof zijn.

De oplossing kan worden ingepast binnen de zorgplicht van art. 7:401 BW. De dienst die aangeboden wordt is zowel bij menselijk advies een financiële dienst. Echter, de wijze van dienstverlening en de inhoud is geheel verschillend, wat noopt tot een nieuwe invulling van wat de ‘zorg van een goed opdrachtnemer’ meebrengt. Bij menselijk advies wordt de expertise en ervaring van een medewerker ter beschikking gesteld, er is meer interactie, meer tijdsinvestering en er mag verwacht worden dat het advies meer toegesneden op de specifieke cliënt is.

Bij roboadvies wordt een algoritme ter beschikking gesteld, de dienstverlening heeft (naar de huidige stand van de techniek) een wezenlijk andere inhoud. Er is minder interactie en persoonlijke aandacht, de cliënt wordt ingedeeld in een categorie op basis van enkele cruciale gegevens. Het opgestelde profiel is minder toegesneden op de cliënt, binnen de categorie waarin het profiel valt kunnen grote onderlinge verschillen bestaan. De informatie- inwinning is minder verfijnd, aan een online vragenlijst kunnen niet dezelfde eisen als een mens worden gesteld. De cliënt behoort dit te weten, de opdracht is wezenlijk anders dan bij menselijk advies.

Dit wezenlijke verschil in de opdracht die gegeven wordt vereist een andere invulling van de bijzondere zorgplicht. Ik sluit me aan bij van Praag die voorstelt de norm van de redelijk bekwaam en redelijk denkend algoritmeprogrammeur te hanteren.178 Dat de norm anders is voor algoritmes is een logisch gevolg van het feit dat de opdracht die wordt gegeven ook anders is. De verantwoordelijkheid ligt zo ook bij de mens met invloed op het functioneren van het algoritme, de programmeur. Het is daarom logisch dat vakbekwaamheidseisen een grote rol spelen.179

177 _{Dit doel wordt vaak herhaald, o.a. bij monde van staatssecretaris Keijzer in:} nieuwsbericht, 04-03-2019, ‘Nederlandse industrie, overheid en Boeing vernieuwen samenwerking’

178 _{Praag, van, TvCH 2018}

Deze oplossing kan geheel worden ingepast binnen de thans gangbare norm van de redelijk denkend en redelijk handelend beroepsbeoefenaar. Echter, bij roboadvies is de adviseur niet meer de beroepsbeoefenaar maar is dat de programmeur. Daarom moet deze norm enkel gelden voor wat de AFM 'volledig roboadvies' en 'gedeeltelijk roboadvies' noemt aangezien daar het algoritme leidend is.180

Tot op heden is machine learning niet prevalent in de industrie rondom roboadvies, omdat de mens nog zoveel invloed op de werking van het algoritme heeft. Daarom is het juist dat de normadressaat voor roboadvies de mens is, in de persoon van de laatste menselijke schakel in de keten van roboadvies: de algoritmeprogrammeur. Wanneer algoritmes

zelflerend worden is deze norm minder geschikt omdat de programmeur dan minder invloed heeft.181 De norm van de redelijk denkend en redelijk bekwaam adviseur komt dan weer in beeld. Dit vindt steun in het volgende citaat uit een concept-rapport met aanbevelingen over aansprakelijkheid voor robots en algoritmes:182

“Considers that, in principle, once the ultimately responsible parties have been identified, their liability would be proportionate 47. to the actual level of instructions given to the robot and of its autonomy, so that the greater a robot’s learning capability or autonomy is, the lower other parties’ responsibility should be, and the longer a robot’s “education” has lasted, the greater the responsibility of its “teacher” should be.”

Bij invulling van deze norm moet bijzonder belang worden gehecht aan de huidige stand van de techniek en gerechtvaardigde klantverwachting. Dat wil zeggen dat de bijzondere

zorgplicht ‘moet worden verstaan in verband met de inhoud van de gegeven opdracht’. De Hoge Raad heeft deze bewoording gebezigd in het RBC/Brinkers-arrest in de context van de zorgplicht voor IT-toeleveranciers.183

180 _{Zie 2.1}

181 _{Schrijver & Maes, Computerrecht 2010, p. 176} 182 _{EP 2017, par. 28}

Door extra waarde te hechten aan de stand van de techniek groeit de bijzondere zorgplicht mee en is deze toekomstbestendig. Hierbij mogen van een bank best investeringen verwacht worden, banken zijn immers vermogende partijen waarvan verwacht mag worden dat ze experts in dienst nemen en hun product zorgvuldig ontwikkelen.184 Hoe hoog de investering moet zijn hangt ook af van de prijs van het advies en de manier waarop de bank het product presenteert.

Bij kennelijk foutief advies moet de cliënt geholpen worden met met een weerlegbaar bewijsvermoeden. Ratio hiervoor is dat degene die het algoritme gebruikt beter in staat is de werking ervan uit te leggen, de norm van de redelijk denkend algoritmeprogrammeur is tevens te technisch voor consumenten. In die zin moeten de opvatting van Tjong Tjin Tai en van Praag worden verenigd om tegemoet te komen aan de eisen van

consumentenbescherming.

Toegegeven is het niveau van consumentenbescherming van de bijzondere zorgplicht in sommige gevallen lager bij hantering van de nieuwe norm. Maar in andere gevallen wordt van een programmeur juist meer inspanning verwacht. Een redelijk denkend programmeur weet bijvoorbeeld dat een kleine onzorgvuldigheid tot veel onjuiste adviezen kan leiden, en is dus voorzichtiger dan een menselijk adviseur.

Lastig aan de norm van de redelijk denkend algoritmeprogrammeur is dat het voor rechters ingewikkeld is vast te stellen wat een ‘gemiddelde’ redelijk denkend programmeur zou doen. Het is een relatief jong beroep en het niveau van een programmeur verschilt behoorlijk. Bijvoorbeeld van iemand die een online Python cursus heeft gevolgd tot een informaticus of een promovendus. Door de grote onderlinge verschillen en het gebrek aan een eenduidige definitie is het moeilijk consensus te bereiken over wat redelijk is.185 Het belang van bevordering van technologische innovatie, toegankelijkheid van

gepersonaliseerd financieel advies voor minder vermogende cliënten en het bevorderen van

184 _{Praag, van & van den Bergh, FRP 2018, p. 46} 185 _{Vergelijkbaar: Riekerk, TvC 2017, p. 85}

de positie die Nederland moet willen als voorloper op het gebied van roboadvies

rechtvaardigen de nieuwe norm. De norm van de redelijk denkend en redelijk bekwaam programmeur is meer passend en er is ruimte voor toepassing van de norm binnen het huidige juridisch kader.