Dient de maatman te worden aangepast?

De maatman is op dit moment alleen op menselijk handelen gericht. Wanneer bepaalde menselijke handelingen worden vervangen door handelingen van algoritmes, ligt het voor de hand dat de maatman aangepast dient te worden. Het is hierbij essentieel dat er regels worden opgesteld om het handelen van algoritmes transparant en begrijpelijk te maken. Hierdoor kunnend de factoren die van belang zijn voor de invulling van de maatman überhaupt worden getoetst. Daarnaast zullen grote aanpassingen moeten plaatsvinden in de invulling van de norm. Zoals is gebleken uit de wetsgeschiedenis en jurisprudentie wordt voor de invulling van de maatman grote waarde toegekend aan de professionele standaard. De professionele standaard wordt gevormd door gedragscodes, protocollen en regelgeving van een specifieke branche. Met name in de gezondheidszorg speelt de professionele standaard een essentiële rol in de invulling van de norm.136 _{Het is daarom belangrijk dat in deze regels specifieke bepalingen worden}

opgenomen omtrent het gebruik van algoritmes. Dit kan als volgt:

Ten eerste zouden in de gedragsregels basis voorzorgsmaatregelen kunnen worden opgenomen. Deze voorzorgsmaatregelen moeten ervoor zorgen dat het handelen van algoritmes überhaupt kan worden getoetst. De factoren die van belang zijn voor de invulling van de maatman kunnen slechts worden getoetst als het handelen van een algoritme transparant en begrijpelijk zijn. Een voorbeeld kan worden genomen aan de voorzorgsmaatregelen rondom algorithmic trading van de Financial Industry Regulatory Authority (FINRA).137 _{Het belang van deze}

voorzorgsmaatregelen is dat inzichtelijk en begrijpelijk wordt gemaakt hoe een algoritme heeft gehandeld. Door het gedrag van een algoritme helder en begrijpelijk te documenteren, kan men de exacte handelingen controleren. De bedoeling is dat daardoor minder black boxen zijn waardoor het handelen van een algoritme goed is na te lopen. Dit is bijvoorbeeld van belang

136_{Wijne, in: GS Bijzondere overeenkomsten, art. 7:453 BW, aant. 6.} 137 _{‘Algorithmic Trading’, finra.org/industry/algorithmic-trading.}

wanneer er wordt gekeken naar de inspanning, zorgvuldigheid of doeltreffendheid van een algoritme.

Het niet voldoen aan een of meer van de vereiste voorzorgsmaatregelen, impliceert dat niet is gehandeld in overeenstemming met de maatman. Deze voorzorgsmaatregelen dient het algoritme te hebben, maar moeten worden getroffen door de programmeur of de personen die het systeem bezitten, gebruiken of trainen.138

Ten tweede moet in iedere gedragscode een toestemmingsvereiste komen voor het gebruik van een algoritme voor de werkzaamheden. De gedragsregels van de Orde van Advocaten voorziet al in zulke regels, artikel 13 en 14 gedragsregels advocatuur Nederlandse Orde van Advocaten. Een toestemmingsvereiste moet samengegaan met een informatieplicht. De wederpartij/cliënt moet schriftelijk en mondeling goed worden geïnformeerd over eventuele risico’s van het gebruik van een algoritme. Dit dient voor iedere beroepsgroep te gelden.

Voor zorgverleners bestaat al een toestemmingsvereiste, artikel 7:450 BW, en een informatieplicht, artikel 7:448 BW.

Ook het labelen van data moet een vereiste worden in deze voorzorgsmaatregelen. Het labelen van data, alvorens het te gebruiken, kan daarnaast een kleine bijdrage leveren aan correctheid van het algoritme. Met het labelen van data wordt het classificeren en categoriseren van data bedoeld.139

Dit labelen dient wel op een objectieve manier met veel controle te gebeuren en daarnaast moet men nauwkeurig het labelproces documenteren.140 _{Dit proces zal ook onder begeleiding van een}

geregistreerd persoon kunnen plaatsvinden zodat altijd iemand eindverantwoordelijk is voor het labelen van data.

Door de data zorgvuldig te labelen, wordt voorkomen dat ‘onzuivere’ data worden gebruikt waaruit verkeerde conclusies worden getrokken, zoals bijvoorbeeld gebeurde bij het sollicitatie algoritme van Amazon.

Dit proces dient zorgvuldig te worden gedaan want tijdens het classificeren kan er alsnog een bias insluipen.141

Ten derde zou men de bewijslast kunnen leggen bij de op de persoon die het algoritme laat handelen. Aangetoond moet worden dat in overeenstemming met de maatman is gehandeld. Hierdoor wordt degene die een algoritme handelingen laat verrichten, verplicht om het algoritme transparant en begrijpelijk te maken. Door de bewijslast op de gedaagde te leggen, zal men worden aangespoord om de vereiste voorzorgsmaatregelen te nemen.142 _{Dit lijkt goed}

verenigbaar met een uitspraak van de Hoge Raad waarin werd geoordeeld dat de desbetreffende gemeente in bezwaar en beroep inzicht had moeten geven in een softwareprogramma dat ten grondslag lag aan de WOZ-waardebepalingen. Raadpleging van het softwareprogramma was niet

138_{Vetzo, Gerards en Nehmelman 2018, p. 48-49.}

139 _{‘What is Data Labeling?’, SYKES Global Youtube 11 juli 2018.} 140_{Reese 2016.}

141_{Barocas & Selbst 2016, p. 671.} 142_{Kullmann 2019, p.50-52.}

of te laat mogelijk en daarom werd de gemeente veroordeeld in de proceskosten. Inzicht is voor belanghebbende noodzakelijk ter controle en betwisting en daarom moet de gemeente zorgen dat het softwareprogramma inzichtelijk en controleerbaar is. “Op die manier wordt voorkomen dat

de WOZ-beschikking, vanuit de belanghebbende bezien, het resultaat is van een ‘black box’”.143

Ter invulling van de maatman zal moeten worden gekeken naar de factoren die van belang zijn voor de invulling van de maatman. Een van die factoren is de branche en zijn professionele standaard. Indien het algoritme transparant is, kan het worden beoordeeld aan de hand van specifieke gedragsregels voor de desbetreffende branche. Deze gedragsregels zullen de maatman verder invullen. Hierbij zou een voorbeeld kunnen worden genomen aan de Ethische Code Artificial Intilligence. Deze code ziet goed op rechtvaardigheid, eerlijkheid en op de principes van uitlegbaarheid.144

Een andere factor is de deskundigheid. De mate van deskundigheid van een algoritme zou kunnen worden bepaald op basis van een succespercentage. Het succespercentage volgt uit verschillende testen waarbij de maximale score 100% is. Terugkoppelend op een contract

analysis algoritme zou dat betekenen dat het succespercentage wordt berekend aan de hand van

de vraag hoeveel risico’s het heeft herkend in verschillende due diligence onderzoeken. Ervan uitgaande dat de vragen die het dient te beoordelen met een ja of nee worden beantwoord, is een succespercentage van 80% niet uitzonderlijk goed. Met een simpele gok bestaat de kans dat 50% al goed is.145 _{Hoe hoog een succespercentage wel moet zijn, is niet eenvoudig te zeggen omdat}

dit volgt uit wat maatschappelijk geaccepteerd is op dat moment. Naarmate de algoritmes beter zullen presteren zal het succespercentage ook steeds strenger worden. Indien het

succespercentage van een algoritme onder de maatschappelijke geaccepteerde grens ligt, bezit het niet de juiste deskundigheid en dienen, net zoals bij de huidige maatman, extra

voorzorgsmaatregelen te worden genomen.

Ter controle blijft het belangrijk om de training te documenteren en de training net zoals bij

algorithmic trading onder leiding van een geregistreerd persoon te doen.146 _{Door te werken met}

een geregistreerd persoon is altijd iemand eindverantwoordelijk voor de testfase.

Tot slot zou de norm op de lange termijn moeten worden aangepast. Op de korte termijn zou het handelen van een algoritme kunnen worden getoetst aan het handelen van een mens. Indien het algoritme slechter heeft gehandeld dan een mens zou hebben gedaan dan heeft het niet in

overeenstemming met de maatman gehandeld. De huidige maatman norm kan op termijn te laag liggen om een reële beoordeling te maken van het handelen van een algoritme.147 _{De introductie}

143_{HR 17-08-2018, ECLI:NL:HR:2018:1316, m.nt. Redactie Vakstudie Nieuws.}

144_{Nederland ICT, Ethische Code Artificial Intilligence.}

145_{Prakken 2018, p. 270-271.}

146_{FINRA Regulatory Notice March 2015, ‘Equity trading initiatives: supervision and control practices for algorithmic}

trading strategies’, p. 5-7.

van een nieuwe maatman, handelen als een goed functionerend algoritme, lijkt dan het meest voor de hand te liggen.