Tilburg University
Juristen & digitalisering
Prins, Corien
Published in:
Nederlands Juristenblad
Publication date:
2020
Document Version
Publisher's PDF, also known as Version of record
Link to publication in Tilburg University Research Portal
Citation for published version (APA):
Prins, C. (2020). Juristen & digitalisering: Voorbij vertrouwde grenzen. Nederlands Juristenblad , 95(33),
2459-2462. [2232].
General rights
Copyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights. • Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain
• You may freely distribute the URL identifying the publication in the public portal
Take down policy
Juristen & digitalisering:
voorbij vertrouwde grenzen
Corien Prins
1Bespreking van het preadvies voor de NJV-jaarvergadering 2020 van Anna Berlee, ‘Digitalisering en disruptie in het recht en de gevolgen voor de juridische professies’ (preadvies), en Eric Tjong Tjin Tai ‘Recht tussen mens en techniek’ (referent), in: De toekomst van de jurist, de jurist van de toekomst, Handelingen NJV, 150e jaargang/2020, Wolters Kluwer 2020, p. 143-173 en 177-198.
A
nna Berlee trapt haar preadvies over de gevolgen van digitalisering voor de juridische professies af door terug te keren naar de statuten van de NJV, zoals vastgesteld bij de oprichting in 1870. ‘Bijdragen tot een groot algemeen belang: goede recht en goede rechts-pleging’ door een vereniging bestaande uit ‘deskundigen’ vormen daarin leidende uitgangspunten. Berlee constateert dat er de afgelopen 150 jaar niet bijzonder veel is veran-derd wat betreft de invulling van ‘deskundigheid’, namelijk een genoten rechtenopleiding. Maar zal dat over nogmaals 150 jaar – we spreken over 2170 – nog steeds zo zijn? ‘… of heeft tegen die tijd de vereniging haar deuren geopend voor computerwetenschappers, programmeurs, of IBM’s Ross Intelligence’, zo vraagt de preadviseur zich af (p. 143).Berlee maakt het niet expliciet, maar haar toevoe-ging ‘IBM’s Ross Intelligence’ valt te interpreteren als het agenderen van de vraag naar een NJV-lidmaatschap voor autonome systemen. Kortom, in 2170 is het NJV-lidmaat-schap niet uitsluitend voorbehouden aan mensen van vlees en bloed. Een vreemde gedachte, maar in een perio-de van 150 jaar kan veel gebeuren. Zeker als we beperio-denken dat anno 2018 Saudi-Arabië het staatsburgerschap ver-leende aan robot Sophia.2 Los van de vraag hoe serieus we
deze erkenning moeten nemen: zo bizar is het in ieder geval niet om te overpeinzen of de ‘deskundigen’ die teza-men de NJV vorteza-men ook digitale systeteza-men zoals IBM’s Ross Intelligence zouden kunnen zijn. Dit type systemen voert niet alleen autonoom – dat wil zeggen zonder men-selijke tussenkomst – juridische taken uit, maar is ook in staat om zonder interventie van mensen tot juridisch rele-vante afwegingen en keuzes te komen. Daartoe komen ze aan de hand van de feedback die ze kregen op eerdere handelingen. En zelfs wanneer het NJV-lidmaatschap in formele zin aan ons mensen – wellicht zelfs juristen – blijft voorbehouden: we ontkomen niet aan de vraag welk type juridisch werk uitsluitend door mensen verricht kan worden en waarom dan precies. Of kan ‘de jurist van de toekomst’ ook een algoritme zijn?
Om direct maar de teneur van Berlee’s antwoord prijs te geven: die is genuanceerd. Digitalisering rukt op, de meerwaarde daarvan is indrukwekkend, maar de jurist vervangen zal de technologie niet. De preadviseur maakt de vergelijking met het werk van een piloot: ‘Het werkelij-ke creatieve en inhoudelijk moeilijwerkelij-ke werk wordt vervuld door de jurist, die voor het overige wordt ondersteund door een computersysteem dat fungeert als de automati-sche piloot en de door de piloot ingezette koers volgt.’ (p. 173). Op de implicaties van deze conclusie kom ik aan het slot van deze bespreking terug. Eerst een korte schets van het preadvies.
Gezien de breedte van de thematiek, benoemt Berlee bij aanvang van haar betoog wat buiten het bestek van haar preadvies valt: een oordeel over de wenselijkheid van het inzetten van technologie in de praktijk; vragen naar verenigbaarheid van het nemen van juridische beslissin-gen met fundamentele rechten, bijvoorbeeld omdat het algoritme dat wordt toegepast tot ongelijke behandeling leidt; of wetgeving aangepast moet worden, bijvoorbeeld met het oog op termen als ‘schriftelijkheid’ of
‘onderteke-Digitalisering rukt op, de
meerwaarde daarvan is
indrukwekkend, maar de jurist
vervangen zal de technologie niet
Auteur
1. Prof. mr. J.E.J. Prins is hoogleraar Recht
en Informatisering aan de Universiteit Til-burg, voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) en
redacteur van het NJB.
Noten
ning’. Kern van het preadvies is een analyse van de daad-werkelijke (mogelijke) inzet van verschillende technieken en de invloed op juridische beroepen (p. 145). Deze analy-se bestaat uit twee hoofdcomponenten: (1) een bespre-king van de ontwikkelingen in de techniek en (2) een duiding van ontwikkelingen binnen enkele juridische pro-fessies die (mogelijk) disruptief of ondersteunend zijn.
In haar bespreking van de technologische ontwikke-lingen maakt Berlee terecht duidelijk dat de inzet van computertechnologie in de juridische professie alles behalve nieuw is. Daartoe neemt ze ons mee terug naar de jaren tachtig van de vorige eeuw, toen – zeker in ons land – relatief veel onderzoek werd verricht naar het omzetten van juridische taal naar formele computerregels. Mede aan de hand van de resultaten van dat onderzoek vonden diverse juridische kennissystemen hun toepassing in de praktijk, vooral de uitvoeringspraktijk (belastingdienst, sociale zekerheid en alimentatieberekening) en bij de straftoemeting. Echt breed inzetbaar bleken dit type ken-nissystemen echter niet. Dit kwam vooral omdat de tallo-ze open normen waarmee ons recht werkt (redelijkheid en billijkheid, naar verkeersopvattingen, etc.) niet zo eenvou-dig in eenduieenvou-dige computerregels zijn te formaliseren. Overigens ligt hierin niet de enige uitdaging, zo toont het betoog van Berlee. De kwaliteit van computergestuurde zoeksystemen hangt nauw samen met het vermogen van het systeem om relevante informatie te vinden. Kortom, het systeem moet in staat zijn om de mate van relevantie van een bepaald document of bepaalde informatie voor een specifieke zaak te bepalen. Nu is het vinden van rele-vante informatie één. Het herkennen en verwerken van juridische argumentatie vraagt veel meer van een sys-teem. Voor Berlee ligt in deze tweede vaststelling de bedreiging (haar woorden) voor de juridische professies.
‘Een belangrijke ontwikkeling en mogelijke bedreiging voor de juristerij vormt daarbij de ontwikkeling van com-putermodellen die niet alleen informatie in documenten kunnen vinden en het document vervolgens tonen, maar de systemen die juridische argumentatie kunnen vinden en die deze zelf kunnen formuleren.’ (p. 154). Na een korte bespreking van de werking van dit type systemen, conclu-deert de preadviseur – in aansluiting op eerdere publica-ties – dat dit soort technologie vooral als ondersteuning van de jurist gezien moet worden. ‘De belofte van de argu-mentatiesystemen als daadwerkelijke beslissystemen lijkt daarmee nog te voorbarig.’ (p. 156). Aan het slot van haar bespreking van de techniek bespreekt Berlee de ontwikke-ling die in haar ogen de juridische professie wel binnen afzienbare termijn zal raken: de talloze systemen die niet specifiek op de juridische praktijk of het werk van een jurist zijn gericht (van planningssoftware tot de geauto-matiseerde afhandeling van snelheidsovertredingen), maar een deel van het werk overnemen en de juridische professionals uitdagen hun meerwaarde aan te tonen. Met de benodigde kennis over de ontwikkelingen in de techniek en de (huidige) beperkingen daarvan op zak, neemt de preadviseur de lezer mee naar de implicaties voor diverse juridische professies. Welke ontwikkelingen hebben de advocaat, notaris, rechter en overheidsjurist het nodige te bieden en welke ontwikkelingen zijn (moge-lijk) disruptief? Waardevol aan de bespreking is dat Berlee de verschillende professies afzonderlijk behandelt en daarmee recht doet aan de specifieke uitdagingen waar een notaris of juist een overheidsjurist zich voor gesteld ziet. Of juist de kansen die er voor een specifieke professie zijn, zoals zogenoemde blockchain-technologie in het notariaat.3 Wat door de afzonderlijke behandeling niet in
beeld komt zijn de effecten in de (kennis)positie van de
NJV preadviezen
verschillende professies op het moment dat deze met elkaar te maken krijgen, maar de ene professie de voorde-len van digitalisering wel volop weet te benutten (grote advocatenkantoren) terwijl de andere daarin niet kan (of wil) meekomen (rechterlijke macht).
De preadviseur concludeert dat het vooral de advo-caat en notaris zijn die tot dusver voornamelijk worden geholpen door de ontwikkelingen in de techniek. Of de notaris ook te vrezen heeft voor digitalisering is ‘afhanke-lijk van de vraag of deze nieuwe techniek (ook) de
Belehrungspflicht van de notaris raakt’ (p. 162). Deze plicht
houdt in dat de notaris – voordat deze een akte verlijdt – zich ervan vergewist dat partijen de in de betreffende akte opgenomen verplichtingen weloverwogen accepte-ren. ‘Digitale Belehrung’ ziet Berlee er voorlopig niet van komen: ‘Hoe gaat een computer bijvoorbeeld controleren of een bepaalde beslissing tot overdracht van een woning van vader aan dochter niet onder misbruik van omstan-digheden plaatsvindt (…)’ (p. 165).
Het citaat is illustratief voor de meer algemene con-clusie van Berlee’s preadvies: digitalisering biedt overdui-delijk kansen voor de jurist, vele praktische taken van juristen zullen worden overgenomen maar voor het echte werk zullen we – ook in de toekomst – bij de jurist van vlees en bloed moeten aankloppen. Deze conclusie trekt ook referent Tjong Tjin Tai: ‘De discussie over Legal Tech wordt ten onrechte gezet in de sleutel van vervanging van mensen. Het zou moeten gaan over de ondersteuning van mensen: de mens moet de controle houden over het recht, en de techniek moet dat faciliteren door gebruikers in staat te stellen de techniek te besturen en te beïnvloeden’ (p. 197). Mooi, prikkelend en bij vlagen ook bevlogen, maakt Tjong Tjin Tai duidelijk dat ‘het mens-zijn’ wezen-lijk wezen-lijkt te zijn voor de rechterwezen-lijke arbeid (p. 189). Algorit-men weten niet wat het is om ‘in de wereld te leven’, ze kunnen de zorgen van de samenleving niet invoelen en delen en ze zijn niet vatbaar voor correctie door publieke verontwaardiging en maatschappelijke onrust (p. 188). ‘Simpel gesteld: opdat een algoritme recht kan spreken moet het eerst pijn kunnen voelen’ (p. 189).
Toch toont Tjong Tjin Tai, explicieter dan Berlee, zich ook de realist die vaststelt dat de techniek ondanks alle bezwaren verder zal oprukken. ‘We moeten niet onder-schatten wat op de lange duur technisch mogelijk wordt, ook al zijn er nu meer beperkingen en duurt alles langer dan wel wordt gedacht’ (p. 194). Het is een belangrijke oproep van Tjong Tjin Tai, zeker omdat naar mijn idee de discussie over de inzet van algoritmen in de juridische praktijk toe is aan een volgende stap. Die stap is richting een debat over de randvoorwaarden waaronder juridische professies de technologie wel gaan benutten. De relative-rende conclusie van zowel preadviseur als referent kan en
mag wat mij betreft niet betekenen dat de NJV na omme-komst van het jubileumjaar weer over gaat tot de orde van de dag omdat het met de disruptie onder invloed van digi-talisering kennelijk niet zo’n vaart zal lopen. Afwachten is geen optie omdat technologie hoe dan ook benut gaat worden en ook de juridische professie in fundamentele zin zal transformeren.
We hebben te waken voor de ogenschijnlijk ‘veilige’ vaststelling dat de mens toch nooit volledig door een algoritme vervangen kan worden. Dat is een risicovolle vorm van wat ik techno-relativering of techno-bagatellise-ring zou willen noemen. Met een dergelijke houding lopen we het risico onvoldoende alert te zijn op de nieuwe afhankelijkheden, veranderingen in de rechtspraktijk en veranderende verhoudingen die wel degelijk in gang wor-den gezet met iedere kleine, ogenschijnlijk vanzelfspre-kende, stap die we zetten met de inzet van digitalisering. En tegen de tijd dat we met de optelsom van al deze klei-ne stappen worden geconfronteerd, is het welhaast onmo-gelijk om de ontwikkeling terug te draaien. Als illustratie kan de inzet door de politie van op algoritmen gebaseerde systemen dienen. Deze worden onder meer toegepast van-uit de overtuiging dat aldus de tijd en plaats van een delict en het type verdachte zijn te voorspellen. Belangrijk is het besef dat behalve de voordelen die er te halen zijn, ook het accent in de rechtshandhaving verschuift. Niet om de inzet van het systeem te bekritiseren, maar wel om de verschuiving van repressieve naar preventieve handha-ving te erkennen. Een volwassen omgang met digitale technologie binnen juridische professies betekent, kort-om, dat niet alleen bekeken wordt wat er op het spel staat en we ons afvragen waarom digitale instrumenten de rol van de mens niet over zouden kunnen nemen. Belangrijk is ook dat we als juristen breed gedragen op het vizier krijgen onder welke voorwaarden we deze instrumenten juist wel een rol geven. En welke kernwaarden en stan-daarden daarbij leidend dienen te zijn. Kortom: hoe gaan we de technologie dan wel benutten?
Wat dit laatste betreft valt de verbinding te zoeken met enkele andere preadviezen in de jubileumbundel. In het bijzonder het betoog van Anne Ruth Mackor en dat van referent Jos Silvis bieden hier waardevolle inspiratie. Aanhakend bij het betoog van Silvis over professionele standaarden werp ik het balletje op of de rechtspraak de ontwikkeling van deze standaarden inmiddels niet ook in het licht van technologische toepassingen zou moeten bezien. Door concrete standaarden te ontwikkelen voor
3. Bij blockchain-technologie wordt met behulp van digitale versleuteling (crypto-grafie) vertrouwen in een persoon of een
instantie vervangen door vertrouwen in een netwerk van computers.
die aspecten van het rechterlijk werk waarbij digitalise-ring wordt benut, kan immers helder worden hoe rechters collectief denken over de kwaliteitsmaatstaven bij die inzet, de randvoorwaarden en eventueel noodzakelijke grenzen. Met het oog op de rechterlijke onafhankelijkheid is het van belang dat juist de rechtspraak zelf hiermee aan de slag gaat en dit niet overlaat aan of uitbesteedt bij de (commerciële) ICT-dienstverlening. Silvis ziet het pro-ces waarin rechters werken aan professionele standaarden als ‘een sieraad voor de rechtspraak waarvan geleidelijk aan meer vruchten zullen worden geplukt’ (p. 137). Laat ook de professionele standaarden voor digitalisering dan een van de toekomstige vruchten zijn.
Digitalisering laat bij uitstek zien dat de twee ele-menten van het NJV-thema van dit jubileum – ‘de
toe-komst van de jurist’ en ‘de jurist van de toetoe-komst’ – onlos-makelijk met elkaar zijn verbonden. Weliswaar zal de jurist van de toekomst nog niet zo snel een digitaal sys-teem zijn; de toekomst van de jurist is alleen dan gegaran-deerd als juristen digitalisering serieus nemen. En met gezag het voortouw nemen in het geven van ruimte aan digitale kansen, maar ook het stellen van grenzen aan de inzet van digitalisering. Of, om op de door Berlee gehan-teerde vergelijking met de automatische piloot terug te komen: ook het gebruik van de automatische piloot wordt niet aan ad hoc keuzes overgelaten, maar uitgebreid en telkens opnieuw besproken binnen de beroepsgroep van piloten. Kortom, hoog tijd voor het concretiseren van de ‘deskundigheid’ die van zowel systemen als juristen in een hoogtechnologische samenleving verlangd mag worden. En tijd voor een debat over het ‘kompas’ voor de wel of juist niet inzet van digitale systemen.4 Laten we dit als
juridische professies achterwege dan doemt ook hier het door Bovens in zijn preadvies beschreven scenario op dat juristen naar de periferie worden verdrongen (p. 57). Dan zijn het wederom anderen die beslissen of bepaald juri-disch werk wel of niet aan een digitaal systeem overgela-ten kan worden.
NJV preadviezen
4. Zie voor een aanzet: J.E.J. Prins & J. van der Roest, ‘AI en de Rechtspraak. Meer dan
alleen de “robotrechter”’, NJB 2018/206, afl. 4.
