Overzicht van maatschappelijke en ethische vraagstukken

Tabel 3.2 (volgende pagina) geeft per overkoepelend thema een overzicht van de maatschappelijke en ethische vraagstukken die worden opgeroepen door diverse technologische ontwikkelingen op het gebied van digitalisering. In deze subparagraaf lichten we dit overzicht kort toe.

Privacy

Privacy is het issue dat het meest prominent naar voren komt. Uit de bespreking wordt duidelijk dat privacy over meer gaat dan alleen gegevensbescherming. We zien dat er door pervasive en alomtegenwoordige monitoring – door slimme apparaten, robotica en biometrische identificatie – en technieken zoals profilering, nieuwe vraagstukken opkomen rond privacy. Het huidige regime waarbij de gebruiker verantwoordelijk is om via toestemming zijn datastromen te controleren, lijkt niet adequaat voor een toekomst waarin het individu is omgeven door tientallen slimme Internet-of-Things-apparaten met hun eigen datastromen. Daar komt bij dat de reikwijdte van de digitalisering groter wordt. Biometrische technologie zorgt ervoor dat er allerlei informatie, soms zelf van een afstand, van het gezicht en het lichaam afgelezen kan worden, met of zonder toestemming van het individu. Het aflezen van mentale gemoedstoestand uit micro-expressies op het gezicht kan een

57 apple.com/customer-letter

bedreiging vormen voor mentale privacy; het vermogen om onze gedachten en gevoelens privé te houden.

Tabel 3.2 Maatschappelijke en ethische vraagstukken bij digitalisering

Thema Vraagstukken

Privacy Gegevensbescherming, privacy, digitaal huisrecht, mentale privacy, surveillance, doelverschuiving

Autonomie Keuzevrijheid, vrijheid van meningsuiting, manipulatie, paternalisme Veiligheid Informatieveiligheid, identiteitsfraude, fysieke veiligheid

Controle over technologie Controle en inzicht in algoritmen, verantwoordelijkheid, onvoorspelbaarheid Menselijke waardigheid Dehumanisatie, instrumentalisering, deskilling (afleren van vaardigheden),

desocialisatie, technologische werkeloosheid

Rechtvaardigheid Discriminatie, uitsluiting, gelijke behandeling, stigmatisering Machtsverhoudingen Oneerlijke concurrentie, uitbuiting, relatie burger-overheid-bedrijf

Rathenau Instituut

Autonomie

Autonomie is sterk gerelateerd aan privacy als voorwaarde voor een ongehinderde ontwikkeling van de eigen identiteit. Juist de opkomende uitdagingen op het gebied van privacy – zoals continue monitoring door Internet-of-Things-apparaten – schuren tegen autonomie aan. In hoeverre kan een kind zich nog ongehinderd ontwikkelen als het weet dat de slimme Barbie zijn speelgedrag

registreert? Het vraagstuk van autonomie neemt een belangrijker plaats in naarmate technologie meer beslissingen voor mensen voorsorteert, invult of overneemt. Juist die ontwikkeling is duidelijk zichtbaar in allerlei domeinen: online platformen die informatie voorsorteren, slimme omgevingen die op gedrag anticiperen, persuasieve technologie die op bewust en laagbewust niveau invloed kan uitoefenen en robotica die taken deels of volledig overneemt. Het vraagstuk van autonomie waarbij menselijke beslissingsruimte en keuzevrijheid nog bestaat, lijkt daarmee een steeds belangrijker thema te worden.

Veiligheid

Digitalisering biedt mogelijkheden om systemen veiliger in te richten, bijvoorbeeld door data lokaal op te slaan of door versleuteling waardoor alleen informatie die strikt nodig is beschikbaar is.

Tegelijkertijd introduceert digitalisering ook nieuwe kwetsbaarheden. Informatieveiligheid en cybersecurity zijn al jaren een belangrijk thema in de digitalisering, maar de huidige ontwikkelingen laten zien dat cyberveiligheid – doordat steeds meer apparaten en diensten aan het internet worden verbonden – een veel grotere fysieke dimensie krijgt. De impact ontstijgt daarmee het niveau van datalekken en misbruik van gegevens, en verschuift naar een nieuw niveau van gehackte auto’s waarvan de besturing overgenomen kan worden en pacemakers die tot fatale schokken kunnen worden aangezet. Voor onze fysieke veiligheid wordt het daarom steeds belangrijker dat de veiligheid en het functioneren van digitale systemen goed gewaarborgd wordt.

Controle over technologie

Naarmate er meer processen aan computersystemen worden uitbesteed, wordt de vraag belangrijker hoe menselijke controle over dergelijke systemen kan worden ingericht. Het gaat immers om systemen die medische diagnoses stellen, adviseren en ondersteunen in de rechtspraak, of bij autonome wapentechnologie zelfs beslissingen nemen over leven of dood.

Inzicht in de manier waarop deze systemen tot een bepaalde beslissing komen is cruciaal om deze besluiten te kunnen verantwoorden, en om fouten te signaleren en tegen te gaan, bijvoorbeeld wanneer een systeem een onjuiste medische diagnose stelt door een fout in de software of de data.

Het samenspel van het toenemend aantal handelende systemen zorgt voor een nieuwe laag van complexiteit, en mogelijke onvoorziene effecten: dat geldt voor de individuele burger waarbij het slimme huis vastloopt door de interacties tussen verschillende ‘slimme’ apparaten, maar ook op maatschappelijk niveau wanneer de beurs crasht door autonoom handelende algoritmen.

Menselijke waardigheid

Op het vlak van menselijke waardigheid zien we dat digitalisering en automatisering – in de vorm van robotica – een rol kunnen spelen in het ontlasten van de mens van ‘onmenselijk’ werk. Tegelijk zijn er ook zorgen dat AI en robotica steeds meer werk kunnen en zullen overnemen van mensen en dat dat zal leiden tot werkeloosheid. Maar er zijn ook subtielere effecten als gevolg van het overnemen van taken door technologie: het afnemen van morele vaardigheden (deskilling) als persuasieve systemen ons richting moreel juist gedrag sturen, of desocialisatie doordat mensen virtuele interacties prikkelender en prettiger vinden dan lastige sociale interacties in de fysieke wereld.

Rechtvaardigheid

Digitalisering zorgt ervoor dat mensen en hun gedrag op allerlei manieren worden geanalyseerd.

Daarbij is ook de computer geen onbevooroordeelde beoordelaar, aangezien deze altijd door mensen geprogrammeerd is vanuit bepaalde doelen, veronderstellingen en ideeën. Met het toenemende aantal analyses groeien ook de zorgen over discriminatie, gelijke behandeling en onterechte uitsluiting van mensen. Mensen kunnen op basis van hun profiel toegang tot een lening worden ontzegd, een hogere prijs moeten betalen voor hetzelfde product, of worden aangemerkt als verdachte. Fouten in analyses en profilering kunnen grote consequenties voor individuen hebben en dat is niet wenselijk. Het is tevens zeer onwenselijk dat door profilering systematisch bepaalde groepen mensen worden benadeeld. Een bijkomend probleem is dat er bij

geautomatiseerde analyses weinig inzicht is op hoe die analyses tot stand zijn gekomen. Ook in het geval van een foutief oordeel is het moeilijk voor een individu om zo’n fout in een systeem recht te zetten. Kafkaëske scenario’s liggen daarbij op de loer.

Machtsverhoudingen

Machtsverhoudingen zijn in de digitalisering een belangrijk maatschappelijk vraagstuk. Tussen consumenten en bedrijven verandert de relatie doordat producten meer als een dienst worden aangeboden in het Internet of Things. Daarin is zichtbaar dat software een steeds belangrijkere rol speelt in dagelijkse producten en diensten. Degene met de zeggenschap over die software kan in de programmatuur bepalen hoe ze wel of niet gebruikt kan worden, ‘Code is Law’, noemt de Amerikaanse rechtenprofessor Lessig (2006) dat. De machtspositie van een aantal belangrijke internetbedrijven zorgt ook voor discussies over de afhankelijkheid en de positie als

toegangsbeheerder – tot informatie of diensten – die deze bedrijven verwerven. Maar digitalisering verandert ook de relatie tussen burger en overheid, zoals we zien in overheidssystemen waarmee de overheid meer op burgers probeert te anticiperen, zoals door middel van preventief politiewerk (predictive policing) of het hierboven genoemde SyRI-systeem. De machtsverhouding verschuift doordat de burger transparanter wordt terwijl de overheid juist ondoorzichtiger wordt.