wordt nagestreefd, en culturele, intellectuele en politieke veelvormigheid wordt onderdrukt
Naast de overheid speelt ook het grote internationale bedrijfsleven (Google, Amazon, Microsoft, Facebook, etc.) een belangrijke rol in het digitale landschap.
Wereldwijd worden in hoge mate de diensten van de grote digitale bedrijven omarmt – bedrijven die het niet heel nauw nemen met onze privacy en die onze persoonlijke profiel- en gedragsdata verhandelen op een schaal en met een snelheid die ongekend is. Er is nu reeds sprake van een enorme informatie-ongelijkheid, waarbij de gemiddelde gebruiker van een online service – of het nu een Google search, een Facebook-pagina, een ‘Nest Home’-thermostaat, of een
‘Amazon Alexa’-voice assistant betreft – geen idee heeft wat er met haar informatie gebeurt: welke andere partijen dan degene die de service aanbiedt toegang krijgen tot deze data, hoe deze data gebruikt worden, wat haar data waard zijn voor
derden, welke inferenties men maakt op basis van deze persoonlijke data, en hoe dit uiteindelijk weer leidt tot persoonlijke beïnvloeding van kijk-, klik-, en koopgedrag32.
Niemand leest de honderden pagina’s online contracten, licence agreements, privacy policies, of terms of service, en dat ze gelezen worden zou ook een onrealistische, ja zelfs onethische verwachting zijn. Een recente studie naar een fictief sociaal netwerk, NameDrop, wees uit dat van de honderden participanten, driekwart de privacy policy en terms of service geheel oversloeg, en het overgebleven kwart deze documentatie slechts zeer vluchtig las, terwijl 97 procent van de mensen instemden met de privacy policy en 93 procent met de terms of tervice. Had men deze documenten beter gelezen dan was duidelijk geworden dat ze ridicule clausules bevatten over het afstaan van het eerstgeboren kind en het delen van alle persoonlijke informatie met de eigen werkgever en de Amerikaanse veiligheids-dienst NSA. Kwalitatieve data laten zien dat mensen deze documenten als hinderlijk ervaren, en dat men direct toegang wil tot de functionaliteit van de service zonder te hoeven nadenken over de manier waarop, of de condities waaronder, deze service tot stand komt.
Deze realiteit, door de auteurs bestempeld als de ‘grootse leugen op het Internet’33, maakt misbruik door grote bedrijven kinderlijk eenvoudig, terwijl men zich ogenschijnlijk aan de letter van de wet houdt. Deze fundamentele informatie-ongelijkheid vormt de basis van wat Shoshana Zuboff ‘surveillance kapitalisme’
noemt34. In haar woorden:
“Surveillance capitalism operates through unprecedented asymmetries in knowledge and the power that accrues to knowledge. Surveillance capitalists know everything about us, whereas their operations are designed to be unknowable to us. They accumulate vast domains of new knowledge from us, but not for us. They predict our futures for the sake of others’ gain, not ours.” (p.11).
Waar überveillance een Orwelliaanse dystopie oproept, van onderdrukking en manipulatie, roept Zuboff’s surveillance-kapitalisme eerder associaties op met Huxley’s Brave New World, een dystopie van zelf-opgelegd hedonistisch nihilisme.
Wat beide systemen echter delen is het ondergeschikt en eenvormig maken van het individu – zij die zich afwijkend gedragen worden genegeerd, gemarginaliseerd, geëxcommuniceerd of anderszins bestraft.
Individuele variatie is echter een centraal ingrediënt van culturele vooruitgang en maatschappelijke flexibiliteit. In een maatschappij waar de complexiteit van uitdagingen in het digitale tijdperk enkel toeneemt, is een top-down, centralistisch, one-size-fits-all beleid een misvatting. Bekende spanningsvelden als die tussen privacy en veiligheid, tussen economie en ecologie, of tussen het individuele belang en dat van het collectief, maken onmiddellijk helder dat we niet zonder meer kunnen optimaliseren voor een singuliere doelfunctie. Zo’n functie bestaat niet.
Digitale middelen van meten en beïnvloeden kunnen krachtige tools zijn voor een overheid die op een data-gedreven, evidence based manier te werk wil gaan.
De paradox is dat de middelen van surveillance die we zo kritisch onder de loep hebben genomen ook kunnen leiden tot een beter geïnformeerde overheid die in staat is om slagvaardiger te opereren en beter voor haar burger te zorgen.
De metingen die nodig zijn om de cybernetische lus te sluiten, het proces te optimaliseren, zijn dezelfde metingen die onze privacy kunnen aantasten.
We hebben geen Orwelliaanse repressie nodig om het gevoel te krijgen dat onze privacy op het spel staat. Onbedoelde neveneffecten van valide pogingen tot informatiegaring kunnen al tot een inbreuk op privacy leiden35. De overheid moet hierin terughoudend en zelfkritisch optreden: haar pogingen tot informatiegaring of beïnvloeding mogen nooit de burger in een keurslijf vangen, het privédomein van de burger aantasten, of tot grote intransparantie en informatie-asymmetrie leiden. Participatie van burgers en andere belanghebbenden is hier van cruciaal belang.
6. Naar participatoir ontwerp van de digitale openbare ruimte
Systemen zijn niet belangrijker dan mensen. Digitalisering is geen doel op zich, maar zou het belang van de burger moeten dienen, en moeten bijdragen aan het oplossen van urgente maatschappelijke problemen die burgers raken. Te vaak wordt er pas ná het introduceren van een beleidsmaatregel nagedacht over de effecten op burgers. Centraal uitgangspunt in het ontwerp, de implementatie, het bestuur en de regelgeving van de digitale samenleving – de smart society en de smart city – moet zijn dat het mensgericht is. Het is van belang om de principes van mensgericht ontwerp (user-centred design) en waardegericht ontwerp (value-sensitive design) te hanteren. Dat betekent dat betrokken partijen niet enkel worden geïnformeerd over reeds in gang gezette ontwikkelingen, of als deelnemer in proeftuinen (living labs) mogen meedenken, maar dat ze actief en continu in het voortraject en tijdens de ontwikkeling, introductie en opschaling van innovaties worden betrokken. Hierbij moet in het voortraject ook expliciet een behoefte-analyse worden meegenomen, om niet enkel vanuit een tech-push- maar ook vanuit een user-pull-perspectief te werken. De vraag moet niet zijn: wat kunnen we allemaal met digitale technologie? De vraag moet zijn: waar hebben mensen concreet behoefte aan? Welk problemen gaan we oplossen? Welke mensen worden hierdoor geraakt? Is iedereen voldoende betrokken en kan iedereen meedoen? Is er ruimte voor maatwerk; voor persoonlijke aandacht en hulp?
Zijn er voldoende mogelijkheden tot het bijsturen, opschorten of zelfs afblazen van een innovatie als die onvoldoende blijkt te werken? Hierbij verdienen kwetsbare groepen extra aandacht – denk bijvoorbeeld aan laaggeletterden, allochtone minderheden, mensen met een beperking en ouderen die de digitale innovaties niet helemaal kunnen bijbenen. Zij zijn, in zekere zin, de ‘kanarie in de kolenmijn’.
Zij zijn extra gevoelig voor ongunstige omstandigheden en daarmee ook een belangrijke indicator voor de rest van de maatschappij.
In dit kader is het goed om de meerwaarde te benoemen van proeftuinen en experimenten om ethische dilemma’s invoelbaar en bespreekbaar te maken voor een breed publiek. In hun huidige incarnatie zijn living labs vooral van groot nut om technische innovaties in de praktijk te kunnen uitproberen.
? ?
Echter, wat tot nu toe onderbelicht is gebleven, is het invoelbaar maken van ethische dilemma’s die toenemende digitalisering van onze leefomgeving met zich meebrengt. Deze discussie lijkt momenteel vooral plaats te hebben via
speculatieve designs, culturele evenementen, kritische journalistiek, wetenschap en science fiction. Dit is buitengewoon waardevol voor het maatschappelijk debat, maar in deze vormen van discussie mist veelal nog aansluiting met de ‘gewone’
inwoners van de stad, inclusief de hierboven genoemde kwetsbare groepen.
Deze afstand kan ook leiden tot onrealistische verwachtingen, zowel in positieve als in negatieve zin, en beelden creëren die op gespannen voet staan met de ‘lived experience’ – de concrete, beleefde werkelijkheid van alledag. Burgers moeten in brede zin kennis kunnen maken met nieuwe technologie, in alledaagse situaties, en moeten actief betrokken worden in de dialoog rondom de dilemma’s van nieuwe technologie. Dit moet structureel worden verankerd in het ontwikkelingstraject en politieke besluitvorming rondom de introductie van nieuwe technologie in de leefomgeving. Hiernaast is het van groot belang om ook waarden en belangen die veelal geen expliciete stem hebben op een principiële manier mee te nemen in de belangenafweging.