in alledaagse situaties, en moeten actief betrokken worden in de dialoog rondom de dilemma’s van nieuwe technologie
Denk hierbij aan de belangen van toekomstige (ook nu nog ongeboren) generaties, van bredere en complexe systemen (zoals het klimaat of de leefomgeving), van onvoorziene en ongewenste effecten over tijd, of van effecten die optreden wanneer een technologie opschaalt, of voor andere doelen wordt ingezet dan oorspronkelijk de gedachte was. Hiervoor is een breder ethisch toetsingskader nodig, bijvoorbeeld gestoeld op deugdenethiek.
Waar mensgericht ontwerp geschikt is om belangen van mondige en actieve stakeholders mee te nemen, is een meer principieel ethische overweging nodig om een bredere afweging te kunnen maken, en ook collectieve waarden te verankeren in het innovatieproces die nu nog geen duidelijke stem hebben.
7. Digitale geletterdheid, mondige burgers en een eerlijke overheid
De overheid heeft de verantwoordelijkheid om de mogelijkheden van digitalisering zo goed mogelijk te benutten ten behoeve van haar burgers, maar ook om de maatschappij te beschermen tegen uitwassen en onbedoelde effecten van digitalisering. Het belang van digitale geletterdheid is hierbij groot.
Digitaal geletterde burgers zijn in staat om effectief en efficiënt gebruik te maken van digitale technologie, met alle potentiële voordelen die dit biedt in scholing en werk, ondernemerschap en politieke en maatschappelijke participatie. Een digitaal geletterde burger die gebruik kan maken van participatoire digitale netwerken en platformen, die meewerkt aan ‘citizen science’-projecten, en de digitalisering van zijn leefomgeving zelf mede vorm kan geven, is een waardevolle partner voor de overheid. Een digitaal geletterde burger is ook digitaal weerbaar; beter in staat om hacking en phishing te herkennen, om identiteitsdiefstal te voorkomen en om nepnieuws van echt nieuws te kunnen onderscheiden. Maar bovendien is een digitaal geletterde burger ook een kritische burger, die beter in staat is om overheid of marktpartijen kritisch te volgen en te bevragen wanneer zaken als persoonlijke privacy of autonomie onder druk komen te staan.
In het onderwijs wordt al enige tijd fors ingezet op digitale geletterdheid, maar slechts nog binnen een beperkt spectrum aan onderwerpen, gericht op het gebruik en de risico’s van sociale media, mobiele telefonie en cyberpesten. Het is wenselijk om deze inzet zowel kwantitatief als kwalitatief uit te breiden, ook richting cyber-physical-systemen (IoT), persoonlijke tracking (sensoren, smartwatches, etc.), surveillance-technologie (bijv. biometrie, face-reading) en de mechanismes en risico’s van digitale hypernudging en microtargetting (pointcasting, personalisatie), zowel online en mobiel, maar ook in digitale games en in de fysieke wereld.
Hierbij moet bewustwording gecreëerd worden van zowel de rol als de
verantwoordelijkheid van de overheid in een digitale maatschappij, maar ook van de actieve rol die de burger zelf kan en moet spelen. In een dergelijke bewust-wording moet ook een kritische blik worden geworpen op de rol, de strategieën en de belangen van grote internationale bedrijven die van de handel in persoonlijke data en de strijd om de aandacht van de gebruiker hun businessmodel hebben gemaakt. Om een dergelijk programma vorm te kunnen geven is het van belang om een coherent curriculum te ontwikkelen, gericht op diverse niveaus van educatie en geletterdheid. Ook hier is sociale inclusiviteit en diversiteit – zoals eerder benoemd – van groot belang. Tevens ligt een koppeling met een breder cybersecurity-initiatief voor de hand. Zonder digitale hygiëne in zowel privé-, zakelijk- als overheidsdomein blijft cybersecurity immers dweilen met de kraan open.
Er is hierbij behoefte aan een coördinerende partij - mogelijkerwijs vanuit een combinatie van departementen met verschillende aandachtsgebieden - die het initiatief neemt en de curriculum-ontwikkeling coördineert en mede vormgeeft, maar dit oppakt in samenwerking met het maatschappelijk middenveld. De kennis en kunde die bestaat bij digitale ondernemers, adviesorganen en burgerinitiatieven is buitengewoon waardevol en moet worden gemobiliseerd. Hierbij verdient ook het ‘right to challenge’ vermelding – de overheid die in het regeerakkoord in 2017 heeft afgesproken dat het zal zoeken naar de mogelijkheid om “via een Right to Challenge-regeling burgers en lokale verenigingen de mogelijkheid te geven om een alternatief voorstel in te dienen voor de uitvoering van collectieve
voorzieningen in hun directe omgeving”36. Dit bevordert de democratische inspraak.
Er wordt veel gesproken en geschreven over transparantie. Transparantie in beslisprocessen van de overheid, en transparantie in AI-algoritmen, om zo het zo voor burgers inzichtelijk te maken op basis waarvan bepaalde beslissingen worden genomen. Nog belangrijker wellicht, maar vaak onbenoemd omdat het zo vanzelfsprekend lijkt, is eerlijkheid. Transparantie is geen gedragsnorm, maar een procesvoorwaarde om controle mogelijk te maken. Eerlijkheid is een morele waarde, een deugd, die bovenin het vaandel van de overheid moet wapperen.
Zoals we gezien hebben in het voorgaande leidt transparantie niet automatisch tot eerlijkheid – denk aan het voorbeeld van de honderden pagina’s aan kleine
lettertjes in service-contracten waarmee gebruikers van online services worden geconfronteerd. Dit is een overvloed aan informatie, maar geen transparantie.
Hetzelfde geldt voor het rücksichtlos op straat gooien van vertrouwelijke informatie - denk bijvoorbeeld aan gevoelige onderhandelingen tussen meerdere partijen die tot een compromis moeten komen. Volledige transparantie zorgt hierbij voor een tekort aan privacy bij de onderhandelende partijen, waardoor het gedrag voor de bühne wordt aangepast, en de kans op polarisatie groter wordt – zeker wanneer we de echokamer-effecten van sociale media meenemen. Alleen de meest gelouterde bestuurders en politici zijn ongevoelig voor dat effect. Dit is geen pleidooi voor achterkamertjespolitiek, maar voor vertrouwen. Aan de basis van transparantie staat (een wellicht terecht) wantrouwen. Eerlijkheid, wanneer fundamenteel gerespecteerd en consequent tot in de haarvaten van de organisatie in de praktijk gebracht, brengt vertrouwen met zich mee.
? ?
Behoorlijk datagebruik in de openbare ruimte | 55
8. Conclusies en aanbevelingen
Digitalisering heeft een ongekende impact op onze wereld. De snelle technologische vooruitgang in onze digitale maatschappij gaat ook aan de overheid niet voorbij. Big data wordt op diverse plaatsen ingezet om efficiëntie te vergroten, bijvoorbeeld bij het onderhoud van de stad, of het doelmatig inzetten van politie. Ook kan men door technologie de stad duurzamer en leefbaarder maken – denk aan energiebesparende lantaarnpalen die alleen aangaan als er iemand langkomt, of aan sensoren die geluidsoverlast in een omgeving
automatisch detecteren. Tegelijk worstelt de overheid ook met de snelheid en de schaal waarmee de digitale transformatie zich voltrekt. Een groot deel van de huidige infrastructuur – gebouwen, wegen, energiesystemen en openbaar vervoer – moet de digitale transformatie nog doorlopen. Een aantal pionierende steden experimenteren met smartcity-proefprojecten en living labs, om een gevoel te krijgen voor de potentiële meerwaarde van digitale technologie in de publieke ruimte, maar ook om in te kunnen schatten waar knelpunten zitten, en waar wet- en regelgeving en ethische kaders nodig zijn om alle innovaties in goede banen te leiden.
Met de transitie naar een intelligente digitale publieke infrastructuur dienen zich ook nieuwe mogelijkheden aan om het gedrag van burgers te beïnvloeden teneinde positieve maatschappelijke doeleinden te bewerkstelligen.
Om bijvoorbeeld agressieve incidenten te voorkomen, asociaal rijgedrag tegen te gaan, of gezond bewegen te bevorderen. Juist op die gebieden waar de overheid actief preventiebeleid voert – veiligheid, gezondheid, sociaal gedrag, milieu – kan de combinatie van digitale technologie met kennis van de menselijke psychologie een positief resultaat opleveren. Maar deze combinatie roept ook direct lastige vragen op. Hoe kan de overheid de privélevenssfeer van burgers beschermen, maar tevens toezicht houden op veiligheid en recht, op sociaal en gezond gedrag, op het beschermen van de leefomgeving? Hoe, en in hoeverre, mag de overheid sturen op gewenst gedrag van haar burgers, gebruik makend van publieke datastromen, kunstmatige intelligentie en digitale beïnvloedingstechnieken? En hoe dient de overheid zichzelf te reguleren wanneer het geconfronteerd wordt met de verleidingen van macht en controle die digitalisering met zich mee brengt?
Er zijn op dit punt geen eenvoudige oplossingen aan te dragen. De complexiteit van de maatschappelijke en ethische uitdagingen is daarvoor te groot. Het gladde ijs tussen nudging en überveillance is gelegen in de verleiding om als overheid te veel zaken in één hand te willen nemen, en hierbij de grenzen van het publieke en het privédomein te overschrijden. Er is niet ‘one algorithm to rule them all’, geen singuliere doelfunctie die alle verschillende belangen op een juiste manier kan meewegen. En zelfs als deze er wel zou zijn, dan blijft, ondanks alle digitale middelen die ons ter beschikking staan, onze kennis, en daarmee onze mogelijkheid om gedrag juist te voorspellen en te beïnvloeden, onvolmaakt.
De wijsheid van onze beslissingen kennen we vaak slechts achteraf, en ons track record als maatschappij tot nu toe (denk aan de ecologische crisis,
migratieproblematiek, het groeiende verschil tussen rijk en arm, cyberterrorisme, de polarisatie in politiek en maatschappij) noopt ons tot bescheidenheid.
? ?
Behoorlijk datagebruik in de openbare ruimte | 56
Met al het voorgaande in het achterhoofd, wil ik dit essay besluiten met een aantal aanbevelingen voor beleid.
1. Wanneer de overheid gebruik wil maken van technologie ten behoeve van gedragsverandering in het publieke domein, dan dient dit transparant te gebeuren, op basis van democratische besluitvorming, ethische toetsing en wetenschappelijke evidentie, en met expliciete betrokkenheid en instemming van partijen die deze technologie direct of indirect zal gaan raken. De overheid dient hierbij te allen tijde proactief, open, begrijpelijk en eerlijk te communiceren over digitalisering in het publiek domein, of plannen daartoe, op alle niveaus – van landelijk en provinciaal tot gemeentelijk en wijkniveau.
2. Betrek vroegtijdig en continu alle partijen die, direct of indirect, in aanraking komen met digitale gedragsbeïnvloeding in de openbare ruimte, door middel van een proces van participatoir ontwerp. Neem extra moeite om ook de meest kwetsbare groepen uit de maatschappij een actieve stem te geven in dit proces.
Neem ook ethische waarden mee in het ontwerp. De overheid heeft de primaire verantwoordelijkheid om dit proces te organiseren, samen met haar
maatschappelijke partners.
3. De overheid moet haar eigen digitale competenties vergroten en dient zich hierbij gedegen op de hoogte te stellen van de mogelijkheden en beperkingen van de meest recente vormen van digitale technologie. Een technologisch naïeve overheid is een makkelijke prooi voor kwaadwillende partijen, een slechte partner voor de industrie en een tekortschietende hoeder van het publiek belang.
4. Data-eigendom en privacy van burgers in de publieke ruimte dienen te worden gerespecteerd en beschermd. De overheid dient geen gebruik te maken van onbewezen, onveilige of te weinig robuuste technologie. Onbedoeld, onvoorzien of illegaal gebruik van de technologie en de data moet in kaart worden gebracht en gereguleerd.
5. De overheid moet een constructief-kritisch maatschappelijk (tegen)geluid organiseren. Hierbij moet fors geïnvesteerd worden in de digitale geletterdheid van burgers, met daarbij meer aandacht voor de nieuwste technologische ontwikkelingen en hoe deze de fundamentele ethische waarden binnen onze digitale maatschappij raken. De versterking van technologisch burgerschap kan vele vormen aannemen, bijvoorbeeld debatten, cursussen,
livinglab-demonstraties, kritische culturele projecten of speculatieve designs.
6. De overheid moet voldoende en onafhankelijke kritische controle en toezicht organiseren en verankeren in de wet. Hierbij moeten we denken aan continu aanzwengelen en organiseren van het waarden-debat, bespreking van relevante ethische en juridische casuïstiek, en toetsing van governance, juridische en ethische kaders via volksvertegenwoordiging op alle niveaus (gemeentelijke en provinciale raden, Eerste en Tweede kamer). Daarnaast is het van belang het maatschappelijk middenveld en relevante adviesorganen continu te betrekken en de rol en positie van toezichthouders te versterken. Hierbij moet ook onderlinge afstemming over handhavingsdomeinen heen worden georganiseerd.
Samenvattend is het belangrijkste advies dat we de veelvormigheid in onze maatschappij moeten mobiliseren, omarmen en betrekken. Niet vanuit een noodzakelijke democratische concessie naar de burger, maar omdat dit uiteindelijk tot een bredere en meer gevarieerde culturele en intellectuele basis van collectieve besluitvorming leidt. Zoals de socioloog Dirk Helbing en collega’s overtuigend hebben beargumenteerd ligt er een grote kracht in collectieve intelligentie bij het besturen van onze huidige complexe digitale maatschappij. Dit vereist het organiseren van inspraak en participatie, het waarderen van variatie boven een - vormigheid, en het stimuleren van onafhankelijke informatiegaring en lokale beslissingsbevoegdheden. Socio-diversiteit is net zo belangrijk als biodiversiteit, schrijft Helbing37.