4
14:10 8 non-discriminatie 14:35 14b privacy Publieke Waarden Centraal 12:07
13:55 11a autonomie
Samenvatting
In dit essay analyseren we het brede landschap aan principes voor de digitale samenleving dat zich in de afgelopen vijf jaar ontwikkeld heeft. We vinden ten eerste een onderscheid tussen principes die over ethiek, datakwaliteit en standaardisering gaan en constateren, ten tweede, dat de meeste vrijblijvend geformuleerd en vormgegeven zijn, in termen van mensenrechten waar niemand bezwaar tegen kan hebben. Een derde kenmerk van het landschap is dat de principes vrijwel nergens tot controleerbare en afdwingbare maatregelen leiden.
Desalniettemin onderscheiden ze zich van een uitsluitend economisch gericht discours over standaardisering dat we ook aantreffen en waarin geen plaats is voor burgers en andere maatschappelijke belanghebbenden. De verzameling principes heeft, tenslotte, vooral betrekking op het proces van digitalisering en nauwelijks op specifieke, regionaal of lokaal geformuleerde einddoelen.
We laten aan de hand van twee voorbeelden (burgermetingen van
geluidsoverlast rondom Schiphol en politiek protest tegen slimme lantaarnpalen op de Utrechtse Heuvelrug) zien dat de schijnbare harmonie waarin de ethische en kwaliteitsprincipes en de wens tot standaardisering circuleren, belangrijke maatschappelijke tegenstellingen verbloemt (bijvoorbeeld tussen bedrijfsleven, overheden en burgers) en de verantwoordelijke overheden geen duidelijk handvat geeft om een goede oplossing tussen strijdende partijen te bieden.
Dat komt deels omdat burgers en andere betrokken partijen vaak pas achteraf met digitale oplossingen worden geconfronteerd, wanneer er geen andere inbreng dan accepteren of protesteren mogelijk is. Uit de principes blijkt echter de noodzaak om digitale oplossingen vanaf het begin in gezamenlijkheid te ontwerpen. Daarom werken we als laatste onderdeel van dit essay het idee uit om overheden te vragen naast een ruimtelijke omgevingsvisie ook een digitale omgevingsvisie te gaan ontwikkelen.
Wat we doen
4
14:10 8 non-discriminatie 14:35 14b privacy Publieke Waarden Centraal 12:07
13:55 11a autonomie
1. Inleiding
Gemeenten, provincies, ministeries, waterschappen en diverse andere organisaties vragen zich dringend af wat de principes voor het gebruik van digitale en data-technologieën in de samenleving en de openbare ruimte zouden moeten zijn.
In toenemende mate concentreren die discussies zich op de automatische data verwerking en –analyses die met artificiële intelligentie mogelijk worden gemaakt.1 Ook kennisinstellingen en sociale ondernemingen hebben zich in dit debat gemengd. De gemeenten Amsterdam en Eindhoven formuleerden gezamenlijk waarden als inclusie, openheid, transparantie, privacy en data-eigendom; ze hebben veel weerklank gevonden2, onder andere in de bondige TADA-principes.3 Wie dieper in de materie duikt, stuit op talloze andere pogingen om datagebruik en artificiële intelligentie ethisch te gronden en van maat-schappelijke inbreng te voorzien. Zo hebben Universiteit Utrecht en de gemeente Utrecht samen een ‘ethical data assistant’ gelanceerd4, publiceerde het Rathenau Instituut suggesties tot het opwaarderen van publieke waarden in de digitale samenleving5, werkt GroenLinks aan een Handvest voor de Slimme Stad6, en schrijft de Vereniging Samenwerkende Nederlandse Universiteiten (VSNU) een vierdelige set van data-technische en maatschappelijke standaarden voor.7 Ook internationaal staan de digitale samenleving en verantwoord datagebruik hoog op de agenda van overheden. Met name de steden die zich als smart profileren, lopen voorop in de ontwikkeling van toolkits voor verantwoord datagebruik. Deze zijn vaak opgesteld door allianties van steden en regio’s, zoals de Cities Coalition for Digital Rights8 en, speciaal voor gemeentelijke overheden, de Sharing Cities Alliance9. De Britse nationale overheid laat zich leiden door zogenaamde GEMINI-principes die stellen dat datagebruik doelmatig, effectief en vertrouwenwekkend moet zijn10; voor de overheid van Dubai echter, is het belangrijkste principe om met data en digitale technologieën de burgers gelukkig te maken11, terwijl de stad Barcelona juist wil dat burgers geen last hebben van digitalisering12.
Er is duidelijk voor elk wat wils tussen de overdaad aan data-principes die er momenteel nationaal en internationaal in omloop zijn. Wat betekent dat voor de Nederlandse overheden die op zoek zijn naar richtlijnen? Moeten zij het wiel zelf uitvinden of bieden de bestaande principes behulpzame aanknopingspunten?
Hoe kunnen bestaande principes ruimte laten voor specifiek provinciaal, regionaal of stedelijk beleid en cultuur?
En bij wie ligt de verantwoordelijkheid voor de uitvoering en naleving van die principes? Dat zijn de vragen die we in dit essay zullen beantwoorden.
We gaan eerst nog even verder met de analyse van het bestaande landschap van principes om uit te vinden of er misschien algemeen gedeelde waarden in te vinden zijn. We zullen zien dat de principes vooral proceswaarden beschrijven, en dat de eindwaarden die met digitale en datatechnologieën bereikt zouden moeten worden, minder helder zijn. Dat Dubai zegt naar geluk van alle burgers te streven, is uitzonderlijk expliciet. Ook zullen we zien dat de principes weinig sturend zijn en zeker niet geoperationaliseerd worden naar specifieke praktijken of ambtelijke verantwoordelijkheden. We richten ons daarom vervolgens op de vraag hoe principes en richtlijnen tot een uitvoeringspraktijk kunnen leiden en welke governance daarbij hoort. We zullen uitkomen op de noodzaak voor de diverse overheden om, in analogie met de Omgevingswet, een digitale omgevingsvisie te ontwikkelen waarin verantwoord datagebruik een product wordt van de gezamenlijke belanghebbenden met hun specifieke wensen en doelen.
2. Een weids landschap aan principes
Om een beetje greep op alle vigerende principes te krijgen, moeten we eerst constateren dat ze van verschillende orde zijn: bij sommige gaat het om ethiek en maatschappelijke betekenis, bij andere vooral om betrouwbaarheid en kwaliteit van de datasystemen zelf, en weer andere zijn gericht op standaardisering.
Die verschillen hebben alles te maken met de groepen en organisaties die ze propageren, zoals we zullen zien. We bespreken voor elke categorie de exemplarische voorbeelden.13
2.1 Ethische principes
Principes die de ethische en maatschappelijke betekenis van datagebruik proberen vorm te geven, zijn geformuleerd uit frustratie dat burgers de controle over hun eigen data kwijt zijn geraakt, en geen inzicht hebben in de manier waarop overheden, bedrijven en internationale platforms hun data gebruiken. De TADA-principes werden bijvoorbeeld ontwikkeld met het argument dat steden met behulp van data schoner, veiliger, gezonder en leefbaarder kunnen worden, maar
“only as long as people maintain control over data, and not the other way around.”14
De Cities Coalition for Digital Rights, een gezamenlijk initiatief van Amsterdam, Barcelona en New York waar inmiddels zo’n 30 steden bij aangesloten zijn15, streeft naar “policies, tools and resources to promote and protect resident and visitor rights online.”16 En het Handvest voor de Slimme Stad van GroenLinks stelt dat
“burgers en politici weer greep moeten krijgen op de ontwikkeling van
technologie.”17 Ook de Sharing Cities Alliance legt de nadruk op politiek en overheid als actoren, die, net als burgers, de controle kwijt zijn geraakt en streeft daarom naar de empowerment van gemeentelijke overheden, in het bijzonder tegenover de multinationale platforms.18
De gedeelde observatie is dat burgers, hun vertegenwoordigers en hun overheden digitaal kwetsbaar zijn geworden en dat een set aan goed geformuleerde principes nodig is om die kwetsbaarheid te mitigeren en om te draaien. De aanvoerders van deze beweging zijn in eerste instantie progressieve gemeenten en hun besturen geweest, in het bijzonder Amsterdam en Barcelona. Die voorlopersrol is niet toevallig; zij beschikken over het benodigde electorale mandaat en een ambtelijk apparaat dat de principes kan uitvoeren. Barcelona heeft bijvoorbeeld per beleidsterrein geformuleerd hoe participatie, beleidsvorming, aanbesteding en vergunning volgens de stedelijke digitale principes uitgevoerd moeten worden.19 De geformuleerde principes laten echter een veel algemenere verzameling aan publieke waarden zien dan de oorsprong in progressief beleid suggereert.
De principes in het Handvest voor de Slimme Stad van GroenLinks bijvoorbeeld (democratie, verbondenheid, menselijke waardigheid, privacy, duurzaamheid en gelijkheid) zijn direct te verbinden aan de breed gedragen Duurzame
Ontwikkelings doelen van de Verenigde Naties. Ook de TADA-principes getuigen eerder van een algemeen mensenrechtendiscours dan van een scherpe
progressieve ideologie. Het Rathenau Instituut sprak in 2017 in dit verband al over
‘digitale mensenrechten’.20 Die relatieve neutraliteit van de zich aldus
ontwikkelende ethiek maakt het mogelijk dat een brede verzameling aan actoren zich eraan committeert: van overheidsinstanties en maatschappelijke groeperingen tot sociale ondernemingen en lokaal en nationaal bedrijfsleven. Ook staat die neutraliteit uiteenlopende, lokale keuzes toe: de gemeente Barcelona maakt het Uber onmogelijk in de stad te opereren21 en de gemeente Amsterdam gebruikt Google om de stedelijke luchtkwaliteit te meten22.
Die mobiliserende kracht wordt bovendien versterkt door de vorm van manifest of handvest waarin deze ethiek zich manifesteert: de ondertekening van dergelijke initiatieven is open en gratis voor zowel individuen als organisaties. Men sluit zich daarmee aan bij een gemeenschap van gelijkgestemden die met elkaar een ethische intentie formuleren die een gezamenlijke verantwoordelijkheid is en het directe eigenbelang overstijgt.
In de mobiliserende kracht van de relatief neutrale digitale ethiek die op deze manier allerwege vorm begint te krijgen, schuilt ook nogal wat vrijblijvendheid: wie spreekt elkaar aan op praktijken die de principes overschrijden? Mogen alle mogelijke partijen zich bij een manifest of handvest aansluiten? En wie bepaalt dat dan? Wat als er conflicten tussen ondertekenende partijen ontstaan? Daar waar een overheid zelf digitale principes heeft geformuleerd of overgenomen (bijvoorbeeld in de provincie Zuid-Holland)23 lijkt deze de voor de hand liggende hoeder van de digitale principes te zijn, ware het niet dat de operationalisatie van de principes in concrete activiteiten en maatregelen achterblijft bij het gesprek erover. Maar daar komen we later op terug.
2.2 Kwaliteitsprincipes
Een iets andere verzameling aan principes waarover een intensief, maar minder hoorbaar gesprek gaande is, gaat over de kwaliteit en betrouwbaarheid van data en de bijbehorende systemen. Immers, het ethisch gebruiken en toepassen van data in welke grote of kleine vorm dan ook, is onmogelijk als die data om te beginnen niet goed verzameld, geïndexeerd, bewaard, geschoond, geanalyseerd, gepresenteerd en toegepast worden. Het gaat hier in feite om de beginselen van de datatechniek en de correcte en betrouwbare uitvoering ervan.
In Nederland zijn het Centraal Bureau voor de Statistiek (CBS) en de kwantitatieve sociale en gedragswetenschappen van oudsher belangrijke actoren in het voorleven en handhaven van kwaliteitsprincipes die klassiek geformuleerd zijn in termen van betrouwbaarheid en validiteit. Met de data-explosie van de laatste decennia hebben zich ook andere spelers in dit veld gemengd, onder de hoede van de VSNU. Haar in 2018 gepubliceerde Onderzoeksagenda voor de Digitale Samenleving24 hanteert de onder datawetenschappers gangbare concepten van FAIR data, ROBUST-systemen en FACT-algoritmen, waarbij elke afkorting specifieke elementen behelst. In tegenstelling tot de ethische principes, gaat het
hier veel meer om toetsbare criteria die zelfs tot een kwaliteitscijfer voor de datapraktijk van uiteenlopende overheidsinstanties, organisaties en bedrijven kunnen leiden.
Het principe van FAIR data houdt in dat data Findable, Accessible, Interoperable en Re-usable moeten zijn. Deze vier criteria zijn geoperationiseerd in vijftien
specifieke voorschriften die onder meer betrekking hebben op de toewijzing van metadata en protocollen.25 FACT is een afkorting die Nederlandse
data-wetenschappers gebruiken in hun streven om algoritmen te ontwikkelen die nauwkeurig, transparent en zonder vooroordelen werken, met respect voor ieders privacy; het gaat er met andere woorden om dat ze Fair, Accurate, Confidential en Transparent zijn.26 ROBUST-systemen, tenslotte, vereisen een veilig en
betrouwbaar ontwerp dat inspectie van buiten mogelijk maakt, bestand is tegen systeemschade, en altijd een menselijk oog omvat: Resilient, Open, Beneficial, User-Oriented, Secure en Trustworthy. Steeds meer wetenschappers omarmen deze criteria en passen ze toe. Maar dat geldt veel minder voor de toegepaste domeinen van de overheid en het bedrijfsleven. Daar is het de vraag of deze criteria überhaupt bekend zijn, of ze als richtsnoer functioneren en of hun datapraktijken aan al die normen (kunnen) voldoen.
Een van de auteurs van dit essay publiceerde onlangs een gedetailleerde analyse van drie typen dataprojecten die populair zijn bij het gemeentelijke sociale domein:
data warehouses, dashboards en predictive analytics.27
Zij constateerde dat op het niveau van de data zelf de valideit en betrouwbaarheid niet gegarandeerd kan worden, dat daardoor de gebruikte voorspellende modellen noch eerlijk, noch nauwkeurig zijn en dat de mensen over wiens data het gaat, zelden geïnformeerd of betrokken worden. Haar conclusie luidt niet alleen dat gemeenten hiermee waarschijnlijk de nieuwe privacywet overtreden, maar ook dat het gebrek aan kwaliteit van de gegevens en de analytische modellen tot fouten en stigmatisering dreigen te leiden.28
De kwaliteitsprincipes van de goede datawetenschap zijn veel minder prominent in het debat over verantwoord datagebruik aanwezig dan de ethische principes, al komen de twee samen in de angst voor autonome algoritmen waarvan niemand begrijpt wat ze doen. Volgens de ethische principes moeten burger, overheid en politiek de controle daarop terugwinnen; volgens de kwaliteitsprincipes zouden ze om te beginnen niet autonoom moeten kunnen opereren en eveneens maximaal transparant moeten zijn. Het is echter duidelijk dat het voor gemeenten en andere overheden veel eenvoudiger is om de algemene ethiek van verantwoord
datagebruik te omarmen, dan om te zorgen dat de datasystemen robuust zijn, de algoritmen eerlijk en feitelijk, en de gegevens vindbaar en uitwisselbaar. Die drie kwaliteitsprincipes vereisen een serie organisatorische maatregelen en financiële impulsen die voor de meeste gemeenten in Nederland (en daarbuiten overigens ook) zeer hoog gegrepen zijn.29
2.3 Standaardisering
Een derde set aan principes waaraan diverse actoren werken, betreft standaard-isering van de data-infrastructuren. Het gaat er daarbij vooral om uitvoering te geven aan onderdelen van het FAIR-principe, namelijk interoperability en re-usability.
De uitwisseling van gegevens tussen overheden, hun diverse diensten en eventuele maatschappelijke gebruikers wordt momenteel zeer bemoeilijkt door de enorme variabiliteit in methodieken van verzameling, opslag en toegankelijkheid. Er zijn inmiddels dan ook talloze initiatieven tot standaardisatie ondernomen.
Het Europees onderzoeksproject Espresso inventariseerde in 2016 al 88 organisaties uit 23 verschillende landen die zich op de één of andere manier met standaardisatie van en in de smart city bezig hielden, en verzuchtte in zijn conclusies dat het onmogelijk is om overzicht te krijgen.30
In Nederland is NEN (Nederlandse Normalisatie Instituut), in algemene zin bezig met de ontwikkeling van standaarden, onlangs een gesprek begonnen met gemeenten, kennisinstellingen en bedrijven over standaarden voor de smart city, met als reden dat alleen met standaardisatie “allerlei partijen applicaties [kunnen]
ontwikkelen waarmee ze, verrijkt met data uit andere bronnen, betere en duurzamere diensten kunnen leveren.”31 De eerste aandacht richt zich op de standaardisering van open urban data platforms omdat daar, volgens NEN, grote kansen liggen voor inwoners en bedrijven in steden om met elkaar nieuwe oplossingen voor de stedelijke problemen te vinden.32 NEN koppelt de noodzaak tot standaardisatie van de infrastructuur dus direct aan de ethiek van openheid en gezamenlijkheid die we eerder in de diverse manifesten en handvesten zagen.
Die koppeling tussen ethiek en standaardisering is ook te vinden in de uitkomsten van het Espresso-project over standaardisering. De onderzoeksgroep vraagt zich onder meer af of belangrijke ethische vraagstukken, in het bijzonder die over privacy, wel met standaardisering kunnen worden opgelost.