van de (digitale) autonomie
Theo Veltman en Rob van Kranenburg
Voorwoord
Door Peter van Hoesel
In het kader van het project ‘Behoorlijk datagebruik in de openbare ruimte’ waren oorspronkelijk vijf essays gepland. Na de bijeenkomst van de begeleidingsgroep medio juli, waar van alle gevraagde essays een hoofdlijn voorlag, is geconstateerd dat er iets miste.
Kort gezegd: het vraagstuk van veiligheid en individu in de digitale wereld, nu en straks. Hoewel het oorspronkelijk niet de bedoeling was dat ‘trekkers’ van essays in de begeleidingscommissie zelf een artikel zouden schrijven, is in overleg met de opdrachtgevers van het ministerie van BZK anders besloten. Vlak voor de laatste vergadering van de begeleidingscommissie hebben Rob van Kranenburg en Theo Veltman een zesde essay ingezonden, dat door de commissie graag in ontvangst is genomen en beoordeeld.
De commissie vindt het een mooie bijdrage aan deze bundel essays, niet alleen vanwege de inhoud maar ook omdat je het kunt lezen als een hartenkreet vanuit het veld, of liever gezegd vanuit de frontlinie die wordt geconfronteerd met de altijd weerbarstige praktijk. Deze bijdrage is niet bedoeld als een wetenschappelijke analyse, het komt uit de praktijk. Dit essay vormt juist daarom een mooie aanvulling op de vijf andere essays, die stuk voor stuk wel zijn geschreven als wetenschappelijke analyses, met daarbij overigens ook de nodige aanknopingspunten voor de praktijk.
Theo en Rob kennen elkaar uit de innovatiewereld in en rond Amsterdam. Zij delen een gedrevenheid als het gaat om de borging van de vrijheid van het individu om zich in digitaal opzicht ongemonitord en onbeïnvloed te kunnen bewegen in gebouwen en in de openbare ruimte. Tegelijkertijd vinden zij dat iedereen ook zoveel mogelijk de voordelen van digitale technologie moet kunnen benutten. Dat vraagt om een balans tussen veiligheid aan de ene kant en gemak, nut/plezier aan de andere kant. Daar gaat hun artikel over.
Rob en Theo hebben beiden een ruime achtergrond en ervaring als het gaat om mens, technologie en organisatie. Beiden hebben voldoende fouten (of bijna fouten) gemaakt in hun werk om veel geleerd te hebben. Zij kennen verschillende aspecten van digitalisering, vanuit verschillende rollen. Hun kennis, ervaring en inzichten vullen elkaar aan.
Peter van Hoesel
Emeritus hoogleraar bestuurskunde Erasmus Universiteit Rotterdam Voorzitter begeleidingscommissie
Samenvatting
Er is de laatste tijd veel geschreven over de risico’s in de digitale wereld. Het is nu en dan wat zoeken naar de samenhang en concrete, grijpbare aanbevelingen.
In dit essay bevelen wij drie maatregelen aan. Vooraf gaat een samenvattende context voor die maatregelen vanuit het perspectief: data - digitaal platform - voorkeuren van mensen en maatschappelijke ontwikkelingen.
Kernvraag in dit essay is hoe en waarmee het behoud van de (digitale) autonomieI geborgd kan worden in een wereld waar data, en daarmee kennis, geld en macht, steeds meer geconcentreerd raken. Er worden steeds meer persoonsgebonden dataII verzameld op internet en in de openbare ruimte.
Daardoor kunnen velen tot in detail gekend zijn en ongemerkt beïnvloed worden in voorkeuren en keuzen. Terwijl de bescherming van persoonsgebonden data een grondrecht is, in Nederland (grondwet, artikel 10, lid 1) en in de EU.
De kernvraag naar het behoud van (digitale) autonomie kent geen eenvoudig antwoord. Met het Rathenau Instituut menen de auteurs dat er een verandering nodig is van mindset, op weg naar een wereld waarin waarden steeds meer centraal staan. Dat vergt een lange adem. De tijd dringt omdat de risico’s snel toenemen. Er moet ‘nu’ gehandeld worden om gebruik te kunnen blijven maken van de voordelen zonder de autonomie van individuen in gevaar te brengen.
Het is zaak om, nu het nog kan, de monopoliepositie van de grote organisaties, de platforms, te begrenzen en de positie van het individu te versterken. Daar is veel voor nodig, ook internationaal. In dit artikel bevelen de auteurs drie maatregelen aan voor het versterken van de regie van het individu over haar persoonsgebonden data en voor het voorkomen en tegengaan van het
‘onbehoorlijk datagebruik’ door organisaties die data verzamelen in de openbare ruimte van de stad, te weten:
1. Realiseer een nationale, onafhankelijke en open digitale
vertrouwensinfrastructuur voor identificatie, authenticatie en autorisatie van persoonlijke data inclusief de bijbehorende governance op basis van de bestaande bouwstenen zoals Tippiq en Irma. Gebruik de whitepaper (Dunnen c.s.; 2019) als vertrekpunt.
2. Onderzoek het nut van en de mogelijkheden voor de realisatie van een hardware embedded voorziening, een ‘datakill-switch’ in slimme apparaten zoals sensoren, waarmee het verzamelen van persoonsgebonden data standaard op ‘uit’ staat. Standaard kan dan alleen data verzameld worden, waarvan democratisch besloten is dat deze anoniem zijn en nodig voor de borging van de openbare orde en de veiligheid en voor het beheer van de openbare ruimte van de stad.
3. Onderzoek het nut van en de mogelijkheden voor de realisatie van een landelijk ‘datasafety-keurmerk’ door een democratisch geborgd onafhankelijk instituut, op basis van een wettelijke grondslag voor het voorkomen en zo nodig aanpakken van datadiefstal en –misbruik, in aanvulling op de privacywetgeving AVG (Algemene Verordening Gegevensbescherming).
1. Data, eeuwenoude bron van kennis, macht en geld
Liza Minelli c.s. illustreren het belang van geld, welk gemak en welke invloed het biedt, in hun onnavolgbare vertolking van het lied Money makes the worlds go round uit 19721. Die situatie is nog niet veranderd. De financiële crisis die zovelen enkele jaren terug trof, werd onder meer veroorzaakt door hebzucht. Zie bijvoorbeeld de documentaires The inside job (2011), Enron: the smartest guys in the room (2005) en Capitalism: A Love Story (2009) van Michael Moore. De honger naar geld en macht creëert hypes, van tulpen en vastgoed tot digitale geesteskinderen. De hypes worden gevoed door kennis over wat er gaande is bij enkelen en door indrukken bij velen dat men er snel bij moet zijn. ‘Kennis is macht’.
Data bieden een belangrijke mogelijkheid om kennis, en daarmee macht en geld te verwerven. Met data kun je individuen en groepen manipuleren. Het is maar welke data je verzamelt en gebruikt, op basis van welke criteria je dat doet; hoe je die data analyseert, op basis van welke veronderstellingen, regels en criteria, en hoe je de resultaten interpreteert. En ook belangrijk is: hoe vaak en via welke kanalen je de data presenteert. Als je data selectief gebruikt en de boodschap genoeg herhaalt, ontstaan er verhalen en suggesties die grote invloed kunnen hebben op voorkeuren en keuzemogelijkheden van mensen en organisaties2. Dankzij de sociale media is het makkelijker dan ooit om dat op grote schaal te doen. Om de informatie en berichten goed te kunnen waarderen is dus kennis nodig over welke data gebruikt zijn, uit welke bronnen, wie die bronnen heeft aangelegd en op basis van welke criteria de analyse is gedaan3.
De aandacht voor data is geen hype. Dat de toegang tot correcte data van groot belang is, ook voor de eigen (economische) ontwikkeling, is al eeuwen het geval.
De rol en het gebruik van data veranderen wel. Zo wil men tegenwoordig zo dicht mogelijk bij digitale knooppunten zitten. Hierdoor kan men milliseconden eerder inzicht hebben in de data om op basis daarvan te handelen op financiële markten.
Er zijn en worden door een kleine groep miljoenen mee verdiend. Samengevat:
• Data = de bron van alle wijsheid én de bron van alle bedrog
• Data = de basis van verdienmodellen
1.1 Data, ook een bron van bedrog bij een beperkte bescherming door wet en overheid
Data worden al lang gebruikt om geld te verdienen en macht te creëren. Nieuw is dat er anno 2019 veel meer data zijn en dat er met data veel meer gedaan kan worden, terwijl de analysesoftware steeds minder eisen stelt aan de data.
De ontwikkeling van internet, de smartphone, steeds meer digitale diensten (o.a.
apps) en de hypes rond big data en Artificial intelligence (AI) hebben gezamenlijk geleid tot een onoverzichtelijk geheel van informatie met een vaak onduidelijke kwaliteit.
Antivaccinatiepropaganda (op Facebook) toonde aan vrouwelijke gebruikers boven de 25 van wie – dankzij het aflezen van hun surfgedrag – bekend was dat ze nadachten over zwangerschap. Deze gerichte advertenties, die miljoenen keren zijn bekeken, waren ingekocht door activisten die inenting van kinderen tegen mazelen willen ontmoedigen.
Zuckerbergs platform was ze graag tot dienst, net zoals het bereid was vanuit Rusland verspreid nepnieuws te laten circuleren tijdens de Amerikaanse verkiezingen.
Uit: Thomas, Casper; (2019)4
Data kunnen gebruikt worden om het nieuws, de handel, een persoon en naasten of organisatie te manipuleren5. Beïnvloeding, misleiding en fraude komen veel vaker voor dan menigeen denkt6.
Mensen en organisaties worden bedreigd en beschadigd met deepfakes7. Er zijn nep-datingsites, die eenzaamheid omzetten in klinkende munt8. Er wordt bewust fake news verspreid om mensen te beïnvloeden, voor economisch, maatschappelijk en/of politiek9 gewin. Op de sociale media zijn nauwelijks van echt te
onderscheiden 'digitale personen’ actief, aangestuurd door een bedrijf10.
Soms hebben zij miljoenen volgers, en daardoor een grote impact. Hackers, al dan niet crimineel, spelen een heel eigen rol met de voortdurende aanvallen of bedreiging via bijvoorbeeld ransomware en bots11. Dat houdt niet op12. Men gebruikt alle middelen, soms ook die van u: “IoTroop is a powerful Internet of Things (IoT) botnet comprised primarily of compromised home routers, TVs, DVRs, and IP cameras” (Check Point Research, 2019).
Er wordt een digitale oorlog gevoerd, niet met kogels en bommen maar met gemanipuleerde data13. Niet alleen tussen staten is er oorlog. In zekere zin is er ook een digitale oorlog gaande tussen digitale platforms en ‘de consument’; tussen grootkapitaal, het midden- en kleinbedrijf en het individu. Allen strijden ze in meer of mindere mate om hun (digitale) autonomieIII en positie, ruimte voor
ontwikkeling en bewegingsvrijheid. Wapens zijn: desinformatie, desintegratie en despotisme. De Raad voor Openbaar Bestuur (ROB) onderkent deze wapens (de
‘digitale beproevingen’) en biedt enkele borgingsmogelijkheden (zie tabel) 14.
Drie digitale beproevingen
1. Desinformatie: een vrees is dat door digitalisering desinformatie sneller vervaardigd en (gericht) verspreid kan worden. Denk aan nepnieuws, complottheorieën en propaganda.
2. Desintegratie: een risico is dat door digitalisering parallele werelden ontstaan die niet meer met elkaar kunnen worden verbonden, bijvoorbeeld door filterbubbels, echokamers en ‘digitale schandpalen’.
3. Despotisme: een gevaar is dat burgers door digitalisering makkelijker beïnvloed kunnen worden zonder dat dat zij dit door hebben, zoals bij heimelijke micro targeting door bedrijven of (buitenlandse) politici.
Borgen van waarheidsvinding
1. Vergroot het vertrouwen in instituties voor waarheidsvinding door zelf het goede voorbeeld te geven.
2. Maak burgers weerbaar tegen desinformatie door kritisch burgerschap te stimuleren.
3. Voorkom desintegratie door met anderen te bouwen aan platforms voor democratische gedachtewisseling.
4. Bestrijd despotisme door tegenmachten te organiseren. Doorbreek waarheidsschroom door het gesprek over waarheid te blijven voeren.
De ROB geeft in haar rapportage ‘Zoeken naar waarheid’ een inspirerende filosofische verkenning naar wat waarheid is of kan zijn en wat dat betekent voor waarheidsvinding. Er zijn vele waarheden, afhankelijk van de bril waarmee het individu naar de wereld kijkt. Juist daarom moet het individu diverse meningen kunnen zien en de onderliggende data kunnen beoordelen op aspecten als juistheid, volledigheid en tijdigheid. Op zijn minst moet bekend zijn hoe de data zijn verwerkt (bijvoorbeeld welk algoritme gebruikt is), wanneer die zijn verzameld, waarvoor en door wie. Het is jammer dat de ROB deze basisvoorwaarde om informatie, meningen en kennis te kunnen beoordelen niet expliciet heeft genoemd bij de borgingsmogelijkheden van waarheid.