“De enorme hoeveelheden data die er beschikbaar zijn, stellen daarnaast ook alle mensen voor grote opgaven. Wat voor impact hebben die data op onze levens? Doordat computersystemen steeds verder geautomati- seerd raken, worden steeds meer keuzes voor ons bepaald door systemen in plaats van door onszelf. Voor ons als mensen is de vraag hoeveel keuzes je uit handen wil geven: hoeveel vrijheid wil je behouden? Kun je de gezondheidsapp op je smartphone echt vertrouwen of kun je beter naar het spreekuur van je huisarts gaan?”
“Hoe controleren we wie welke data verzamelt, en of ieder zich wel aan de regels houdt? Door de onthullingen rondom de NSA is een topje van de ijsberg zichtbaar geworden. Er circuleren gigantische hoeveelheden gegevens op internet waar verschillende partijen gebruik van maken, voor allerlei doeleinden, zonder dat de eigenaar van de gegevens hiervan op de hoogte is.”
Het Rathenau Instituut heeft verschillende perspectieven voor de wetenschap verzameld in aanloop naar de conferentie ‘Wetenschap en maatschappij in gesprek’ op 18 juni.
Tom van de Wetering is medebestuurder van SETUP, een gezelschap van jonge, creatieve technologiemakers en -denkers die de discussie over innovatie wil bevorderen.
Maatschappelijk klimaat
Deelnemers worden geraakt door de transformatieve kracht van nieuwe technologieën op de samenleving. De ongekende snelheid waarmee nieuwe techno- logieën hun intrede doen maakt mensen onzeker, want innovaties zijn onvoorspelbaar en veranderen de spelregels in tal van praktijken ‘van sport, van ambachten, kunst, sociale contacten, wetenschap’. De ingrijpende impact van innovaties roept fundamentele vragen op over de menselijke auto- nomie en over de inrichting van onze samenleving: ‘Hoe invasief mag ICT worden (bijv. gedachtelezen)?’ en ‘Hoe kunnen we democratische controle van te complexe systemen borgen?’. Deelnemers uiten ook zorgen over de sociale cohesie in de samenleving: de omgang tussen mensen verandert door ICT. In de gesprekken herkennen we een bekende paradox rondom de sturing van ICT en innovaties. Gezien de grote impact van nieuwe technologie vinden veel deelnemers dat al in een vroege fase moet worden nagedacht over ethische vragen. Tegelijk leeft het gevoel dat ICT-ontwikkeling maar in beperkte mate te sturen is. Wetgeving loopt vaak achter de feiten aan, bijvoorbeeld als het gaat over quantum computing. Waar er weinig vertrouwen is in de bestuurlijke mogelijkheden om ICT-innovatie te sturen, zoekt men een oplossing in het onderwijs. Vroegtijdig bewust maken, en in onderwijs aandacht besteden aan ICT kan bijdragen aan een verantwoorde adoptie in de samenleving.
Naast deze fundamentele issues stellen deelnemers dat de randvoorwaarden voor de disseminatie van nieuwe technologieën in Nederland onvoldoende aanwezig zijn. Het benutten van ICT en andere innovaties vraagt om een structureel aanpassings- vermogen, wat in zowel onderwijs als beleid onvoldoende zou zijn. Verder wijst men op het belang van goede verbindingen tussen organisaties om gezamenlijk te innoveren. Op het niveau van gemeenten bestaan bijvoorbeeld succesvolle experimenten en proeftuinen, maar de opschaling hiervan strandt door gebrekkige communicatie. In de gesprekken komen ook de ongekende mogelijk- heden van nieuwe technologie en ICT naar voren. Deelnemers denken bijvoorbeeld aan de vergroting van de capaciteit van het menselijk brein door
geheugen expansie of aan een grotere sociale cohesie in de samenleving dankzij nieuwe communicatie- middelen.
Inhoudelijke suggesties
Voor de deelnemers is het belangrijkste vraagstuk binnen dit thema hoe ICT op een verantwoorde manier kan worden opgenomen in de samenleving: “Hoe houden we ICT in een maatschappelijk gareel?” (reactie op cluster T2). Men vraagt om ethisch en juridisch onderzoek naar privacy. De indringende impact van innovatie roept om herziening van de “rechten van de mens met betrekking tot privacy en informatie deling”. Wat is een verantwoorde balans tussen privacy en de vrije beschikbaarheid van gegevens? Hoeveel controle kunnen individuele burgers houden over de circulatie van hun gegevens? Naast deze kwestie agenderen de deelnemers nog vier andere suggesties over innovatie en ICT:
1. Doe onderzoek naar de gevolgen van ICT op onze mentale gesteldheid: onderzoek het risico op mentale uitputting door een overvloed aan technologie (bij cluster N36).
2. Filosofisch onderzoek naar de implicaties van bio-electronica en biomaterialen: “waar ligt de grens van het ‘ik’ zijn, en wanneer ben je dan nog jezelf?” (bij cluster N9)
3. Schets een toekomstbeeld voor de samenleving: wat kunnen we verwachten van innovatie op de middellange termijn? (bij cluster N36)
4. Wat is het juiste moment voor een ethische discussie over nieuwe technologie?
Op welk moment in de ontwikkeling van een techno- logie kun je een zinvol gesprek voeren, voordat het te laat is? (bij cluster N36)
Adviezen voor het onderzoeksproces
• Werk samen tussen disciplines, inclusief ethiek.Multidisciplinaire samenwerking wordt gezien als een sleutel voor nieuwe innovaties. Bovendien moet al in een vroeg stadium de ethische discussie worden gevoerd en worden verbonden met de techni sche ontwikkeling. Het voorbeeld van taxi centrale Uber wordt genoemd als casus waarbij ‘we’ reactief handelen.
32
Rathenau InstituutDe nieuwe technologie overvalt ons, omdat de mogelijkheden ervan van te voren te weinig overdacht en besproken zijn.
• Verbind de wetenschap met het onderwijs. De wetenschap kan helpen om kinderen al op vroege leeftijd bewust te maken van de invloed van ICT op hun leven en hun persoonlijke ontwikkeling. Zo worden jonge mensen voldoende weerbaar en kritisch. Dit kan bijvoorbeeld door een schoolvak te doceren over omgaan met informatie.