Algoritmen als experimentele technologie

Data en algoritmen zijn zich ontwikkelende technologieën; ze zijn nog niet uitontwikkeld en volledig ingebed in de samenleving (Brey, 2017).

Nieuwe technologieën raken in een geleidelijk proces van co-evolutie ingebed in de samenleving. In de loop der tijd, naarmate een technologie zich ontwikkelt, wordt geïmplementeerd een aangepast, evolueert ook de samenleving. Op een bepaald moment vertraagt dit proces en worden de volledige impact en gevolgen van een technologie zichtbaar.

Dit betekent dat beleidsmakers, ontwikkelaars en de samenleving voor een fundamentele uitdaging staan: hoe zorgen we ervoor dat het evenwicht tussen gewenste en ongewenste uitkomsten naar de goede kant doorslaat voordat zaken onherroepelijk worden (Rip & Schot, 2002; van de Poel, 2016) In de vroege stadia van een opkomende technologie, wanneer de technologie en de maatschappelijke inbedding nog ’kneedbaar’ zijn, is er nog maar weinig kennis over de eventuele effecten en hoe deze zich zullen manifesteren.

In latere stadia worden de maatschappelijke effecten misschien wel duidelijk maar is de technologie vaak zo verankerd in de samenleving, dat negatieve effecten niet meer kunnen worden verholpen. Het fundamentele onvermogen van de

samenleving om technologie effectief te beheersen en te sturen werd door David Collingridge (Collingridge, 1982) het ‘beheersbaarheidsdilemma’ (control dilemma) genoemd.

3.1 Uitdagingen bij het beheersen van algoritmische technologieën in de samenleving

Data en algoritmetechnologieën zijn om vier redenen bijzonder gevoelig voor het beheersbaarheidsdilemma:

1. De technologische ontwikkeling van data en algoritmen verloopt bijzonder snel.

2. De ontwikkelings- en toepassingscyclus van data- en algoritmesystemen wordt steeds korter. Teams kunnen binnen enkele dagen of uren nieuwe functionaliteit leveren in plaats binnen van weken of maanden.

3. Zelfs kleine veranderingen in data en algoritmen (bijvoorbeeld keuze van de machinelearning-benadering) kunnen grote gevolgen hebben voor de prestaties en functionaliteit en het gedrag van zulke systemen.

4. De impact en effecten van data en algoritmen zijn ingrijpend en moeilijk te voorspellen.

Data en algoritmen zijn kneedbare technologieën die gemakkelijk kunnen worden veranderd of aangepast. De toenemende beschikbaarheid van krachtige cloud-based data en machinelearningomgevingen in combinatie met continue software engineering (Fitzgerald & Stol, 2014, 2017). (EV hebben de ontwikkelings- en toepassingscyclus voor data- en algoritmesystemen aanzienlijk verkort (Figuur 4).

Waar er een paar jaar geleden een groter team en meerdere maanden voor nodig zouden zijn geweest om een krachtig datagedreven systeem te ontwikkelen en implementeren, kunnen ontwikkelaars nu dankzij agile machine learning en machinelearning-pijplijnen elke paar uur een nieuwe versie ontwikkelen en uitbrengen (Dougherty, 2019; Kobielus, 2014; Lwakatare, Raj, Bosch, Olsson, &

Crnkovic, 2019).

Technologische voortgang in de vorm van nieuwe data-analytische methoden en nieuwe machinelearning-benaderingen kan daardoor gemakkelijk in bestaande systemen worden geïntegreerd. Als een dataset eenmaal is gecompileerd, is het niet moeilijk om er nieuwe machinelearning-algoritmen op toe te passen die tot aanzienlijke prestatie- en functionaliteitsverbeteringen kunnen leiden. De snel stijgende beschikbaarheid van nieuwe en verbeterde datasets betekent omgekeerd ook dat bestaande systemen eenvoudig kunnen worden bijgewerkt door

algoritmen simpelweg opnieuw te trainen met nieuwe data. Algemeen gezien betekent dit dat technologische ontwikkeling in data- en algoritmesystemen extreem snel verloopt vergeleken met de tijd die nodig is om mensen te trainen, de maatschappelijke implicaties te doorgronden en beleid en regelgeving te

formuleren. Daarnaast zal de ontwikkelings- en toepassingssnelheid van data- en algoritmesystemen naar verwachting aanzienlijk toenemen wanneer organisaties processen gaan automatiseren om honderden machinelearning-modellen tegelijk te kunnen testen. Hierdoor zullen organisaties zonder

noemenswaardig menselijk ingrijpen data en algoritmen kunnen gaan ontwikkelen, optimaliseren en toepassen.

Dit alles maakt duidelijk dat data en algoritmen passen binnen de door Van de Poel geformuleerde definitie van een experimentele technologie, d.w.z. een

technologie waarmee slechts beperkte operationele ervaring is opgedaan en waarvan de maatschappelijke voordelen en risico’s dus niet (zonder meer) kunnen worden geëvalueerd op basis van ervaring (van de Poel, 2016)

Functionaliteit

Figuur 4 Agile machinelearning-cyclus (Bron: Follow (2019))

Data en algoritmen zijn bijzonder kneedbare, continu evoluerende technologieën. De efficiëntie van engineeringprocessen voor data en algoritmen neemt snel toe, wat leidt tot een steeds grotere innovatiesnelheid.

Data en algoritmen zijn experimentele technologieën waarvan de

maatschappelijke voordelen en risico’s pas goed kunnen worden beoordeeld en doorgrond nadat ze ook werkelijk in de samenleving zijn geïntroduceerd.

3.2 Experimenteren met algoritmen

De erkenning van het beheersbaarheidsdilemma van Collingridge heeft geleid tot een toenemend gebruik van experimentele methodes voor het ontwerpen, ontwikkelen en evalueren van technologieën. Dit heeft de vorm aangenomen van living labs en, in de stedelijke context, urban living labs (Baccarne, Mechant, Schuurma, De Marez, & Colpaert, 2014; Cosgrave, Arbuthnot, & Tryfonas, 2013;

Gascó, 2017; Kronsell & Mukhtar-Landgren, 2018; Steen & Bueren, 2017; Steen &

van Bueren, 2018). Volgens het European Network of Living Labs (Schuurman, 2015) zijn urban living labs ‘op de gebruiker gerichte, open-innovation-ecosystemen gebaseerd op een systematische benadering van co-creatie door gebruikers in publiek-private-menselijke samenwerkingsverbanden, waarbij onderzoeks- en innovatieprocessen worden geïntegreerd in echte

gemeenschappen en contexten’. Schaer stelt dat living labs zich verplaatsen van in-vitro naar in-vivo onderzoeksscenario’s waarbij data wordt verzameld in een levende omgeving, bijvoorbeeld een gebouw of openbare ruimte (Schaer, 2017).

Living labs spelen een sleutelrol in de ontwikkeling van openbare algoritmische systemen en de co-creatie van openbare dienstverlening op het gebied van mobiliteit, energie en openbare veiligheid door publieke (gemeenten, overheden) en particuliere (technologiebedrijven) partners en het maatschappelijk middenveld (gemeenschappen). Bij veel living labs wordt data gebruikt, die actief of passief wordt verstrekt door de burgers en gebruikers. Dit ligt dus heel gevoelig voor wat betreft de rechten van burgers en in relatie tot het openbaar bestuur.

Urban Living Labs

Inmiddels worden living labs beschouwd als een van de belangrijkste instrumenten voor innovatie in steden. Een van de meest besproken voorbeelden van een living lab is de Quayside-ontwikkeling door Sidewalk Labs van Google in Toronto (Canada), waar een grootschalig aan het water gelegen gebied wordt ontwikkeld tot een hightech digitale wijk. Het onlangs uitgebrachte ontwikkelingsplan (Sidewalk Labs Master Innovation and Development Plan, 2019) omvat grootschalige experimenten met innovaties, waaronder zelfrijdende auto’s, openbare wifi en nieuwe oplossingen voor de gezondheidszorg. Alhoewel de plannen voor Sidewalk ongebruikelijk zijn qua schaal en ambitie, bestaan er gelijksoortige experimentele projecten in de meeste grote steden over de hele wereld.

Living Labs in Nederland

In 2017 stelden de Gemeente Den Haag en de Hague Security Delta (HSD), een cluster van meer dan 200 nationale cyber- en stedelijke beveiligingsorganisaties, een programma op voor beveiligingsinnovatie in de Internationale Zone in Scheveningen. Het doel is het gebied steeds aantrekkelijker en veiliger te maken voor zowel internationale organisaties als inwoners ('International Zone,' g.d.).

In de Internationale Zone zijn internationale organisaties als Europol, de OPCW en Eurojust gevestigd.

Deze wordt ook gebruikt als conferentielocatie voor regeringsleiders van over de hele wereld. Het veiligheidsinitiatief heeft ten doel een geïntegreerde benadering te ontwikkelen om de veiligheid in de Internationale Zone te vergroten en de overlast voor werknemers, inwoners en bezoekers te verlagen. De partners in dit initiatief zijn de Gemeente Den Haag, Politie Den Haag, het Ministerie van Buitenlandse Zaken, het Rijksvastgoedbedrijf, Europol, Eurojust, de OPCW, het Vredespaleis, het Catshuis, TNO, Thales, Siemens en Crowd Sense. Begin 2019 werd gestart met de transformatie van het veiligheidsinitiatief tot een Security Living Lab, waar bedrijven, kennisinstellingen en beveiligingsdiensten testen hoe data van sensoren (zoals camera’s en vrij toegankelijke wifipunten) samen met AI-algoritmen kunnen worden ingezet ten behoeve van beveiliging en andere doeleinden in een openbare ruimte. Particuliere bedrijven die zijn verbonden aan het initiatief hebben toegang tot de data uit het project voor productontwikkeling en in het kader van een doorlopend kennisdelingsproject met de gemeente.

In Stratumseind, een uitgaanswijk in Eindhoven, is ook een living lab gestart als testomgeving voor nudging-strategieën om criminaliteit en verstoringen van de openbare orde terug te dringen.

Het Stratumseind living lab is een multidisciplinair samenwerkingsverband tussen de gemeente, de politie en partners uit het bedrijfsleven. Met behulp van camera’s en geluidssensoren worden bezoekersstromen en gedrag op straat bijgehouden.

Straatverlichting wordt op basis van live data en algoritmen dynamisch bijgesteld om het gedrag van bezoekers te beïnvloeden. Net als bij veel andere living labs wordt data gedeeld door publieke en private partners met als doel samen systemen te ontwikkelen die maatschappelijke en commerciële waarde hebben.

Straatverlichting wordt op basis van live data