DEEL II: CONCRETE WAARBORGEN
5.7 Omstandigheden voor zinvolle menselijke interventie en leidende rol AP
5.7.2 Autoriteit Persoonsgegevens
De extra waarborg dat de AP voorafgaand wordt geraadpleegd over de geautomatiseerde besluitvorming op basis van bijzondere persoonsgegevens is momenteel onuitgewerkt. In het kader van adequate rechtsbescherming wordt ten minste aangeraden om de adviezen van de AP inzake geautomatiseerde besluitvorming bindend te verklaren. Bovendien wordt aanbevolen om de inzet van live gezichtsherkenning afhankelijk te maken van de toestemming van de toezichthouder in het geval niet wordt gekozen voor een verplichte rechterlijke machtiging (paragraaf 5.5).
47
Conclusie
Live gezichtsherkenning is in opkomst. In landen als China, Amerika en het Verenigd Koninkrijk gebruiken politiediensten de technologie om verdachten in de openbare ruimte op te sporen. De Nederlandse politie, die gezichtsherkenningssoftware momenteel niet-live toepast (i.e. alleen op foto’s), sluit niet uit dat zij die stap in de toekomst ook zal maken. Parallel met de opmars van live gezichtsherkenning klinkt vanuit de Europese Unie een pleidooi voor menselijke waardigheid als centraal beginsel bij de toepassing van kunstmatige intelligentie en digitale technologieën. In deze scriptie is onderzocht op welke wijze(n) live gezichtsherkenning door de politie inbreuk maakt op de menselijke waardigheid. Aansluitend is nagegaan in hoeverre de huidige Nederlandse wetgeving bescherming biedt en welke aanvullende waarborgen noodzakelijk zijn.
In deze studie is het concept van menselijke waardigheid opgesplitst in drie onderdelen: het verbod op instrumentalisering van de mens, de erkenning van persoonlijke subjectiviteit en de eerbiediging van individuele autonomie. Deze drie vereisten hebben in de context van de verwerking van persoonsgegevens elk een eigen betekenis. Verwerkingsverantwoordelijken (zoals de politie) mogen persoonsgegevens niet louter gebruiken als middel voor hun eigen doeleinden, betrokkenen behandelen als ‘informatiestructuren’ of hun de controle over hun gegevens ontzeggen. In de opsporingscontext geldt bovendien dat persoonsgegevens van niet-
verdachte personen extra bescherming behoeven.
De analyse in hoofdstuk 3 laat zien dat live gezichtsherkenning uiterst risicovol is in het licht van de drie vereisten van menselijke waardigheid, en bovendien bezwaarlijker dan niet- live herkenning. Door ongericht gezichtsherkenning toe te passen in de openbare ruimte reduceert de politie namelijk duizenden onverdachte burgers tot wiskundige modellen die tot in detail worden vergeleken puur en alleen om hen als gezochte verdachte uit te sluiten. Daarnaast is het voor de politie aantrekkelijk om het publiek niet vooraf te informeren. Echter, zonder kennis van het bestaan van gezichtsherkenning hebben betrokkenen geen controle meer over hun eigen gezicht. Ten slotte wordt aandacht besteed aan het risico van ‘de lange arm van het algoritme’. Snelheid en steeds verbeterende technologie vergroten de kans op automation bias en dus het gevaar om feitelijk te worden onderworpen aan het oordeel van de machine. Ook een gezochte verdachte mag hier niet het slachtoffer van worden.
Wettelijke interventie is kennelijk noodzakelijk. Helaas moet worden geconcludeerd dat het huidig Nederlands regelgevend kader momenteel niet toereikend is om bovengenoemde risico’s te ondervangen. Allereerst ontbreekt er een specifieke wettelijke grondslag in het
48
Wetboek van Strafvordering. Bovendien blinkt de Wet Politiegegevens niet uit in helderheid en nauwkeurigheid. De bestaande regels laten de politie te vrij om de toepassing van live gezichtsherkenningstechnologie naar eigen inzicht vorm te geven. Concrete waarborgen, gefundeerd op het beginsel van menselijke waardigheid, zijn daarom essentieel. In Deel II van hoofdstuk 5 zijn daartoe enkele aanbevelingen gedaan.
Ten slotte…
Deze studie beoogt handvatten te bieden voor een wettelijk kader omtrent live gezichtsherkenning door de politie. Verschillende EU-instellingen, zoals genoemd in de introductie, bepleiten een moratorium. Deze scriptie schaart zich daarachter: het zou de wetgever meer tijd en ruimte bieden om dit complexe juridisch-ethische vraagstuk te reguleren.
49
Bibliografie
Wet- en regelgeving
Europese Unie
Handvest van de grondrechten van de Europese Unie, 2012/C 326/02. Richtlijn (EU) 2016/680, PbEU 2016, L 119/89.
Verordening (EU) 2016/679, PbEU 2016, L 119/1.
Nederland
Wet van 21 juli 2007, houdende regels inzake de verwerking van politiegegevens (Wet politiegegevens). Wetboek van Strafvordering (WvSv).
Politiewet 2012.
Parlementaire stukken
Aanhangsel van de Handelingen, nr. 584, 2019/2020. Aanhangsel van de Handelingen, nr. 3932, 2018/2019, p. 5.
Kamerstukken II 2005/06, 30 327, nr. 3 (Memorie van Toelichting, Regels inzake de verwerking van
politiegegevens (Wet politiegegevens)).
Kamerstukken II 2017/18, 34 889, nr. 3 (Memorie van Toelichting, Wijziging van de Wet politiegegevens en de
Wet justitiële en strafvorderlijke gegevens ter implementatie van Europese regelgeving over de verwerking van persoonsgegevens met het oog op de voorkoming, het onderzoek, de opsporing en vervolging van strafbare feiten of de tenuitvoerlegging van straffen).
Kamerstukken II 2019/20, 35 300 VI, nr. 64 (Motie van de leden Verhoeven en Van Dam over het wettelijk kader
voor gezichtsherkenningstechnologie, 21 november 2019).
Kamerstukken II 2019/20, 26 643, nr. 669 (Lijst van vragen en antwoorden, vastgesteld 20 februari 2020). Kamerstukken II 2017/18, 26 643, nr. 557 (Advies Afdeling Advisering Raad van State en Nader Rapport).
Brieven, mededelingen, adviezen, richtsnoeren e.d.
Nederland: brieven Minister van Justitie en Veiligheid
Kamerbrief 20 november 2019
Brief van de Minister van Justitie en Veiligheid van 20 november 2019, nr. 2729155.
Kamerbrief 10 september 2019
50
Nederland: Autoriteit Persoonsgegevens
Autoriteit Persoonsgegevens 2020
Autoriteit Persoonsgegevens, Brief aan het Centraal Bureau Levensmiddelenhandel (kenmerk 12020-02082), 1 mei 2020.
Europese Unie: Richtsnoeren EDPB / Groep Gegevensbescherming Artikel 29
Article 29 Data Protection Working Party, Opinion of 29 November 2017
Article 29 Data Protection Working Party, Opinion on some key issues of the Law Enforcement Directive (EU 2016/680), 29 november 2017 (EN).
Groep Gegevensbescherming Artikel 29, Richtsnoeren transparantie 2017
Groep Gegevensbescherming Artikel 29, Richtsnoeren inzake transparantie overeenkomstig Verordening (EU) 2016/679, 29 november 2017 (laatstelijk herzien en goedgekeurd 11 april 2018) (NL).
Groep Gegevensbescherming Artikel 29, Richtsnoeren geautomatiseerde besluitvorming 2017
Groep Gegevensbescherming Artikel 29, Richtsnoeren inzake geautomatiseerde individuele besluitvorming en profilering voor de toepassing van Verordening (EU) 2016/679, 3 oktober 2017 (NL).
Groep Gegevensbescherming Artikel 29, Advies 1/2014
Groep Gegevensverwerking Artikel 29, Advies 1/2014 over de toepassing van de begrippen noodzakelijkheid en evenredigheid en over gegevensbescherming in de rechtshandhavingssector, 27 februari 2014 (NL).
Groep Gegevensbescherming Artikel 29, Advies 03/2012
Groep Gegevensbescherming Artikel 29, Advies 03/2012 over ontwikkelingen op het gebied van biometrische technologieën, 27 april 2012 (NL).
Groep Gegevensbescherming Artikel 29, Advies 02/2012
Groep Gegevensbescherming Artikel 29, Advies 02/2012 over gezichtsherkenning bij online- en mobiele diensten, 22 maart 2012 (NL).
Europese Unie: Commissie
COM(2020) 65 final
Europese Commissie, White Paper On Artificial Intelligence – A European approach to excellence and trust, COM(2020) 65 final, 19 februari 2020.
51
COM(2019) 168 final
Mededeling van de Commissie aan het Europees Parlement, de Europese Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s, Vertrouwen kweken in mensgerichte kunstmatige intelligentie, 8 april 2019, COM(2019) 168 final.
COM(2018) 137 final
Mededeling van de Commissie aan het Europees Parlement, de Europese Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s, Kunstmatige intelligentie voor Europa, 25 april 2018, COM(2018) 237 final.
COM(92) 422 final – SYN 287
Commission of the European Communities, Amended proposal for a Council Directive on the protection of individuals with regard to the processing of personal data and on the free movement of such data, COM(92) 422 final – SYN 287, 15 oktober 1992.
COM(90) 314 final
Commission of the European Communities, Commission Communication on the protection of individuals in relation to the processing of personal data in the Community and Information security; Proposal for a Council Directive concerning the protection of individuals in relation to the processing of personal data, 13 september 1990.
Europese Unie: EP-Commissie Burgerlijke Vrijheden, justitie en binnenlandse zaken
Committee LIBE 2020
Committee on Civil Liberties, Justice and Home Affairs, Draft Report on artificial intelligence in criminal law
and its use by the police and judicial authorities in criminal matters, 8 juni 2020.
Europese Unie: Europese Toezichthouder Gegevensbescherming
EDPS Opinion 4/2020
EDPS Opinion 4/2020, ‘EDPS Opinion on the European Commission’s White Paper on Artificial Intelligence – A European approach to excellence and trust’, 29 juni 2020 (EN).
EDPS 2018
EDPS Giovanni Buttarelli, Opening Speech of Debating Ethics Public Session of the 40th Edition of the
International Conference of Data Protection Commissioners ‘Choose Humanity: Putting Dignity back into Digital’, 24 oktober 2018.
EDPS Opinion 4/2015
52
EDPS Opinion 2012
EDPS, Opinion on the data protection reform package, 7 maart 2012, te raadplegen via:
https://edps.europa.eu/sites/edp/files/publication/12-03-07_edps_reform_package_en.pdf.
Europese Unie: Europese Groep Ethiek (EAG)
Europese Groep Ethiek
EDPS Ethics Advisory Group (EAG), Towards a digital ethics, 2018.
Raad van Europa
Council of Europe Explanatory Report 2018
Council of Europe, Explanatory Report to the Protocol amending the Convention for the Protection of Individuals
with regard to Automatic Processing of Personal Data, 2018.
Council of Europe (MSI-NET) 2017
Council of Europe Committee of Experts on Internet Intermediaries (MSI-NET), Study on the Human Rights Dimensions of Automated Data Processing Techniques and Possible Regulatory Implications, DGI(2017)12.
Overig
OECD Privacy Guidelines Explanatory Memorandum 2013.
Jurisprudentie
Nationaal
Hoge Raad 19 december 1995, ECLI:NL:1995:ZD0328 (Zwolsman), m.nt. T.M. Schalken, NJ 1996/249. Rb Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:1878 (SyRI).
Hof van Justitie
HvJ 11 december 2014, C-212/13 (František Ryneš).
EHRM
EHRM 4 december 2015, nr. 47143/06 (Zakharov/Rusland). EHRM 6 september 1978, nr. 5029/71 (Klass).
Buitenland
UK High Court of Justice (Queens’ Bench Division – Divisional Court Cardiff), The Queen (OTAO) Bridges and Chief Constable of South Wales Police and others, [2019] EWCH 2341 (Admin), 4 September 2019.
53
Bundesverfassungsgericht 15 december 1983, 1 BvR 209/83.
Literatuur
(Bijdragen aan) Boeken en dissertaties
Bygrave 2014
L.A. Bygrave, Data Privacy Law: An International Perspective, Oxford: Oxford University Press 2014.
Cormen 2013
T.H. Cormen, Algorithms Unlocked, Cambridge Massachusetts: The MIT Press 2013.
Hert, de & Gutwirth 2009
P. De Hert and S. Gutwirth, ‘Data Protection in the Case Law of Strasbourg and Luxemburg: Constitutionalisation in Action’ in S. Gutwirth and others (red.), Reinventing Data Protection?, New York: Springer 2009, p. 3-44.
FRA 2018
European Union Agency for Fundamental Rights (FRA), Handbook on European data protection law, Luxembourg: Publications Office of the European Union 2018.
Gates 2011
K.A. Gates, Our Biometric Future, New York: New York University Press 2011.
Groenhart 2008
N.W. Groenhart, ‘Commentaar op artikel 5 Wpolg’, in: Tekst & Commentaar Orde en Veiligheid, 2008, online via Navigator.
Jasserand-Breeman 2019
C. Jasserand-Breeman, Reprocessing of biometric data for law enforcement purposes: Individual’s safeguards
caught at the Interface between the GDPR and the ‘Police’ directive? (diss. Groningen), University of Groningen
2019 (online publiek).
Lynskey 2015
O. Lynskey, The Foundations of EU Data Protection Law, Oxford: Oxford University Press 2015.
Kindt 2013
E. Kindt, Privacy and Data Protection Issues of Biometric Applications: A Comparative Legal Analysis, Springer: Dordrecht 2013.
54
Keulen & Knigge 2016
B.F. Keulen en G. Knigge, Strafprocesrecht, Ons Strafrecht deel 2, dertiende druk, Deventer: Wolters Kluwer 2016.
Mendoza & Bygrave 2017
I. Mendoza en L.A. Bygrave, ‘The Right Not to be Subject to Automated Decisions Based on Profiling’, in: T. Synodinou e.a. (red.), EU Internet Law: Regulation and Enforcement, Cham: Springer International Publishing 2017, p. 77-98.
Mordini 2009
E. Mordini, ‘Ethics and Policy of Biometrics’, in: Handbook of Remote Biometrics for Surveillance and Security, London: Springer-Verlag 2009, p. 293-309.
Oostveen 2018
M.A.A. Oostveen, Protecting individuals against the negative impact of big data: The potential and limitations of
the privacy and data protection law approach (diss. Amsterdam UvA), Kluwer Law International 2018 (online
publiek).
Rouvroy & Poullet 2009
A. Rouvroy en Y. Poullet, ‘The Right to Informational Self-Determination and the Value of Self-Development: Reassessing the Importance of Privacy for Democracy’, in: S. Gutwirth e.a. (red.), Reinventing Data Protection? Springer 2009, p. 45-76.
Russell 2019
S. Russell, Human Compatible: AI and the Problem of Control, Penguin Books 2019.
Tzanou 2017
M. Tzanou, The Fundamental Right to Data Protection: Normative Value in the Context of Counter-Terrorism
Surveillance, London: Bloomsbury Publishing Plc. 2017.
Toor, van, 2017
D.A.G. Van Toor, Het schuldige geheugen? Een onderzoek naar het gebruik van hersenonderzoek als
opsporingsmethode in het licht van eisen van instrumentaliteit en rechtsbescherming (diss. Nijmegen), Deventer:
Wolters Kluwer 2017.
Verplaetse & Delmotte 2017
J. Verplaetse en C. Delmotte, Beginselen van samenleven: Handboek Ethiek en Rechtsfilosofie, Antwerpen- Apeldoorn: Maklu 2017.
55
Zarsky 2012
T. Zarsky, ‘The Data Mining Balancing act’, in: Gutwirth e.a., European Data Protection: In Good Health?, Dordrecht: Springer 2012.
Tijdschriften
Araujo, AI & Society 2020
T. Araujo e.a., ‘In AI we trust? Perceptions about automated decision-making by artificial intelligence’, AI &
Society 2020.
Bahner, Hüper en Manzey, International Journal of Human-Computer Studies 2009
J.E. Bahner, A.D. Hüper en D. Manzey, ‘Misuse of automated decision aids: Complacency, automation bias and the impact of training experience’, International Journal of Human-Computer Studies, Vol. 66, No. 9, 2008, p. 688-699.
Brey, Journal of Information, Communication and Ethics in Society 2004
P. Brey, ‘Ethical Aspects of Face Recognition Systems in Public Places’, Journal of Information, Communication
& Ethics in Society 2004, Vol. 2, No. 2, p. 97-109, preprint version online via:
https://pdfs.semanticscholar.org/ca69/ebedd468b808f4a9a6f862245c5923777498.pdf.
Bygrave, Computer Law & Security Report 2001
L. Bygrave, ‘Automated Profiling: Minding the Machine: Article 15 of the EC Data Protection Directive and Automated Profiling’, Computer Law & Security Report, Vol. 17, No. 1, 2001, p. 17-24.
Clifford & Ausloos, Yearbook of European Law 2018
D. Clifford en J. Ausloos, ‘Data Protection and the Role of Fairness’, Yearbook of European Law, Vol. 37, No. 1, 2018, p. 130-187.
Cohen, Stan. L. Rev. 2000
J.E. Cohen, ‘Examined Lives: Informational Privacy and the Subject as Object’, Stan. L. Rev. 2000, 52, p. 1373- 1438.
Coudert, Computer Law & Security Review 2009
F. Coudert, ‘Towards a new generation of CCTV networks: Erosion of data protection safeguards?’, Computer
Law & Security Review, Vol. 25, 2009, p. 145-154.
Felzmann e.a., Big Data & Soiety 2019
H. Felzmann e.a., ‘Transparency you can trust: Transparency requirements for artificial intelligence between legal norms and contextual norms’, Big Data & Society, januari-juni 2019, p. 1-14.
56
Gritter, Tijdschrift voor Bijzonder Strafrecht & Handhaving 2019
E. Gritter, ‘De rechtmatigheid van datamining door de politie’, Tijdschrift voor Bijzonder Strafrecht &
Handhaving 2019, afl. 2, p. 113-115.
Hildebrandt, Theoretical Inquiries of Law 2019
M. Hildebrandt, ‘Privacy as protection of the incomputable self: from agnostic machine learning to agonistic machine learning’, Theoretical Inquiries of Law 2019, Vol. 20, No. 1, p. 83-121.
Hingh, de, German Law Journal 2018
A.E. De Hingh, ‘Some Reflections on Dignity as an Alternative Legal Concept in Data Protection Regulation’,
German Law Journal, Vol. 19, No. 5, 2018, p. 1269-1290.
Jones, Social Studies of Science 2017
M.L. Jones, ‘The right to a human in the loop: Political constructions of computer automation and personhood,
Social Studies of Science (SSS), 2017, Vol. 47, No. 2, p. 216-239.
Kindt, Computer Law & Security Review 2018
E.J. Kindt, ‘Having yes, using no? About the new legal regime for biometric data’, Computer Law & Security
Review 2018, Vol. 34, Nr. 3, p. 523-538.
Kotsoglou & Oswald, Forensic Science International: Synergy 2020
K.N. Kotsoglou en M. Oswald, ‘The long arm of the algorithm? Automated Facial Recognition as evidence and trigger for police intervention’, Forensic Science International: Synergy 2020, Vol. 2, p. 86-89.
McCrudden, The European Journal of International Law 2008
C. McCrudden, ‘Human Dignity and Judicial Interpretation of Human Rights’, The European Journal of
International Law 2008, Vol. 19, No. 4, p. 655-724.
Nussbaum, Philosophy & Public Affairs 1195
M. Nussbaum, ‘Objectification’, Philosophy & Public Affairs 1995, Vol. 24, No. 4, p. 249-291.
Nyholm, European Journal of Philosophy 2016
S.R. Nyholm, ‘On Kant’s idea of humanity as an end in itself’, European Journal of Philosophy 2016, Vol. 24, No. 2, p. 358-374.
Oswald Phil. Trans. R. Soc. A 376 2018
M. Oswald, ‘Algorithmic-assisted decison-making in the public sector: framing the issues using administrative law rules governing discretionary power, The growing ubiquity of algorithms in society: implications, impacts and innovations’, Phil. Trans. R. Soc. A 376 2018, p. 1-20.
57
Parasuraman & Manzey, Human Factors 2010
R. Parasuraman en D.H. Manzey, ‘Complacency and Bias in Human Use of Automation: An Attentional Integration’, Human Factors 2010, Vol. 52, No. 3, p. 381-410.
Richards, Harvard Law Review 2013
N.M. Richards, ‘The Dangers of Surveillance’, Harvard Law Review 2013, Vol. 126, No 7, p. 1934-1965.
Royakkers e.a., Ethics and Information Technology 2018
L. Royakkers e.a., ‘Societal and ethical issues of digitization’, Ethics and Information Technology 2018, Vol. 20, No. 2, p. 127-142.
Schermer, Tijdschrift voor Bijzonder Strafrecht & Handhaving 2017
B.W. Schermer, ‘Het gebruik van Big Data voor opsporingsdoeleinden: tussen Strafvordering en Wet politiegegevens’, Tijdschrift voor Bijzonder Strafrecht & Handhaving 2017, afl. 4, p. 207-216.
Wagner, Policy and Internet 2019
B. Wagner, ‘Liable, but Not in Control? Ensuring Meaningful Human Agency in Automated Decision-Making Systems’, Policy and Internet, Vol. 11, No. 1, p. 104-122.
Zarsky, Seton Hall Law Review 2017
T. Zarsky, ‘Incompatible: The GDPR in the Age of Big Data’, Seton Hall Law Review 2017, Vol. 47, No. 4(2), p. 995-1020.
Zarsky, Science, Technology & Human Values 2016
T. Zarsky, ‘The Trouble with Algorithmic Decisions: An Analytics Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making’, Science, Technology, & Human Values 2016, Vol. 41, No. 1, p. 118- 132.
Zarsky, University of Illinois Law Review 2013
T. Zarsky, ‘Transparent Predictions’, University of Illinois Law Review 2013 Vol. 2013, No. 4, p. 1503-1570.
Zerilli e.a., Minds and Machines 2019
J. Zerilli e.a., ‘Algorithmic Decision-Making and the Control Problem’, Minds and Machines 2019, Vol. 29, No. 4, p. 555-578.
58
Krantenartikelen
Ditmars, van, Trouw 11 januari 2018
A. Van Ditmars, ‘Filosofisch Elftal: Valt de mens in data te vangen?’, Trouw, 11 januari 2018, trouw.nl.
Hijink, NRC 11 juni 2020
M. Hijink, ‘Amazon, IBM en Microsoft zetten rem op omstreden software voor gezichtsherkenning’, NCR 11 juni 2020, nrc.nl.
Kist, NRC 19 februari 2018
R. Kist, ‘Politiesoftware scant gezichten van verdachten’, NRC 19 februari 2018, nrc.nl.
Waarlo & Verhagen, De Volkskrant 27 maart 2020
N. Waarlo en L. Verhagen, ‘De stand van gezichtsherkenning in Nederland’, De Volkskrant 27 maart 2020, vokskrant.nl.
Online media (nieuwsberichten, weblogs)
Amazon 10 juni 2020
The Amazon Blog: Day One, ‘We are implementing a one-year moratorium on police use of Rekognition’, 10 juni 2020, blog.aboutamazon.com.
BBC 18 maart 2020
BBC, ‘Facial recognition: Artists trying to fool cameras’, 18 maart 2020, bbc.com.
Cole 6 januari 2020
S. Cole, ‘Dit T-shirt houdt camera’s met gezichtsherkenning voor de gek’, 6 januari 2020, vice.com.
EU Fundamental Rights 3 maart 2020
@EURightsAgency (Twitter), 3 maart 2020, twitter.com.
Houwing 13 mei 2020
L. Houwing, ‘We moeten biometrische massasurveillance verbieden’, 13 mei 2020, bitsoffreedom.nl
Houwing 29 januari 2020
L. Houwing, ‘Facial recognition: a ‘convenient’ and ‘efficient’ solution looking for a problem?’, 29 januari 2020, bitsoffreedom.nl.
Houwing 21 november 2019
59
Hulsen 31 januari 2020
S. Hulsen, ‘Onduidelijk hoe vaak gezichtsherkenning bij politie leidt tot aanhoudingen’, 31 januari 2020, nu.nl.
ICO 14 mei 2018
Information Commissioner, ‘Blog: facial recognition technology and law enforcement’, 14 mei 2018, ico.org.uk.
Le Loux & Otto 14 juni 2019
M. Le Loux en R. Otto, ‘Zo zetten overheden gezichtsscanners in om burgers te volgen’, 14 juni 2019, nu.nl.
NU.nl 9 maart 2020
NU.nl, ‘Zo werkt gezichtsherkenning bij de politie’, 9 maart 2020, nu.nl.
NU.nl 14 juni 2019
NU.nl, ‘Zo zetten overheden gezichtsscanners in om burgers te volgen’,14 juni 2019, nu.nl.
RTL Nieuws 19 november 2019
RTL Nieuws, ‘CDA en D66 kritisch over gezichtsherkenning: ‘Tot hier en niet verder’, 19 november 2019, rtlnieuws.nl.
Thomas 16 maart 2020
E. Thomas, ‘Facial recognition is in London. So how should we regulate it?’, 16 maart 2020, wired.co.uk.
Wiewiórowski 29 oktober 2019
W. Wiewiórowski (EDPS), ‘Facial recognition: A solution in search of a problem?’, 28 oktober 2019, edps.europa.nu.
Zarlev 14 februari 2020
B.D. Zarley, ‘The Anti-Facial Recognition Fashion Statement’, 14 februari 2020, freethink.nl.
Zivo 11 maart 2019
60
Rapporten
Overheid
Rapport Commissie Koops 2018
Rapport Commissie modernisering opsporingsonderzoek in het digitale tijdperk, Regulering van
opsporingsbevoegdheden in een digitale omgeving 2018 (online publiek).
Universitair
Araujo e.a. 2018
T. Araujo e.a., Automated Decision-Making Fairness in an AI-driven World: Public Perceptions, Hopes and
Concerns, Amsterdam: Digital Communication Methods Lab 2018.
Babuta, Oswald en Rinik 2018
A. Babuta, M. Oswald en C. Rinik, Machine Learning Algorithms and Police Decision-Making: Legal, Ethical
and Regulatory Challenges, London: Royal United Services Institute for Defence and Security Studies (RUSI)
2018.
Davies, Innes en Dawson 2018
B. Davies, N. Innes, A. Dawson, An Evaluation of South Wales Police’s Use of Automated Facial Recognition, Cardiff University 2018.
Fussey en Murray 2019
P. Fussey en D. Murray, Independent Report on the London Metropolitan Police Service’s Trial of Live Facial
Recognition Technology, Human Rights Centre, University of Essex 2019.
Keymolen e.a. 2020
E. Keymolen e.a., Op het eerste gezicht: Een verkenning van gezichtsherkenning en privacyrisico’s in horizontale
relaties, Universiteit van Tilburg: Tilburg Institute for Law, Technology, and Society (TILT) 2020.
Dechesne e.a. 2019
F. Dechesne e.a., AI and Ethics at the Police: Towards Responsible Use of Artificial Intelligence at the Dutch
Police (White Paper) 2019.
Onderzoeksbureaus
FRA 2019
European Union Agency for Fundamental Rights (FRA), Facial recognition technology: fundamental rights
61
Georgetown Law Center on Privacy and Technology 2019
Georgetown Law Center on Privacy and Technology, America Under Watch: Face Surveillance in The United
States, 2019.
Georgetown Law Center on Privacy and Technology 2016
Georgetown Law Center on Privacy and Technology, The Perpetual Line-Up: Unregulated Police Face
Recognition in America, 2016.
ICO 2019
Information Commissioner’s Office (ICO), ‘ICO investigation into how the police use facial recognition technology in public places’, 2019.
Onafhankelijke Deskundigengroep 2019
Onafhankelijke Deskundigengroep op hoog niveau inzake kunstmatige intelligentie, Ethische richtsnoeren voor
betrouwbare KI, 2019.
Maatschappelijke organisaties
AlgorithmWatch 2019
AlgorithmWatch, Automating Society: Taking Stock of Automated Decision-Making in the EU, 2019.
EDRi 2020
European Digital Rights (EDRi), ‘Ban Biometric Mass Surveillance: A set of fundamental rights demands for the European Commission and EU Member States’, Brussel 2020.
Overig
Almada 2019
M. Almada, ‘Human intervention in automated decision-making: Toward the construction of contestable systems’,
17th International Conference on Artificial Intelligence and Law (ICAIL) 2019 (online publiek).