op het internet.
De dubbelrol van sociale netwerksites bij het beschermen van minderjarigen
tegen de risico’s van sexting.
Masterscriptie Informatierecht Suzanne Hiemstra | 10210237 Universiteit van Amsterdam
Begeleider: Prof. Dr. Natali Helberger Inleverdatum: 8 januari 2018
Abstract
Steeds meer jongeren worden slachtoffer van ongewenste en grootschalige verspreiding van privé sexting berichten. Bij deze verspreiding wordt veelal gebruik gemaakt van sociale netwerksites, zoals Facebook en WhatsApp. Sociale netwerksites zijn in deze context enerzijds verwerkingsverantwoordelijke voor de persoonsgegevens die zij verwerken, maar anderzijds nemen zij de positie van internettussenpersoon in. In beide rollen hebben zij verschillende verplichtingen met betrekking tot de bescherming van minderjarigen tegen de ongewenste verspreiding van sextingmateriaal.
In deze masterscriptie wordt gezocht naar de verplichtingen van sociale netwerksites onder de Algemene Verordening Gegevensbescherming en de Richtlijn elektronische handel in verband met de bescherming van minderjarigen tegen de risico’s van sexting. Door middel van een beschrijvend rechtsonderzoek binnen de wetgeving, literatuur, jurisprudentie en verschillende beleidsdocumenten worden de belangrijkste verplichtingen en knelpunten in kaart gebracht.
Het zal duidelijk worden dat sociale netwerksites uiteenlopende verplichtingen hebben onder zowel de AVG als de Richtlijn, die op meerdere punten kunnen botsen. Zo zal het verstrekken van NAW-gegevens door de sociale netwerksites als tussenpersoon moeten voldoen aan de eisen uit de AVG, wat tot problemen kan leiden indien niet het slachtoffer maar de dader zich op het vergeetrecht heeft beroepen. Ook zullen filters die de sociale netwerksites tegen onrechtmatig materiaal toepassen binnen de perken van de Richtlijn moeten blijven en bovendien overeenstemmen de AVG. Een database met reeds geüploade sexting beelden – met het doel deze in de toekomst van het platform te weren – kan binnen de AVG riskant zijn. Met het oog op bovenstaande knelpunten verdient het aanbeveling om de sociale netwerksites de NAW-gegevens van gebruikers die illegale – seksuele – content plaatsen in een apart bestand te laten bewaren, teneinde onbedoelde wissing van de gegevens te vermijden. Ook zullen sexting berichten in een database van een goede hash voorzien moeten worden, zodat toekomstige uploads worden verhinderd en bovendien de privacy van de betrokkene wordt beschermd. Tevens zullen onderlinge gedragscodes en richtsnoeren, aanbevelingen en beste
praktijken van het Europees Comité duidelijkheid kunnen scheppen over de wijze waarop de SNS hun verplichtingen moeten invullen.
Inhoudsopgave
Abstract...2
1 Inleiding...5
1.1 Aanleiding...5
1.2 Onderzoeksvraag en - methode...6
2 De risico’s van sexting op sociale netwerksites voor minderjarigen...8
2.1 Sociale netwerksites...8
2.2 Minderjarigen...8
2.3 Sexting...9
2.4 De risico’s van sexting voor minderjarigen...10
3 Verplichtingen van SNS onder de Algemene Verordening Gegevensbescherming...12
3.1 Achtergrond AVG...12
3.1.1 Totstandkoming en ratio...12
3.1.2 Minderjarigen onder de AVG...13
3.2 Toepassingsgebied...14
3.2.1 Dienst van de informatiemaatschappij...14
3.2.2 Verwerking van persoonsgegevens...15
3.2.3 Rol van de SNS...15
3.2.4 Rol van de SNS gebruiker...16
3.3 Verplichtingen SNS onder de AVG...17
3.3.1 Ouderlijke toestemming...17
3.3.2 Informatieplicht...20
3.3.3 Recht op vergetelheid...23
3.3.4 Privacy by default...26
3.4 Interim conclusie...29
4 Verplichtingen van SNS onder de Richtlijn elektronische handel...31
4.1 Achtergrond...31
4.1.1 Totstandkoming en ratio...31
4.2 Toepassing van de richtlijn op sexting via SNS...32
4.2.1 Kwalificatie SNS als hosting provider...32
4.2.2 Sexting als onrechtmatige content...32
4.3 Verplichtingen voor SNS onder de Richtlijn...33
4.3.1 Negatieve verplichtingen...34
4.3.2 Positieve verplichtingen...34
4.4 Interim conclusie...38
5 Verhouding tussen de verplichtingen voor SNS onder de AVG en de Richtlijn...40
5.1 Verhouding toepassingsgebied AVG en Richtlijn elektronische handel...40
5.2 Verhoudingen tussen de verplichtingen onder de AVG en Richtlijn...40
5.2.1 De plicht om NAW-gegevens te verstrekken in het licht van de AVG...40
5.2.2 Take-down-stay-down filters in het licht van de AVG...42
5.3 Interim conclusie...44
6 Conclusie en aanbevelingen...45
6.1 Conclusie...45
6.2 Aanbevelingen...46
1
Inleiding
1.1 AanleidingEind januari 2015 lijkt de wereld van Chantal uit Werkendam in te storten. Een onbekend persoon plaatst een video op Facebook, waarop te zien is hoe de destijds minderjarige seksuele handelingen verricht bij haar toenmalige vriend. Hoewel het filmpje na anderhalf uur door Facebook wordt verwijderd, is het kwaad al geschied. Het filmpje heeft zich in korte tijd over het internet en sociale media verspreid.1 Helaas is het verhaal van Chantal slechts een van de vele voorbeelden waarbij seksueel getinte berichten (ook wel ‘sexting’ berichten) op het internet belanden en niet langer privé zijn.
Sociale netwerksites (hierna: SNS) spelen een belangrijke rol in deze ongewenste verspreiding van privé beelden. SNS maken het mogelijk om informatie met een druk op de knop te verspreiden met een enorme groep ontvangers. Met name jongeren maken op grote schaal gebruik van SNS: maar liefst 77 % van de jongeren tussen de 13en 16 jaar heeft een SNS profiel.2 Via de SNS wordt dagelijks in groten getale informatie gedeeld. Een seksueel getinte foto of video kan dus al snel in verkeerde handen vallen. Het uitlekken van dergelijke beelden vormt een grote inbreuk op de privacy en reputatie van de afgebeelde minderjarige. Op dit moment staan aan de slachtoffers van dit fenomeen nog weinig praktische en juridische middelen ter beschikking. Zo schakelde Chantal uiteindelijk Peter R. de Vries in om de zaak opgelost te krijgen.3 Vanuit de praktijk is de vraag naar juridische bescherming in dergelijke gevallen groot.4 Een nieuwe, specifieke strafrechtelijke bepaling kan soelaas bieden, maar heeft enkel zin als bekend is wie de beelden heeft verspreid. Een aanpak voor de bestrijding van ongewenste verspreiding van deze beelden in een eerder stadium, buiten het strafrecht om, kan dan ook een waardevolle aanvulling zijn. Zo kan een oplossing worden gezocht binnen het recht op gegevensbescherming, nu de betreffende beelden gevoelige persoonsgegevens van de minderjarigen bevatten en de gegevensbescherming hier strenge
1 Nieber, NRC 5 november 2015. 2 Livingstone 2012, p. 8.
3 Nieber, NRC 5 november 2015.
4 Zo diende Peter R. de Vries in september 2016 het burgerinitiatief “Internetpesters aangepakt” in, waarin hij de benarde positie van internetslachtoffers benadrukt en vraagt om duidelijke wettelijke verlichtingen voor
kaders aan stelt. Ook kunnen SNS hun positie als tussenpersoon gebruiken om te interveniëren tussen de verspreider en het slachtoffer.
SNS vervullen in deze context een bijzondere dubbelrol. Enerzijds vervullen zij als verzamelplaats van (persoons)gegevens de rol van verwerkingsverantwoordelijke in de zin van het privacy recht.5 Als gevolg van sexting kunnen de reputatie en het recht op privacy van het slachtoffer aangetast worden. Ditzelfde recht op privacy zou minderjarige slachtoffers daarentegen ook bescherming kunnen bieden. De aankomende Algemene Verordening Gegevensbescherming (hierna: AVG) introduceert namelijk een hogere bescherming voor minderjarigen wiens persoonsgegevens worden verwerkt.6
Anderzijds fungeren SNS als internet tussenpersoon. Vanuit hun rol als internet tussenpersoon kunnen de SNS een helpende hand bieden in het verwijderen van de beelden van het platform en het achterhalen van de gegevens van de verspreider. Zij mogen zich echter niet (te) actief mengen in de plaatsing van informatie op het platform, omdat dit hun positie als tussenpersoon en hun vrijstelling van aansprakelijkheid in het gedrang brengt.
1.2 Onderzoeksvraag en - methode
Bescherming van minderjarigen tegen de risico’s van sexting vanuit SNS is dus wenselijk, maar heeft wat haken en ogen. Dit onderzoek richt zich op de verplichtingen van SNS in hun rol als verwerkingsverantwoordelijke en als internet tussenpersoon. Daarbij wordt onderzocht op welke punten deze verplichtingen elkaar aanvullen en waar ze mogelijk conflicteren. De onderzoeksvraag luidt daardoor als volgt:
“Welke verplichtingen hebben sociale netwerksites, onder de Algemene Verordening Gegevensbescherming en de Richtlijn elektronische handel, bij de bescherming van minderjarigen tegen de risico’s van sexting en hoe verhouden deze verplichtingen zich tot elkaar?”
Om tot een antwoord op deze onderzoeksvraag te komen zal een beschrijvende onderzoeksmethode gehanteerd worden, op basis van literatuur, jurisprudentie, beleidsdocumenten en andere relevante (online) bronnen die aansluiten bij dit onderzoek.
5De huidige Wet bescherming persoonsgegevens (Wbp) en de Algemene Verordening Gegevensbescherming (AVG) die 25 mei 2018 in werking zal treden.
In het eerste hoofdstuk zal een aantal kernbegrippen van dit onderzoek worden gedefinieerd, alsook de risico’s die kleven aan het fenomeen ‘sexting’. Vervolgens zal worden uiteengezet welke verplichtingen SNS onder de AVG hebben bij de bescherming van minderjarigen tegen de risico’s van sexting en hoe zij deze verplichtingen moeten invullen. Ditzelfde zal in het daarop volgende hoofdstuk onderzocht worden voor de verplichtingen van SNS onder de Richtlijn elektronische handel. In het laatste hoofdstuk zal onderzocht worden op welke punten de verplichtingen onder beide regelgevingen zich tot elkaar verhouden. Hierbij zal worden gezocht naar knelpunten bij het samenvoegen van de verplichtingen door SNS. Tot zullen er enkele aanbevelingen gedaan worden om mogelijke problemen in de wetgeving dan wel praktijk op te lossen.
2
De risico’s van sexting op sociale netwerksites voor minderjarigen
2.1 Sociale netwerksitesDe Groep Gegevensbescherming Artikel 29, welke bestaat uit de privacy toezichthouders in de Unie (hierna: WP 29), heeft SNS in de opinie betreffende online sociale netwerken de volgende kenmerken toegekend:
1. Gebruikers kunnen een eigen profiel samenstellen, waarbij zij (onder andere) persoonsgegevens verstrekken;
2. De SNS bieden hun gebruikers de mogelijkheid om eigen materiaal (user generated content) te plaatsen, zoals foto’s, video’s of tekstberichten; en
3. Gebruikers kunnen sociale netwerken vormen door lijsten met contactpersonen op te stellen, waarmee zij onderling kunnen communiceren.7
SNS spelen een belangrijke rol in de leefwereld van minderjarigen. Zo maakt van de jongeren in de categorie 15 tot 19 jaar oud maar liefst 84% dagelijks gebruik van WhatsApp en 54% van Facebook.8 De netwerken bieden hun een eigen plek tussen leeftijdsgenoten, waar zij een sociaal leven kunnen ontplooien.9 Dit doen zij door profielen en contactenlijsten aan te maken en daarbinnen verschillende soorten (persoons)gegevens te delen. SNS zijn hierdoor een uitstekend voorbeeld van het Web 2.0: de opvolger van het Web 1.0, waarbij websites voornamelijk fungeren als platform waarop gebruikers participeren door informatie te delen en met anderen uit te wisselen.10
7 WP 29 advies 5/2009, p. 5.
8 Newcom, Nationale Sociale Media Onderzoek 2017 2017, p. 18. Opgevraagd op 20-09-2017 via www.newcom.nl/index.php?page=socialmedia2017.
9 Livingstone 2008, p. 396.
2.2 Minderjarigen
In het Internationaal Verdrag inzake de Rechten van het Kind (hierna: IVRK) zijn de belangrijkste rechten voor kinderen op internationaal niveau vastgelegd. Dit verdrag heeft rechtstreekse werking in alle lidstaten en is als zodanig leidend in de wijze waarop kinderen in de lidstaten beschouwd en beschermd moeten worden. In het eerste artikel van het IVRK worden kinderen omschreven als alle mensen onder de 18 jaar, tenzij zij op grond van hun nationale recht al eerder meerderjarig worden geacht.
Deze definitie laat ruimte aan de lidstaten om de meerderjarigheid van hun burgers op een lagere leeftijd vast te stellen. In Nederland is de grens voor meerderjarigheid vastgesteld op de leeftijd van 18 jaar.11 Dit onderzoek richt zich specifiek op minderjarigen die aan ‘sexting’ doen. Dit zal uiteraard niet alle personen onder de 18 betreffen, aangezien minderjarigen zich pas vanaf de leeftijd van ongeveer 14 bezighouden met sexting. In dit onderzoek zal de term 'minderjarige' daarom duiden op minderjarigen van ongeveer 14 tot 18 jaar oud. Tevens zal voor deze groep minderjarigen de aanduiding 'kind' worden gebruikt, aangezien deze term op Europees niveau vaak wordt gehanteerd.
2.3 Sexting
In de literatuur zijn verschillende definities van de term ‘sexting’ te vinden. De meest omvattende en concrete omschrijving is mijns inziens het versturen van expliciet seksuele content in de vorm van beeld- en tekstberichten via mobiele telefoons en Web 2.0 platforms, zoals SNS.12 Het betreft dus een breed scala aan seksueel getinte content die via SNS gedeeld en verspreid kan worden.
Minderjarigen zijn volop bezig hun eigen identiteit en seksualiteit te ontdekken. Als onderdeel van deze zoektocht kunnen zij gebruik maken van sexting. Stuurt iemand seksuele tekstberichten en beelden van zichzelf naar een ander, dan wordt dit ‘primair sexting’ genoemd. De ontvanger kan de berichten en beelden, waarop hij of zij niet zelf afgebeeld is, ook doorsturen en verder verspreiden. In dat geval is er sprake van ‘secundair sexting’.13 De sexting berichten bevatten allerlei gegevens over de betreffende minderjarigen, zoals hun
11 Boek 1 artikel 233 Burgerlijk Wetboek. 12 Ringrose e.a. 2012, p. 9.
naam en – in het geval van foto’s en video’s – uiterlijke kenmerken. In hoofdstuk 3.2.2 zal duidelijk worden dat het persoonsgegevens in de zin van het privacyrecht betreft.
2.4 De risico’s van sexting voor minderjarigen
De vrijheid en zelfstandigheid waarmee minderjarigen zich op het internet begeven geeft hun veel mogelijkheden tot zelfontplooiing en de uitoefening van hun rechten als kind.14 Via de SNS kunnen zij met gering ouderlijk toezicht experimenteren in sociale context en een imago opbouwen en presenteren aan hun leeftijdsgenoten.15 Zij kunnen daarbij niet altijd goed inschatten welke activiteiten een risico vormen: waar volwassenen het gevaar van bepaalde activiteiten kunnen inschatten, zien minderjarigen juist mogelijkheden en uitdagingen.16 Voor minderjarigen biedt sexting een mogelijkheid om hun seksualiteit te ontdekken en ontwikkelen.17 Het versturen van dergelijke berichten is echter niet zonder risico. Deze risico’s doen zich op allerlei vlakken voor. Dit onderzoek richt zich specifiek op de risico’s van het versturen van seksueel getinte foto’s en video’s voor de privacy van de minderjarigen.18
Sexting gebeurt in eerste instantie tussen twee personen onderling.19 Toch komt het regelmatig voor dat de verzonden beelden bij andere personen of op het internet belanden. Helpwanted.nl, een onderdeel van het Expertisebureau Online Kindermisbruik, ontving in 2016 bijvoorbeeld al rond de 400 meldingen over de verspreiding van seksueel getinte beelden op het internet en via mobiele telefoons. Bijna een kwart van de meldingen werd door minderjarigen gedaan.20 Een opkomend fenomeen in deze context is de zogeheten ‘wraakporno’, waarbij seksuele beelden die tijdens een relatie naar de partner zijn verstuurd, na het verbreken van de relatie door de ex-partner worden verspreid bij wijze van wraak.21 Een groot risico schuilt dan ook in deze en anderszins ongewenste verspreiding van seksueel getinte beelden op het internet. De zeer gevoelig beelden – en dus data – van de minderjarigen komen zo in handen van een soms grote groep mensen. Dit leidt tot grote privacy- en reputatieschade voor het slachtoffer.
14 Bijvoorbeeld het recht op vrijheid van meningsuiting (artikel 13 IVRK) en het recht op deelname aan recreatieve bezigheden (artikel 31 IRVK).
15 Livingstone 2008, p. 396. 16 Livingstone 2008, p. 397. 17 Livingstone e.a. 2011, p. 73.
18 Het recht op privacy voor minderjarigen is neergelegd artikel 16 IVRK. Dit onderzoek richt zich op de informationele privacy (het recht op gegevensbescherming).
19 Calvert 2009, p. 30. Zie ook de vorige paragraaf over ‘primair sexting’. 20 Zie voor alle cijfers: EOKM, Jaarverslag 2016 2017, p. 13-16.
Het risico beperkt zich echter niet tot de korte termijn. SNS hebben het mogelijk gemaakt om informatie in steeds grotere kringen te verspreiden.22 Het is vrijwel onmogelijk om een foto of video die eenmaal op het internet staat te verwijderen, zodat deze niet op een later tijdstip opnieuw gedeeld kan worden.23 Hierdoor kunnen slachtoffers ook op lange termijn nog met de beelden geconfronteerd worden.
22 Livingstone 2008, p. 394. 23 Stroud 2014, p. 171.
3
Verplichtingen van SNS onder de Algemene Verordening
Gegevensbescherming
3.1 Achtergrond AVG 3.1.1 Totstandkoming en ratio
Sinds 1995 is in de gehele Europese Unie (EU) de Privacyrichtlijn24 van kracht, waarin de beginselen vastgesteld met betrekking tot de bescherming van personen in verband met de verwerking van hun persoonsgegevens binnen de EU.25 Het internet, dat destijds nog in de kinderschoenen stond, heeft de afgelopen decennia grote ontwikkelingen doorgemaakt en de mate waarin persoonsgegevens worden verwerkt aanzienlijk doen stijgen.26 Als gevolg hiervan heeft iedere lidstaat van de EU momenteel eigen wetten omtrent privacy, die gebaseerd zijn op beginselen van ruim 20 jaar geleden. Dit brengt onzekerheid mee op zowel praktisch als juridisch gebied. De verschillende beschermingsniveaus per lidstaat kunnen grensoverschrijdende verwerking belemmeren en regels met betrekking tot oude technologieën raken gedateerd, waardoor nieuwe technologieën buiten het bereik kunnen vallen.
De nieuwe Europese privacywetgeving, de Algemene Verordening Gegevensbescherming (hierna: AVG), tracht een oplossing te bieden voor deze problemen. Door de regels in de vorm van een verordening te gieten is een einde gemaakt aan verschillende interpretaties per lidstaat: de regels zullen, in tegenstelling tot de Privacyrichtlijn, rechtstreeks van toepassing zijn in alle lidstaten en de Privacyrichtlijn komt te vervallen.27 Het krachtige en coherente kader voor gegevensbescherming garandeert de inwoners van de EU van een gelijkwaardig beschermingsniveau en heft belemmeringen voor het verkeer van gegevens op.28 Bovendien is de AVG technologieneutraal ingestoken, waardoor de regels bestand zijn tegen toekomstige ontwikkelingen op technisch vlak en omzeiling wordt beperkt.29 Dit moet ervoor zorgen dat de AVG rechtszekerheid biedt en een lange periode gehanteerd kan worden.
24 Richtlijn 95/46/EG van het Europees Parlement en de Raad van 24 oktober 1995 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens (“Privacyrichtlijn”).
25 Privacyrichtlijn overweging (68). 26 AVG overweging (6).
27 AVG overweging (171). 28 AVG overweging (7) en (10). 29 AVG overweging (15).
3.1.2 Minderjarigen onder de AVG
De beginselen in de huidige Privacyrichtlijn maken geen onderscheid tussen minderjarigen en volwassenen. Naar aanleiding van de ‘EU-strategie voor de rechten van het kind’30 bracht de WP 29 een advies uit dat zich specifiek richtte op de bescherming van persoonsgegevens van kinderen.31 Kinderen hebben specifieke zorg, aandacht en bescherming nodig bij de verwerking van hun persoonsgegevens, omdat zij zich mogelijk niet goed bewust zijn van de betrokken risico’s.32
Deze en andere adviezen van de WP 29 over de gegevensverwerking van kinderen33 zijn
expliciet terug te vinden in de nieuwe AVG. Zo wordt in de overwegingen de specifieke bescherming die kinderen nodig hebben erkend. Ook wordt benadrukt dat gegevens over seksueel gedrag en de verwerking van gegevens van kwetsbare betrokkenen, met name kinderen, de waarschijnlijkheid en ernst van risico’s (zoals het oplopen van reputatieschade) kunnen vergroten. Kinderen hebben vooral recht op specifieke bescherming bij het gebruik van diensten die rechtstreeks aan kinderen worden aangeboden.34 In de volgende paragraaf zal worden toegelicht waarom de AVG van toepassing is op sexting door minderjarigen via SNS. De bepalingen in de AVG dienen dan ook te worden gelezen met inachtneming van deze specifieke bescherming.
De AVG geeft overigens, in tegenstelling tot het oorspronkelijke voorstel voor de AVG, geen definitie voor het begrip ‘kind’.35 De WP 29 geeft wel een aanwijzing door zich aan te sluiten bij het IVRK, dat stelt dat iedereen onder de 18 jaar als kind beschouwd moet worden.36 Ieder kind heeft echter het recht op ontwikkeling, waardoor de uitoefening van rechten afgestemd
moet worden op de mate van volwassenheid.37 In de AVG is een aanknopingspunt te vinden
in artikel 8, waarin wordt gesteld dat kinderen onder de 16 jaar geen rechtmatige toestemming kunnen geven voor verwerkingen door diensten van de informatiemaatschappij. Dit impliceert dat kinderen in de leeftijdscategorie 16-18 jaar in ieder geval zelfstandig over hun
30 Europese Commissie (2006). Naar een EU-strategie voor de rechten van het kind, COM(2006) 367 definitief, 4 juli 2006.
31 WP 29 advies 2/2009.
32 WP 29 advies 2/2009, p. 10; zie ook IVRK preambule.
33Bijvoorbeeld Advies 2/2010 over online reclame op basis van surfgedrag en Advies 2/2013 over apps op slimme toestellen.
34AVG overweging (38) en (75). 35Verdoodt & Lievens 2017, p. 231. 36 WP 29 advies 2/2009, p. 3.
gegevensverwerking kunnen beslissen en hier toestemming voor kunnen geven. De andere relevante bepalingen in het kader van dit onderzoek geven geen specifieke leeftijd aan.
3.2 Toepassingsgebied
Alvorens in te gaan op de verplichtingen van sociale media platforms onder de AVG, is het belangrijk het gebruik en de risico’s van sexting te plaatsen binnen het toepassingsgebied en de begrippen die in de AVG worden gehanteerd. De privacyverordening is, op grond van het materiële en territoriale toepassingsgebied, van toepassing op de geheel of gedeeltelijk geautomatiseerde verwerking van persoonsgegevens van betrokkenen die zich binnen de Unie bevinden, wanneer deze verwerking verband houdt met het aanbieden van diensten, ongeacht of een betaling door de betrokkenen is vereist.38
3.2.1 Dienst van de informatiemaatschappij
Allereerst moeten de SNS dus binnen het begrip ‘dienst’ passen.39 De AVG geeft hier geen definitie voor, maar benoemt wel de meer specifieke ‘dienst van de informatiemaatschappij’, die ook onder de overkoepelende ‘diensten’ vallen. SNS zijn aan te merken als een dergelijke dienst.40 Wat betreft de invulling van het begrip sluit de verordening namelijk aan bij de definitie die de Richtlijn betreffende de diensten van de informatiemaatschappij geeft.41 Deze definitie behelst alle diensten die normaal, tegen vergoeding, op afstand en via elektronische apparatuur verricht worden voor de verwerking en opslag van gegevens op individueel verzoek van de afnemer van die dienst.42 Voor de toepassing van de AVG is een vergoeding door de betrokkene echter niet vereist.43 Het openbaar maken en opslaan van beeldmateriaal op SNS gebeurt op verzoek van de individuele persoon die het platform gebruikt, doordat hij de gegevens vanuit de eigen digitale omgeving uploadt naar het platform. SNS vallen derhalve onder de definitie van “dienst van de informatiemaatschappij” zoals deze in het kader van het territoriale toepassingsgebied van de verordening wordt gehanteerd. Dit geldt tevens voor SNS die buiten Europa gevestigd zijn ,zoals SNS uit de Verenigde Staten, indien zij persoonsgegevens van (minderjarige) betrokkenen uit de EU verwerken.44
38 Artikel 2(1), 3(1) en 3(2)(a) AVG. 39 Artikel 3(2)(a) AVG.
40 WP 29 advies 5/2009, p. 5. 41 Artikel 4(25) AVG.
42 Artikel 1(1)(b) Richtlijn (EU) 2015/1535 van het Europees Parlement en de Raad. 43 Artikel 3(2)(a) AVG.
3.2.2 Verwerking van persoonsgegevens
Vervolgens moet er sprake zijn van de verwerking van persoonsgegevens. Dit is in het geval van sexting vrij evident. De natuurlijke persoon die op de foto of in de video wordt afgebeeld kan geïdentificeerd worden aan de hand van zijn of haar fysieke kenmerken. De identificatie van de persoon in kwestie vereist dan ook geen onredelijke inspanning.45 Foto’s en video’s van seksuele aard zijn daardoor te kwalificeren als persoonsgegevens in de zin van de privacyverordening en de opslag hiervan is een verwerking.46 Bovendien kunnen de beelden als bijzondere persoonsgegevens worden aangemerkt. Hoewel foto’s niet systematisch als bijzondere persoonsgegevens beschouwd mogen worden,47 zijn sexting foto’s duidelijk bedoeld zijn om gevoelige informatie te delen – te weten informatie over de seksualiteit van de betrokkene. Daardoor zijn sexting beelden bijzonder in de zin van artikel 9 AVG.48
3.2.3 Rol van de SNS
Dat er sprake is van verwerking van persoonsgegevens mag duidelijk zijn, maar de vraag is wie hier precies verantwoordelijk voor is. De verplichtingen in de AVG richten zich immers op de ‘verwerkingsverantwoordelijke’, ook wel: “een […] dienst die [..] het doel en de middelen voor de verwerking van persoonsgegevens vaststelt”.49 Deze rol komt in beginsel aan de SNS toe. SNS bieden hun platform namelijk aan hun gebruikers aan om berichten en informatie te delen, waarmee zij bepalen met welk middel de gegevens van de gebruikers worden verwerkt. Tevens bepalen de SNS op welke manier en voor welke doelen de gegevens vervolgens
gebruikt kunnen worden.50 Wat betreft de persoonsgegevens die SNS van hun gebruikers
verzamelen in verband met hun dienst zijn zij dus verwerkingsverantwoordelijke.
3.2.4 Rol van de SNS gebruiker
Kan een soortgelijke redenatie niet doorgetrokken worden naar de gebruikers van SNS? Zij bepalen immers ook met welk doel – het delen van voor hen interessante beelden – en met welk middel – bijvoorbeeld hun telefoon - zij hun foto’s online zetten. Toch worden deze gebruikers doorgaans als ‘betrokkenen’ in de zin van de AVG aangemerkt.51 Zij vallen over het algemeen namelijk onder de zogeheten ‘huishoudexceptie’, welke de uitoefening van
45 AVG overweging (26). 46 Artikel 4(1) en (2) AVG. 47 AVG overweging (51). 48 WP 29 advies 5/2009, p. 9. 49 Artikel 4(7) AVG. 50 WP 29 advies 5/2009, p. 5-6.
persoonlijke of huishoudelijke activiteiten door natuurlijke personen uitsluit van de toepassing
van de AVG.52 Persoonlijk gebruik van SNS valt dus in beginsel buiten de AVG en haar
verplichtingen.
Gebruikers met een groot aantal – soms zelfs onbekende – contacten kunnen echter op het randje van deze exceptie balanceren, wegens het grote bereik van de door hen gedeelde gegevens.53 In gevallen waarin de sexting berichten naar dit grote aantal contacten worden doorgestuurd, kan de verwerking dus wel degelijk onder de AVG vallen. De verantwoordelijkheid hiervoor kan echter niet geheel bij de SNS worden gelegd: zij bepalen het doel van de grootschalige verspreiding van de beelden immers niet, ze faciliteren dit alleen. De verspreidende gebruikers zouden hier dus zelf als verwerkingsverantwoordelijke aangemerkt kunnen worden.54 Er is sprake hierdoor sprake van gezamenlijke verantwoordelijkheid tussen de gebruiker en de SNS. Zij zijn immers beiden – al dan niet in ongelijke mate – verantwoordelijk voor de verwerking van de sexting berichten op het platform en daardoor beiden (mede)verwerkingsverantwoordelijke.55 Nu het voor deze gebruikers in praktijk onmogelijk is om zelfstandig aan alle verplichtingen onder de AVG te voldoen, is het niet wenselijk al deze verplichtingen aan hen toe te kennen. Ze zullen tussen de gebruiker en SNS verdeeld moeten worden naar capaciteit. Veel verplichtingen zullen immers niet door individuen uitgevoerd kunnen worden. Het ligt voor de hand deze verplichtingen neer te leggen bij de SNS, die wel de (financiële) middelen hebben om hier uitvoering aan te geven.56
Vanwege de complexiteit van de verdeling van verantwoordelijkheid en de beperkte ruimte van dit onderzoek, zal dit onderzoek zich enkel richten op de rol en de verplichtingen van SNS onder de AVG.
3.3 Verplichtingen SNS onder de AVG
Door de positie van de minderjarigen als betrokkene zijn in beginsel bijna alle bepalingen van de AVG op hun gegevensverwerking van toepassing.57 Er zijn echter enkele bepalingen die zich specifiek richten op minderjarigen. Daarbij zijn de verplichtingen onder de AVG aan
52 Artikel 2(2)(c) AVG. 53 WP 29 advies 5/2009, p. 6. 54 Artikel 4(7) AVG.
55 WP 29 advies 1/2010, p. 21-22.
56 Helberger & Hoboken 2010, p. 106-109.
verschillende actoren in het speelveld gericht. In dit hoofdstuk zullen de bepalingen onder de loep worden genomen die zich richten tot SNS en relevant zijn in het kader van sexting door minderjarigen.
Het is belangrijk om hierbij op te merken dat aan de SNS in het algemeen een steeds grotere verantwoordelijkheid toekomt wat betreft de risico’s die minderjarigen op hun platform lopen. Ongewenste verspreiding van sextingmateriaal is hier een belangrijk voorbeeld van. Het internetgebruik van minderjarigen is tegenwoordig zo persoonlijk en uiteenlopend, dat het voor ouders en leraren steeds moeilijker wordt om de mogelijke privacyrisico’s voor de minderjarigen te beheersen.58 Het is dan ook een belangrijke taak voor de SNS om zelf, los van het advies van ouders of leraren, de minderjarige gebruikers een zo hoog mogelijke bescherming te bieden tegen privacyrisico’s die door onder andere sexting worden veroorzaakt. Zij moeten hier dus zelfstandig en eventueel in onderlinge samenwerking hun verantwoordelijkheid in nemen.59
3.3.1 Ouderlijke toestemming
Het eerste artikel in de AVG dat de positie van kinderen expliciet benoemt is artikel 8. Daarin wordt gesteld dat wanneer kinderen gebruik maken van diensten van de informatiemaatschappij – zoals SNS – zij toestemming van hun ouders nodig hebben als zij onder de 16 jaar zijn.
Aan die toestemming worden verschillende eisen gesteld. Zo moet deze toestemming vrij, specifiek, geïnformeerd en ondubbelzinnig zijn, en met een actieve handeling worden gegeven.60 Met ‘ondubbelzinnig’ wordt bedoeld dat er bij de verwerkingsverantwoordelijke geen twijfel mag bestaan of er daadwerkelijk toestemming is gegeven. Dit kan bijvoorbeeld door het aanvinken van een hokje op de website (opt-in), door de technische instellingen van het SNS profiel aan te passen of door op andere – actieve – wijze te verklaren akkoord te gaan met de verwerking van persoonsgegevens.61 Bovendien moet de toestemming betrekking hebben op de gegevensverwerking als afzonderlijk aspect. Het is dan ook niet toegestaan om de toestemming te ‘verstoppen’ in de algemene voorwaarden: deze voorwaarden worden over
58 Livingstone e.a. 2011, p. 9. 59 Livingstone e.a. 2011, p. 146. 60Artikel 4(11) AVG.
61 AVG overweging (32). Het verkrijgen van toestemming zonder actieve handeling, zoals stilzwijgend akkoord gaan of gebruik van een opt-out, is uitdrukkelijk niet toegestaan.
het algemeen niet grondig gelezen en hebben betrekking op meer zaken dan de gegevensverwerking alleen. Het instemmen met algemene voorwaarden zal dus geen specifieke en ondubbelzinnige toestemming opleveren.62
Dit is niet de enige complicatie die ouderlijke toestemming oplevert. Zo is het erg lastig te controleren of de ouders van kinderen daadwerkelijk toestemming hebben gegevens om een SNS-profiel aan te maken en daarbij gegevens te delen. Momenteel wordt veel gebruikt gemaakt van aanvinkhokjes, waarmee de gebruiker moet verklaren een bepaalde leeftijd te hebben of toestemming van de ouders te hebben om een profiel te maken én te gebruiken voor het delen van gegevens – zoals het versturen van seksueel getinte beelden. Onder deze methode is het natuurlijk erg gemakkelijk de ouderlijke toestemming te vervalsen. De AVG heeft dan ook de controleplicht in het leven geroepen: de SNS moeten, met inachtneming van de beschikbare technologie, redelijke inspanningen doen om de toestemming van de ouders te verifiëren.63 De controleplicht is dus niet geformuleerd als resultaatsverplichting, maar als een inspanningsverplichting. Welke ‘redelijke inspanning’ de SNS precies moeten doen geeft de AVG echter niet aan. Er wordt wel mogelijkheid geboden aan de vertegenwoordigers van verwerkingsverantwoordelijken om over het verkrijgen van de toestemming gedragscodes op te stellen,64 maar concrete aanwijzingen voor goed functionerende verificatiemechanismen ontbreken tot nog toe.65 Aansluiting zou gezocht kunnen worden bij COPPA66, die verschillende opties noemt om toestemming van de ouders te verkrijgen:
- Het printen, ondertekenen en opsturen van een formulier (print-and-send methode); - een geldtransactie door de ouders als accounthouder;
- de ouders contact op te laten nemen met getraind personeel, via de telefoon of een
video-conferentie; of
- de identiteit van de ouders controleren aan de hand van overheidsdocumenten.67
Deze methoden zullen naar verwachting al snel een onredelijke inspanning van de SNS vergen,68 maar zij kunnen wel als richtlijn aangehouden worden voor het ontwikkelen van een
62 Artikel 7(2) AVG; https://www.pmpartners.nl/de-avg-in-beeld-toestemming/ (geraadpleegd op 7-10-2017). 63 Artikel 8(2) AVG.
64Artikel 40(2)(g) AVG.
65 Verdoodt & Lievens 2017, p. 233.
66 In de COPPA (Children’s Online Privacy Protection Act of 1998) zijn de privacyregels voor minderjarigen online in de Verenigde Staten vastgelegd.
67FTC, Complying with COPPA: FAQ, p. 24 (geraadpleegd op 24-06-2017).
68http://www.solv.nl/weblog/ap-geeft-duidelijkheid-over-de-uitleg-van-de-avg/21321 (geraadpleegd op 7-10-2017).
nieuwe geschikte verificatiemethode. Duidelijke richtsnoeren over de invulling van de controleplicht en betrouwbare verificatie zijn hierbij wenselijk.
Bovendien lidstaten de mogelijkheid om de leeftijdsgrens voor ouderlijke toestemming te verlagen tot een minimum van 13 jaar,69 waardoor alle lidstaten verschillende leeftijdsgrenzen kunnen hanteren. Zo wordt in het voorstel van de Uitvoeringswet in Nederland de grens van 16 jaar in stand gehouden, in tegenstelling tot de leeftijden van 13 jaar in Spanje en 14 jaar in Oostenrijk.70 Dit staat haaks op de intentie van de AVG om het vrije verkeer van gegevens te bevorderen door verschillen tussen lidstaten op te heffen.71 Ook zullen de SNS per lidstaat andere leeftijdsgrenzen moeten respecteren en implementeren in hun privacybeleid, wat gepaard gaat met extra kosten en inspanningen.72 De inspanningen die van de SNS worden gevergd om de verschillende leeftijdsgrenzen te implementeren en om effectieve verificatiemechanismen te ontwikkelen zouden voor de SNS redenen kunnen vormen om hun diensten niet langer aan minderjarigen onder de leeftijdsgrens aan te bieden. Dit zou de minderjarigen echter verhinderen om hun participatierechten online uit te voeren.73
Ouderlijke toestemming levert tenslotte een ander aanzienlijk probleem op: als ouders toestemming geven om een SNS profiel aan te maken, dan geven zij uiteraard nog geen toestemming om sexting berichten te versturen of verder te verspreiden. De toestemming
wordt immers gegeven voor de verwerking van gegevens voor een specifiek doeleinde.74 De
mogelijkheid om sexting berichten te verspreiden staat bij aanmaak van aan account uiteraard niet tussen de beoogde doeleinden. Het overzicht dat de ouders hebben in de mogelijkheden van een SNS account door hun kind is bij het aanmaken hiervan dus slechts beperkt. Hierdoor is de bescherming tegen de mogelijke risico’s van sexting eveneens beperkt: slechts het weigeren van een account kan deze risico’s enigszins inperken. Aan de effectiviteit van deze plicht in het kader van sexting risico’s valt dus te twijfelen.
Het is kortom maar de vraag of ouderlijke toestemming de beste manier is om kinderen te beschermen tegen de privacyrisico’s van sexting door middel van SNS gebruik. Het gebruik door kinderen van SNS wordt op deze manier afhankelijk gesteld van de keuzes en
69 Artikel 8(1) AVG.
70Verdoodt & Lievens 2017, p. 232. 71 AVG overweging (10) en (13). 72Verdoodt & Lievens 2017, p. 231. 73 Verdoodt & Lievens 2017, p. 232. 74 Artikel 8(1) jo. 6(1)(a) AVG.
voorkeuren van de ouders. Dit terwijl de ouders vaak niet beter op de hoogte zijn van de functies en risico's van SNS dan hun kinderen zelf.75 Kinderen zouden hun participatie rechten juist afzonderlijk van de voorkeuren van hun ouders moeten kunnen uitvoeren.76 Bovendien is een eenduidige toepassing van en controle op deze toestemming lastig te realiseren en beperkt de toestemming zich slechts tot het aanmaken van een SNS account. Dit alles maakt dat de ouderlijke toestemming wel kan bijdragen aan het beperken van sexting risico’s, maar uiterst effectief zal het in praktijk niet zijn.
3.3.2 Informatieplicht
Het zal gebruikers van SNS niet onbekend zijn: bij het aanmaken van een profiel wordt je gevraagd akkoord te gaan met o.a. Algemene Voorwaarden en een privacystatement. Even snel doorheen scrollen, een hokje aanvinken en klaar. Dit laat maar zien dat mensen geneigd zijn hun keuzes – zoals het aanmaken van een SNS profiel – te baseren op zo min mogelijk informatie om zich comfortabel te voelen bij die keuze.77 Het enkele feit dat er naar juridische documenten wordt gelinkt kan daarbij al genoeg zekerheid geven. Het is dus niet zo vreemd dat privacystatements meestal niet (helemaal) gelezen worden. En als ze al gelezen worden, dan zijn ze vaak in zulke complexe en technische taal geschreven dat de gemiddelde persoon de informatie alsnog niet kan vatten.78 Kinderen zullen al helemaal moeite hebben met het lezen en begrijpen van de informatie die de SNS bij het aanmaken van een profiel geven.79 Het beschikbaar maken van de relevante informatie zorgt er dus nog niet voor dat de minderjarige gebruikers daadwerkelijk weten wat er met hun data gebeurt, waardoor zij geen geïnformeerde beslissing maken over het delen van hun gegevens.
In de context van de specifieke bescherming voor kinderen tegen de risico’s van sexting, introduceert de AVG een aangescherpte informatieplicht. Bij verwerking van persoonsgegevens van kinderen moet de informatie en communicatie richting hun duidelijk en eenvoudig genoeg zijn, om door kinderen makkelijk begrepen te worden. Daarbij moet de informatie in een beknopte, transparante, begrijpelijke en gemakkelijk toegankelijke vorm beschikbaar gesteld worden.80 Dat lange, ingewikkelde documenten niet aan deze vereisten
75 O’Neill 2010.
76 Livingstone, Better Internet for Kids maart 2016.
77 Wauters, Donoso en Lievens 2014, p. 12. 78 Wauters, Donoso en Lievens 2014, p. 16. 79 Verdoodt en Lievens 2017, p. 233.
voldoen is duidelijk.81 Op welke wijze kunnen de SNS dan waarborgen dat de minderjarigen efficiënt geïnformeerd worden?
Een manier om informatie effectief over te brengen is via ‘smart disclosure’, waarbij complexe informatie op verschillende tijden wordt aangeboden in goed leesbare vorm.82 De WP29 heeft deze werkwijze bekrachtigd in haar advies, waarin zij stelt dat niet alle wettelijk vereiste informatie in één document hoeft te staan. Het is dus beter de informatie gelaagd te presenteren, door de SNS gebruikers op elk moment alleen de informatie te geven die op dat moment nodig is om een weloverwogen beslissing te maken. Die informatie moet uiteraard goed afgestemd worden op de betrokken personen, met name als het om kinderen gaat.83 Dit kan bijvoorbeeld door de informatie visueel weer te geven in plaats van tekstueel. Zo kunnen afbeeldingen en video’s worden ingezet, waarin duidelijk wordt gemaakt wat er precies met de gegevens van de minderjarigen gebeurt of kan gebeuren. Ook kan gebruik worden gemaakt van gestandaardiseerde iconen,84 mits deze zijn afgestemd op minderjarigen. Bij het ontwerpen van zulke nieuwe vormen om informatie te presenteren kunnen interdisciplinaire samenwerkingen goed van pas komen.85 Bijvoorbeeld door juristen, grafisch vormgevers en (kinder-) psychologen met elkaar om de tafel te zetten. De mening van kinderen zelf kan minstens zo waardevol zijn in dit proces.
Maar ook hier geldt: het feit dat je de minderjarige gebruikers voorziet van de informatie, betekent nog niet dat zij het daadwerkelijk lezen of ernaar kijken. Het is dus minstens zo belangrijk hen er bewust van te maken dat de informatie relevant voor ze is.86 Onder de AVG hebben de nationale autoriteiten hierin een belangrijke positie. Zij hebben de taak om bekendheid en inzicht met betrekking tot de risico’s, regels, waarborgen en rechten rondom gegevensverwerking te bevorderen. Dit geldt met name als het activiteiten betreft die specifiek op kinderen gericht zijn.87 Dit kunnen zij bijvoorbeeld doen door campagnes en schoolbezoeken, maar het is misschien nog effectiever om deze taak deels bij de verwerkingsverantwoordelijken zelf neer te leggen. Kinderen brengen dagelijks tijd door op
81 Documenten in deze vorm zijn namelijk beknopt noch begrijpelijk, met name als het minderjarigen met weinig (juridische) basiskennis betreft.
82 Thaler en Tucker 2013, p. 49. 83 WP 29 advies 10/2004, p. 6-8. 84 Artikel 12(7) AVG.
85 Wauters, Donoso en Lievens 2014, p. 16. 86 Wauters, Donoso en Lievens 2014, p. 16. 87 Artikel 57(1)(b) AVG.
SNS, dus informatie die via die kanalen wordt gegeven zal hen makkelijk bereiken.88 Bij het aanmaken van SNS is het daarom niet alleen belangrijk dat informatie over de verwerking van gegevens wordt gegeven, maar dat er ook wordt geïnformeerd over de mogelijke risico’s van bepaald online gedrag zoals sexting.89 Aangezien de kinderen een profiel samen met hun ouders moeten aanmaken, zullen ook de ouders meteen bewust worden van de mogelijkheden en risico’s van het SNS profiel en sexting.90
De informatievoorziening kan worden gerealiseerd door de interface van de SNS zo in te richten, dat minderjarigen (en hun ouders) bij het aanmaken van een profiel langs pagina’s geleid worden met waarschuwingsboodschappen in visuele vorm, zoals een automatisch af te spelen video waarin de risico’s van onder andere sexting worden uitgebeeld. Ook kunnen zij benadrukken dat het alleen is toegestaan gegevens over iemand te uploaden, als diegene hier toestemming voor heeft gegeven,91 met de bedoeling om verspreiders van sextingberichten af te schrikken. Specifieke regels om zulke efficiënte informatie te garanderen mogen de vertegenwoordigers van de SNS overigens, net als afspraken over het verkrijgen van ouderlijke toestemming, vastleggen in gedragscodes.92
3.3.3 Recht op vergetelheid
Een minderjarige waarvan een seksueel getinte foto of video is gelekt krijgt de schrik van zijn leven en wil maar één ding: de beelden zo snel mogelijk van het internet af krijgen. Verspreiding op het internet was natuurlijk nooit de bedoeling, maar gebeurt helaas steeds vaker. Om te vermijden dat minderjarigen op latere leeftijd weer geconfronteerd worden met de beelden en nog aan hun toenmalige keuzes (en daaruit voorkomend imago) zijn gebonden, is het van groot belang dat zij de mogelijkheid hebben zulke informatie te laten verwijderen.93 Het nieuw geïntroduceerde ‘recht op vergetelheid’ kan hier uitkomst bieden. Dit recht geeft betrokkenen, op vastgestelde gronden, de mogelijkheid om hun persoonsgegevens door verwerkingsverantwoordelijken te laten verwijderen.94 Voor minderjarigen wiens sextingberichten via SNS ongewenst worden verspreid is er een grond voor wissing van die
88 Livingstone e.a. 2011, p. 5. 89 WP 29 advies 5/2009, p. 8. 90 Livingstone e.a. 2011, p. 146. 91 WP 29 advies 5/2009, p. 8. 92 Artikel 40(2)(g) AVG. 93 Verdoodt en Lievens 2017, p. 235. 94 Artikel 17(1) AVG.
data. Voor deze verspreiding van het sextingmateriaal bestaat immers geen rechtsgrond, waardoor de minderjarige het wissingsverzoek op de onrechtmatige verwerking van persoonsgegevens kan baseren.95
Zoals vele rechten in het kader van de privacy is ook dit recht niet absoluut. Zo zal de verwerkingsverantwoordelijke bij een verzoek om vergeten te worden een belangenafweging moeten maken tussen het belang van de betrokkene, de vrijheid van meningsuiting en het algemeen belang. In het geval van ongewenste verspreiding van sextingberichten zal aan de minderjarige betrokkene een groot belang toekomen, met name doordat de verspreiding strafbaar is.96 Een dergelijke afweging is voor de weigering van een verzoek echter niet nodig, als de gegevens verwerkt moeten worden ten behoeve van het nakomen van een wettelijke verplichting of in het kader van een rechtsvordering.97 Deze laatste grond zal in ieder geval kunnen verhinderen dat de onrechtmatige verspreider van de beelden dit zich tot de SNS kan wenden om zijn gegevens te laten wissen, in tegenstelling tot de mogelijkheid voor het slachtoffer om de beelden te laten verwijderen.98 De ‘vergetelheid’ uit de AVG lijkt in eerste instantie dan ook een welkome bepaling, maar de effectiviteit ervan is in praktijk slechts beperkt.
Een bekende uitspraak is “Het internet onthoudt alles”. Wat eenmaal op het internet staat, krijg je er vaak nooit meer helemaal vanaf.99 Informatie op het internet blijft zelden binnen de muren van de originele bron. Gegevens van SNS worden veelal opgenomen in de zoekresultaten van zoekmachines als Google en kunnen andere website de informatie gemakkelijk kopiëren of opnemen in een link. Het heeft dus weinig zin om gelekte sextingberichten enkel door de SNS waar ze in eerste instantie op zijn verspreid te laten verwijderen. Het recht op vergetelheid tracht hier een oplossing voor te bieden, door de SNS die uitvoering aan het verzoek moet geven te verplichten om alle andere verwerkingsverantwoordelijken op de hoogte te stellen van het verzoek, indien de SNS de gegevens openbaar heeft gemaakt.100 Zo zijn de SNS bijvoorbeeld verplicht het verzoek door
95 Geen van rechtsgronden uit artikel 6 AVG is in dergelijke situaties van toepassing, wat de verwerking onrechtmatig maakt; Artikel 17(1)(d) AVG.
96 Artikel 5(2) en Richtlijn overweging (4) bestrijding kinderpornografie en seksuele uitbuiting. 97 Artikel 17(3) AVG.
98 Het is voor de instelling, uitoefening en onderbouwing van een rechtsvordering immers niet nodig dat de beelden nog beschikbaar zijn op de SNS. Een privékopie kan in zulke zaken volstaan als bewijs. De gegevens van de dader kunnen echter nog nodig zijn om de betreffende persoon te lokaliseren.
99 Hins 2008-2, p. 562. 100 Artikel 17(2) AVG.
te zetten naar andere SNS of websites. Ook zoekmachines moeten geïnformeerd worden. De SNS kunnen verwijdering van de gegevens uit zoekmachines bewerkstelligen door de pagina waar ze op stonden opnieuw te laten indexeren.101 De verspreiding van informatie op het Web 2.0 beperkt zich echter niet enkel tot (relatief) gemakkelijk bereikbare verwerkingsverantwoordelijken: ook de SNS gebruikers die de beelden hebben verspreid
kunnen immers soms als verwerkingsverantwoordelijke worden aangemerkt.102 Het is voor
SNS dus nooit precies duidelijk is waar alle kopieën, links en reproducties van de beelden zich bevinden.103 En al zouden de SNS elke andere verwerkingsverantwoordelijke (inclusief SNS gebruikers) die de beelden verwerken kunnen achterhalen en bereiken, dan garandeert dit geenszins dat de beelden daadwerkelijk overal verwijderd worden. Wat is er immers interessanter dan informatie die niet voor jouw ogen is bedoeld?104 Dit maakt de plicht voor de SNS om het verzoek aan alle andere verwerkingsverantwoordelijken afzonderlijk door te geven praktisch onhaalbaar. Een optie om toch aan de plicht te voldoen zou bijvoorbeeld zijn om een bericht op de SNS zelf te plaatsen, bij wijze van een “vergeet-mij-wel-register”, maar of dit door alle verwerkende partijen actief wordt gelezen en bijgehouden is natuurlijk maar de vraag. 105
Tot slot speelt nog de vraag of minderjarigen het recht op vergetelheid wel zelfstandig kunnen uitvoeren. De AVG zelf biedt hier geen duidelijkheid over. In het voorstel van de Nederlandse Uitvoeringswet Algemene verordening gegevensbescherming is echter een bepaling opgenomen waarin wordt gesteld dat de rechten van minderjarige betrokkenen – zoals het recht op vergetelheid – door hun wettelijk vertegenwoordigers worden uitgevoerd, voor zover de minderjarige zelf onbekwaam of onbevoegd is.106 Uit de memorie van toelichting blijkt dat de bepaling is opgenomen in lijn met het huidige artikel 37 lid 3 uit de Wbp,107 welke bepaalt dat minderjarigen onder de 16 geen zelfstandig verzoek kunnen doen om het gelijksoortige recht op verwijdering van hun gegevens uit te voeren.108 Dit zou betekenen dat minderjarigen onder de 16 jaar in Nederland niet zelfstandig hun recht op vergetelheid kunnen uitoefenen, maar hiervoor afhankelijk zijn van hun ouders of wettelijk vertegenwoordiger. Dit beperkt de
101 Dit adviseert de Autoriteit Persoonsgegevens, zodat de de gegevens niet meer worden opgenomen in de zoekresultaten; https://www.autoriteitpersoonsgegevens.nl/nl/onderwerpen/europese-privacywetgeving/algemene-verordening-gegevensbescherming (geraadpleegd op 6-10-2017). 102 Zie hoofdstuk 3.2.4. 103 Holvast 2016, p. 103. 104 Hins 2008-1, p. 149. 105 Thole 2012, p. 6.
106 Kamerstukken II 2017/2018, 34851, nr. 2, p. 3 (artikel 5 lid 4). 107 Kamerstukken II 2017/2018, 34851, nr. 3, p. 79.
mogelijkheden voor minderjarigen in de uitoefening van dit recht, bijvoorbeeld als zij hun ouders niet op de hoogte willen stellen van de sexting beelden die zij verspreid. Zij zullen dan moeten wachten tot zij de leeftijd van 16 jaar hebben bereikt.
Het recht van vergetelheid geeft minderjarigen dus de mogelijkheid hun sextingberichten door de SNS te laten verwijderen, maar slechts in beperkte mate. Om de SNS meer handvatten te bieden bij de vervulling van deze plicht, zullen er duidelijke richtsnoeren moeten komen over de invulling en reikwijdte ervan.109
3.3.4 Privacy by default
Waar voorgaande verplichtingen voor de SNS op enig punt nog actie van de minderjarige gebruiker verlangen – het aanmaken van een profiel, het lezen van de privacyvoorwaarden of het doen van een verwijderingsverzoek – is er ook belangrijk aspect van databescherming dat vaak juist langs de gebruiker heen gaat. Dit zijn de privacyinstellingen op de SNS profielen. Via deze instellingen kan de gebruiker bijvoorbeeld bepalen wie welke informatie op zijn profiel kan bekijken. SNS hanteren vaak standaardinstellingen: vooraf door de SNS geselecteerde opties in de software die gelden zolang de gebruiker geen alternatief heeft gekozen.110
Door de jaren heen hebben SNS hun standaardinstellingen stapsgewijs privacyonvriendelijker gemaakt.111 Zo is duidelijk geworden dat Facebook de standaardinstellingen door de jaren heen zo heeft veranderd, dat profielen steeds meer worden blootgesteld aan het publiek.112 De meerderheid van de SNS gebruikers wijzigt deze standaard privacyinstellingen niet.113 Dit is met name zo bij het gebruik van SNS door minderjarigen. Meer dan de helft van de kinderen is namelijk niet in staat om de standaard privacyinstellingen op hun SNS profiel te wijzigen.114 Het is dan ook niet verwonderlijk dat slechts een minderheid van hen – te weten 43% - hun profiel op ‘privé’ heeft staan.115 Het zijn vooral tieners die hun profiel openbaar maken. Dit kan problematisch zijn, want dit is dezelfde groep die zich bezig begint te houden met seksualiteit en waar sexting voornamelijk plaatsvindt.116 Met de verkeerde
109 Deze taak is voorbehouden aan het Europees Comité voor de gegevensbescherming; artikel 70(1)(d) AVG. 110 Shah en Kesan 2008, p. 992.
111 Zie bijvoorbeeld: http://www.mattmckeon.com/facebook-privacy/. 112 Ausloos e.a. 2013, p. 4 en p. 7.
113 Ausloos e.a. 2013, p. 15. 114 Livingstone e.a. 2011, p. 27. 115 Livingstone e.a. p. 38. 116 Livingstone e.a. p. 73-74.
standaardinstellingen zouden sextingberichten die tussen twee profielen worden gedeeld dus voor een veel groter publiek zichtbaar kunnen zijn dan waar de minderjarige gebruiker zich bewust van is.
De Werkgroep heeft in 2009 al het belang aangestipt van standaardinstellingen die de privacy van de gebruikers respecteren. Zo kunnen gebruikers er bewust voor kiezen om hun profiel openbaar te maken, zonder dat dit automatisch gebeurt. Hierdoor kan de kans op onwettige verwerking van de gegevens door anderen, zoals het verspreiden van – onbedoeld openbare -sexting-berichten, worden verkleind.117
De AVG heeft voorzien in een betere beveiliging van persoonsgegevens door middel van de zogeheten privacy by default. Deze verplichting houdt in dat SNS voortaan passende maatregelen moeten treffen om de verwerking van persoonsgegevens te beperken tot dat wat noodzakelijk is.118 Deze nieuwe verplichting gaat hand in hand met privacy by design, waarbij verwerkingsverantwoordelijken de bescherming van de privacy moeten inbouwen in de verwerking.119 Deze laatste plicht ziet voornamelijk op nieuw te ontwikkelen diensten, terwijl privacy by default zich richt op diensten via welke de gebruikers zelf hun gegevens kunnen delen (zoals SNS).120 In het kader van dit onderzoek is dus, bij de bescherming van minderjarigen tegen sexting risico’s, voornamelijk de privacy by default van belang. Bij de uitvoering van deze verplichting kunnen SNS namelijk de standaard privacyinstellingen op profielen aanpassen wanneer de gebruiker een kind is.121 Zo kan het risico dat seksueel getinte berichten die tussen twee minderjarige gebruikers worden gedeeld of die op een profiel worden geüpload – al dan niet met kwade bedoelingen – openbaar toegankelijk worden, aanzienlijk worden verkleind.
Hoe de SNS deze verplichting moeten gaan invullen is nog niet geheel duidelijk. In de AVG wordt vermeld dat het, wat betreft de privacy by design en de privacy by default tezamen, bijvoorbeeld kan gaan om maatregelen op het gebied van dataminimalisatie, pseudonimiseren van gegevens, transparantie over de functies en de verwerking en het in staat stellen van de gebruiker om controle of de verwerking uit te oefenen.122 Gebruikers moeten bij deze
117 WP 29 advies 5/2009, p. 7-8 118Artikel 25 lid 2 AVG. 119 Artikel 25 lid 1 AVG.
120 Bakker, SOLV weblog 14 december 2016. 121 Verdoodt en Lievens 2017, p. 235. 122 AVG overweging (78).
instellingen wel zelf kunnen kiezen voor een andere optie. Dit hoeven niet per se tweezijdige opties te zijn, zoals een aan-uit knop. Het kan ook gaan om vrij in te vullen opties, zoals een standaard gebruikersnaam of wachtwoord.123 De SNS moeten deze maatregelen proactief nemen om de privacyrisico’s zo ver mogelijk te beperken.124
Uiteraard zijn standaard privacyinstellingen alleen nuttig als de SNS minderjarige gebruiker deze makkelijk kan inzien en aanpassen om daadwerkelijke controle over de gegevensverwerking te hebben.125 Bij de keuze welke opties standaard – en aanpasbaar voor de gebruikers – moeten worden ingesteld, zullen de SNS onder andere rekening moeten houden met de kennis van de minderjarige gebruikers en de mogelijkheid om de instellingen overzichtelijk te presenteren.126 Om alle opties overzichtelijk te houden zouden de SNS, net als bij de informatieplicht, gebruik kunnen maken van visuele informatie. Bijvoorbeeld door verschillende privacyaspecten – tekstberichten, foto’s, beveiliging van gegevens – in categorieën op te delen en de gebruikers per categorie te laten zien welke verwerkingen er plaatsvinden. In het kader van sexting zullen vooral instellingen met betrekking tot de verwerking van foto’s en video’s van belang zijn. Vervolgens kunnen ze gebruikers door middel van versleepbare switch-on-switch-off-buttons de instellingen laten aanpassen. Een goed voorbeeld van een dergelijke instelling is het goedkeuren en weergeven van tags.127 Of Facebook staat bijvoorbeeld standaard ingesteld dat tags worden toegelaten en zichtbaar zijn voor zowel de persoon die de foto uploadt als de persoon die is getagd. Om het risico dat sexting-berichten zich verspreiden te verkleinen, zou het een oplossing zijn om standaard in te stellen dat tags naar minderjarige SNS gebruikers niet worden weergegeven. De gebruiker kan dan per bericht toestemming geven voor het linken naar zijn profiel. Daarbij kunnen de SNS tags die na bepaalde tijd niet zijn goedgekeurd automatisch laten vervallen.128
De kennis van minderjarigen wat betreft privacyrisico’s is klein, dus een duidelijke uitleg bij afzonderlijke instellingen zal nodig zijn om ze goed inzicht in de mogelijke opties te geven. Ook hier zal de eerder behandelde informatieplicht dus een belangrijke rol spelen en kan een visuele weergave van risico’s van pas komen.
123Ausloos e.a. 2013, p. 7. 124 Spiekermann-Hoff 2012, p. 34. 125 Ausloos e.a. 2013, p. 13. 126 Ausloos e.a. 2013, p. 23.
127 Met een tag kunnen SNS gebruikers onder andere aangeven welke andere gebruiker op een foto of in een video is afgebeeld. De tag geeft de naam van de afgebeelde persoon weer en linkt naar zijn of haar profiel. Zie voor meer informatie over tags op Facebook bijvoorbeeld: https://www.facebook.com/help/124970597582337. 128 WP 29 advies 5/2009, p. 8 (voetnoot 13).
3.4 Interim conclusie
In de AVG zijn verschillende aangescherpte en nieuwe verplichtingen opgenomen die zich richten tot SNS. De belangrijkste met betrekking tot risico’s van sexting zijn de ouderlijke toestemming, de informatieplicht, het recht op vergetelheid en de privacy by default. Elk van deze verplichtingen levert echter nog wel wat complicaties op.
Ouderlijke toestemming
De ouderlijke toestemming is wellicht niet de beste manier om kinderen te beschermen en lijkt in praktijk lastig te realiseren. Er zullen goede verificatiemechanismen moeten komen om er zeker van te zijn dat de ouder daadwerkelijk toestemming heeft gegeven. Daarnaast moet er rekening worden gehouden met het participatierecht van de kinderen, welke door de kennis en voorkeuren van de ouders niet te veel gehinderd mag worden. Voor de SNS zal deze plicht in ieder geval extra kosten en inspanningen vergen, gezien lidstaten ieder een andere leeftijdsgrens tussen de 13 en 16 aan kunnen nemen, waardoor een uniforme toepassing in alle lidstaten niet zal voldoen. Tot slot beperkt de ouderlijke toestemming zich tot de verwerking van de gegevens van de minderjarige voor het aanmaken van een SNS account. Dit beperkt de vermindering van sexting risico’s aanzienlijk, nu ouders hier geen direct toezicht op hebben. Informatieplicht
Hoewel de SNS onder de huidige wetgeving ook al verplicht zijn hun gebruikers te informeren over de gegevensverwerking, zal de wijze waarop dit gebeurt nog flink moeten veranderen om aan de eisen uit de AVG te voldoen. Het kan voor SNS lastig zijn aan de aangescherpte informatieplicht jegens minderjarigen te voldoen, aangezien de informatie goed op de doelgroep afgestemd moet worden. Hier kan overleg met verschillende disciplines én kinderen een helpende hand bieden. Het effectief overbrengen van de informatie kunnen de SNS bijvoorbeeld realiseren door de informatie gelaagd en visueel te presenteren. Het zou daarbij gunstig zijn als de plicht om het informeren over sextingrisico’s niet enkel bij de autoriteiten, ouders en leraren neer te leggen, maar ook door de SNS zelf te laten uitvoeren. Recht op vergetelheid
Om de gevolgen van het uploaden of verspreiden van seksueel getinte beelden enigszins in te perken komt het recht op vergetelheid om de hoek kijken. Het idee achter dit recht is nobel,
maar de uitvoering heeft wat haken en ogen. Zo zal de SNS en verwijderingsverzoek lastig aan alle verwerkende partijen kunnen doorgeven, aangezien informatie zich op onnavolgbare wijze op het internet verspreid. De kans dat de beelden nog ergens op het internet achterblijven of opnieuw belanden is dan ook groot. Daarbij zullen minderjarigen onder 16 het recht naar verwachting niet zonder tussenkomst van hun wettelijk vertegenwoordiger kunnen uitoefenen, wat een extra obstakel kan vormen om een verzoek tot vergetelheid in te dienen.
Privacy by default
Ook bij de invoering van de privacy by default zullen de SNS sterk rekening moeten houden met het kennisniveau van minderjarige gebruikers. De standaardinstellingen moeten overzichtelijk en voorzien van duidelijke informatie gepresenteerd worden, zodat de gebruiker – als deze al de moeite neemt de instellingen te veranderen – een goede keuze kan maken. Welke invulling de SNS aan bovenstaande verplichtingen moeten geven is op dit moment nog onduidelijk. Het Europees Comité voor gegevensbescherming129 kan hier duidelijkheid bieden, door richtsnoeren, aanbevelingen en beste praktijken uit te vaardigen over de precieze toepassing van de AVG.130 Daarbij kunnen er gedragscodes worden opgesteld over de toepassing van alle genoemde verplichtingen, die algemeen geldend verklaard kunnen worden.131 Op grond van zulke richtsnoeren en gedragscodes zal het voor de SNS duidelijker zijn welke maatregelen er van ze worden verwacht. De verplichtingen die op de SNS rusten beperken zich echter niet tot de bescherming van persoonsgegevens. In het volgende hoofdstuk zal duidelijk worden maatregelen de SNS als tussenpersoon kunnen nemen, om het ongewenst verspreiden van sexting berichten tegen te gaan.
129 Dit Comité is de opvolger van de huidige Artikel 29 Werkgroep (WP 29). 130 Artikel 70(1)(d-e) AVG.
4
Verplichtingen van SNS onder de Richtlijn elektronische handel
4.1 Achtergrond4.1.1 Totstandkoming en ratio
Tot 2003 ontbrak het aan juridische kaders voor diensten die online worden aangeboden. Er rezen met name vragen over de aansprakelijkheid van internet tussenpersonen, als via hun diensten onrechtmatige informatie werd verspreid.132 Het was onduidelijk wie er in zulke gevallen kon worden aangesproken: de gebruiker van de dienst, de aanbieder of misschien zelfs beiden?
Om meer duidelijkheid voor deze opkomende vorm van dienstverlening te bieden heeft het Europees Parlement op 8 juni 2000 de Richtlijn Elektronische handel aangenomen (hierna: de Richtlijn), teneinde een duidelijk juridisch kader te scheppen voor het vrije verkeer van diensten van de informatiemaatschappij.133 De Richtlijn heeft als doel de rechtszekerheid en het vertrouwen van de consumenten te vergroten.134 Internet tussenpersonen hebben een bijzondere positie binnen de Richtlijn gekregen. Als zij aan de gestelde voorwaarden voldoen worden zij namelijk vrijgesteld van aansprakelijkheid voor handelingen die de afnemers van de dienst verrichten. Deze vrijwaring geldt voor internet tussenpersonen die optreden als mere conduit-, caching- of hosting dienst.135 Het betreft een horizontaal vrijwaringsregime: de beperkte aansprakelijkheid geldt voor aansprakelijkheid in alle rechtsgebieden en voor alle vormen van onrechtmatige handelingen van de afnemers van de diensten.136
4.1.2 Minderjarigen onder de Richtlijn
In tegenstelling tot de AVG komt aan minderjarigen onder de Richtlijn geen aanvullende bescherming toe in het kader van dit onderzoek. De Richtlijn biedt lidstaten enkel de mogelijkheid om het vrije verkeer van bepaalde diensten van de informatiemaatschappij te beperken, wanneer dit nodig is voor de bescherming van minderjarigen.137 Dit is bij de bescherming van minderjarigen tegen sextingrisico’s echter niet relevant. Elke lidstaat zal immers de AVG gaan implementeren, waardoor minderjarigen binnen de gehele EU de
132 Edwards 2005, p. 93. 133 Richtlijn overweging (17).
134 Zie Richtlijn overweging 7&8 en artikel 1(1) Richtlijn. 135 Zie artikel 12, 13 en 14 Richtlijn.
136 Rapport Europese Commissie 2003, p. 12. 137 Artikel 3(2) jo. 3(4)(a) Richtlijn.
specifieke bescherming onder de AVG zullen genieten. Daarbij schept de Richtlijn deze mogelijkheid voor de lidstaten, waardoor SNS hier zelf geen rechten of verplichtingen uit kunnen putten. De overige regels uit de Richtlijn, die wel verplichtingen voor de SNS meebrengen, zijn van toepassing op het gebruik van de SNS door personen van alle leeftijden.
4.2 Toepassing van de richtlijn op sexting via SNS
In hoofdstuk 3.4 werd reeds besproken dat de AVG niet van toepassing is op verwerkingen door SNS gebruikers binnen de privésfeer (ook wel: de huishoudexceptie).138 Tegen de verspreiding van sexting berichten binnen de privésfeer kunnen de SNS dus, op grond van de AVG, weinig beginnen. De Richtlijn en bijbehorende rechtspraak bieden de SNS daarentegen wel de mogelijkheid om bepaalde maatregelen te nemen tegen zulke handelingen. De AVG geeft ook expliciet de ruimte voor deze welkome aanvulling van de Richtlijn.139 In deze paragraaf wordt de positie van SNS onder de Richtlijn toegelicht, alsmede het risico dat sexting berichten ongewenst verspreid worden.
4.2.1 Kwalificatie SNS als hosting provider
De Richtlijn is van toepassing op het verkeer van diensten van de informatiemaatschappij tussen de lidstaten van de Europese Unie. Zoals besproken in hoofdstuk 3.2.1 zijn SNS te kwalificeren als een dergelijke dienst.140 De opslag van informatie die gebruikers verstrekken is een essentieel onderdeel van de diensten die SNS aanbieden. Bijvoorbeeld het uploaden van foto’s, video’s of het versturen van tekstberichten, die allen worden opgeslagen op de servers van de SNS. Hierdoor zijn SNS aan te merken als hosting providers in de zin van de Richtlijn.141
4.2.2 Sexting als onrechtmatige content
Niet alle informatie die gebruikers op SNS opslaan en delen is acceptabel. Regelmatig wordt onrechtmatige content online gezet. In het kader van hosting diensten hanteert de Richtlijn hiervoor de term “onwettige activiteit of informatie”.142 Een definitie of Europese standaard voor dit begrip geeft de Richtlijn echter niet. Uit specifieke wetgeving op Europees en
138 Artikel 2(2)(c) AVG.
139 Artikel 2(4) AVG bepaalt dat de verordening de toepassing van de Richtlijn onverlet laat, met name op het gebied van internettussenpersonen.
140 Zie voor de exacte definitie van het begrip artikel 1(1)(b) Richtlijn (EU) 2015/1535 van het Europees Parlement van de Raad.
141 HvJ EU 16 februari 2012, C-360/10 (SABAM/Netlog), ro. 27. 142 Artikel 14(1)(a) Richtlijn.
nationaal niveau kan worden afgeleid dat een breed scala aan illegale inhoud binnen de reikwijdte van de Richtlijn valt: van haatzaaiing tot auteursrechtinbreuken en van terroristisch materiaal tot onrechtmatige handelspraktijken.143
In hoeverre valt het zonder toestemming verspreiden van sextingmateriaal onder de term “onwettige activiteit of informatie”? Wanneer de beelden expliciet tonen dat een minderjarige seksuele handelingen verricht, worden zij aangemerkt “kinderpornografie” zoals gedefinieerd in Richtlijn 2011/92/EU144 (Richtlijn bestrijding kinderpornografie en seksuele uitbuiting). Dit geldt ook voor beelden waarop geen handelingen worden verricht, maar wel de geslachtsorganen van het kind zichtbaar zijn.145 Het verwerven, in bezit hebben en verspreiden van dergelijke beelden is strafbaar en derhalve illegaal.146 Ook wanneer de beelden minder expliciet zijn – en derhalve buiten de voorgaande definitie vallen – is de verspreiding ervan onrechtmatig. Het verspreiden van het beeldmateriaal kan namelijk ook onder het leerstuk van de onrechtmatige daad worden geschaard. Zo is een ‘nrechtmatige daad’ in Nederland gedefinieerd als een inbreuk op andermans recht door een doen of nalaten in strijd met het recht of de opvattingen in het maatschappelijk verkeer, wanneer dit aan de dader kan worden toegerekend.147 De Nederlandse rechter heeft inmiddels bepaald dat dit in ieder geval aan de orde is wanneer iemand zonder toestemming seksueel getinte foto's en video's verspreidt via het internet.148
4.3 Verplichtingen voor SNS onder de Richtlijn
Voor slachtoffers van het verspreiden van zulke beelden is het een logische stap om zich tot de SNS te richten, met name als niet duidelijk is wie de dader is of als er meerdere daders lijken te zijn. Dit is immers sneller dan de dader(s) zelf op te sporen. SNS zijn in de positie als hosting provider echter niet aansprakelijk voor onrechtmatige handelingen of informatie die op hun platforms wordt opgeslagen, indien zij aan bepaalde voorwaarden voldoen. Ook zullen zij zich bij het nemen van maatregelen moeten bewegen binnen de kaders van de Richtlijn.
143 Mededeling Europese Commissie 2017, p. 6
144 Richtlijn 2011/92/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad (“Richtlijn bestrijding kinderpornografie en seksuele uitbuiting”)
145 Artikel 2(c)(i) en (ii) Richtlijn bestrijding kinderpornografie en seksuele uitbuiting. 146 Artikel 5(2) en (4) Richtlijn bestrijding kinderpornografie en seksuele uitbuiting. 147 Artikel 6:162 BW.
