Hoofdstuk 5 – Maatregelen
5.2. EU Code of Practice on Disinformation: effectiviteit en proportionaliteit
De Code wordt als een ‘vrijwillige’ vorm van zelfregulering gezien, welke in september is opgesteld door online platforms, zoals Facebook en Twitter, en de advertentie industrie: de
Working Group. Deze Working Group vormt samen met de Sounding Board – bestaande uit
vertegenwoordigers van de media, de samenleving, fact-checkers en academici – het
Multistakeholder Forum over desinformatie. Alhoewel de Code in beginsel als vrijwillige
vorm van zelfregulering gezien wordt, is de opstelling mogelijk wel beïnvloedt door politieke druk en de dreiging met regelgeving vanuit de Europese Commissie. Ondertekenende partijen hebben zich verbonden om online desinformatie te bestrijden met een breed scala aan maatregelen op de volgende gebieden:
I. Verstoring van reclame-inkomsten van accounts en websites die online desinformatie verspreiden;
II. meer transparantie bij politieke reclame en gesponsorde inhoud;
250 Giesen 2007, p. 10-13. 251 Teunissen 2007, p. 9.
252 Koops e.a. 2004, p. 123-126; Boom e.a. 2009, p. 28-30. 253 Koops e.a. 2004, p. 123-126; Boom e.a. 2009, p. 28-30. 254 Zhen Gan, Columbia Journal of European Law 2017, p. 111.
40 III. valse accounts en online bots;
IV. de autonomie van gebruikers versterken door melding van online desinformatie en toegang tot verscheidene nieuwsbronnen mogelijk te maken, terwijl de zichtbaarheid en vindbaarheid van gezaghebbende inhoud wordt verbeterd;
V. onderzoekers in staat stellen om online desinformatie te monitoren door middel van privacy-conforme toegang gegevens.255
Annex II brengt de huidige best practices van de ondertekenende partijen met betrekking tot voornoemde gebieden in kaart.256 De Europese Commissie heeft aangekondigd dat zij bijzondere aandacht zal besteden aan de effectieve tenuitvoerlegging van de Code.257 De overeengekomen maatregelen dienen tot “aanzienlijke vooruitgang en meetbare resultaten” te leiden, maar hoe dit daadwerkelijk gemeten kan worden blijft een onbeantwoorde vraag. In ieder geval dienen de ondertekenende partijen gedurende twaalf maanden na ondertekening de voortgang, implementatie en functionering te evalueren en hierover te rapporteren.258 De meeste maatregelen zijn nog niet onafhankelijk geëvalueerd. Daarom kan slechts voorspeld worden of de Code en de daarin opgenomen maatregelen al dan niet effectief en proportioneel zullen blijken in de bescherming tegen de mogelijke gevaren van online desinformatie – en daarbij nieuws personalisatie – rekening houdende met het recht op vrijheid van meningsuiting.259 Effectiviteit heeft betrekking op de uitkomst: de mate waarin
de mogelijke gevaren van online desinformatie en nieuws personalisatie worden verminderd of worden voorkomen door de Code. Om aan het vereiste van proportionaliteit te voldoen, dient de Code het fundamentele recht op vrijheid van meningsuiting te eerbiedigen, evenals overige fundamentele rechten zoals privacy en gegevensbescherming, bedrijfsgeheimen en intellectuele eigendomsrechten.260
De Code is een stap in de goede richting om online desinformatie te bestrijden, maar laat tegelijkertijd zien dat er nog enorme sprongen gemaakt moeten worden.261 De aansluiting bij de enge definitie van desinformatie zoals geformuleerd door de Europese Commissie, de nadruk op het belang van de vrijheid van meningsuiting en andere fundamentele
255 Gabriel, STATEMENT/18/5914, 26 september 2018. 256 Annex II – Best Practices 2018.
257 Gabriel, STATEMENT/18/5914, 26 september 2018.
258 EU Code of Practice on Disinformation 2018, IV. Assessment Period.
259 European Commission, HLEG Report on fake news and online disinformation 2018, p. 14. 260 EC Communication COM(2018)236, p. 9.
41 mensenrechten en de focus op transparantie kunnen als positieve punten worden gezien.262
Sociale media dienen inzicht te geven in de oorsprong van informatie, de manier waarop informatie wordt gecreëerd, gesponsord en verspreid en doelbewust aangeboden.263 De
Sounding Board heeft zich echter zeer kritisch uitgelaten over de Code, nu “een
gemeenschappelijke aanpak, duidelijke en betekenisvolle verbintenissen, meetbare doelstellingen en KPI’s, mogelijkheden om voortgang te meten en instrumenten voor naleving of handhaving” ontbreken.264 Kortom de Code kan beter, maar hoe?
Allereerst dient opgemerkt te worden dat een prominentere positionering van algoritmische personalisatie in de Code wenselijk zou zijn, nu de mogelijke gevaren van online desinformatie door personalisatie kunnen worden beïnvloed en de manipulerende werking mogelijk versterkt. Partijen verbinden zich tot investering in technologie waarmee relevante, authentieke en accurate informatie automatisch geprioriteerd kan worden.265 Dit grote vertrouwen in technologie is problematisch, nu algoritmen onbetrouwbaarder zijn voor het detecteren van desinformatie dan mensen.266 Ter voorkoming van deze fouten is dus aan te raden dat er menselijk toezicht wordt gehouden op deze prioritering. Bovendien zouden sociale media zich op zijn minst moeten verbinden tot een mensenrechtelijke impact assessment en bepaalde geïntegreerde beginselen bij deze ontwikkeling.267
De terughoudendheid van sociale media om data beschikbaar te stellen aan onafhankelijke derden partijen, zoals fact-checkers en wetenschappelijk onderzoekers, zorgt ervoor dat evaluatie op sommige punten (nog) niet mogelijk is.268 Het gebrek aan transparantie en verantwoording vormt dan ook het tweede verbeterpunt. Wanneer door een gebruiker gegenereerde content wordt aangemerkt als desinformatie, is het wenselijk dat deze gebruiker hiervan op de hoogte wordt gebracht. De Code vermeldt hier echter niets over. Verbintenissen met betrekking tot een duidelijke en effectieve klacht en- en herstelprocedure om verwijderings-beslissingen aan te vechten ontbreken geheel.269 Verder is het van belang dat sociale media transparant zijn over de wijze waarop zij algoritmische nieuws personalisatie toepassen. De autonomie van de gebruiker zou op dit punt versterkt kunnen
262 Global Partners Digital, 27 september 2018. 263 EC Communication COM(2018)236, p. 7. 264 Sounding Board’s final opinion 2018, §3.
265 EU Code of Practice on Disinformation 2018, II.D. Empowering consumers. 266 Global Partners Digital, 27 september 2018.
267 ARTICLE 19, 9 oktober 2018.
268 European Commission, HLEG Report on fake news and online disinformation 2018, p. 14. 269 Global Partners Digital, 27 september 2018.
42 worden, door gebruikers in staat te stellen om de toepassing van personalisatie aan te passen of ‘uit’ te zetten. 270 De beïnvloeding van individuele keuzes kan zo beperkt worden. Idealiter
maken sociale media vooraf duidelijk onder welke voorwaarden en op welke wijze zij online desinformatie verwijderen, dan wel algoritmische nieuws personalisatie toepassen. Wanneer de gewenste transparantie uitblijft, kunnen staten aan sociale media transparantieverplichtingen opleggen.271
De rechtskracht van alternatieve regelgeving die de gebondenheid van sociale media aan de Code behelst is eveneens van belang om de effectiviteit te bepalen.272 Ook op dit punt kan de Code bekritiseerd worden, nu de ondertekenende partijen zich enkel vrijwillig conformeren. Het beoordelings- en evaluatieproces komen neer op zelfrapportering, welke wordt beoordeeld door een derde partij die sociale media zelf aanstellen.273 Een effectieve onafhankelijke evaluatie ontbreekt, waardoor mogelijke implicaties voor de vrijheid van meningsuiting onbehandeld kunnen blijven. In dit kader pleit ARTICLE 19 op de lange termijn voor de oprichting van een Social Media Council, als onafhankelijk forum voor de behandeling van geschillen over content moderation.274 De UN Special Rapporteur on Human Rights heeft zich bij dit standpunt aangesloten.275 Dit is een uiterst ambitieus plan, gezien de daarmee gemoeid gaande complexe vraagstukken en het tijd en geld rovende karakter.
Online desinformatie betreft veelal geen illegale maar slechts content die als onwenselijk wordt beschouwd vanuit de maatschappij. Daarom is het percentage en de snelheid waarmee sociale media content verwijderen als gevolg van een melding van desinformatie door gebruikers geen goede graadmeter voor de effectiviteit en proportionaliteit. Sterker nog, verwijdering van deze content is in beginsel niet toegestaan gezien het recht op vrijheid van meningsuiting. Een vermindering in de omvang van bots, en trollen of het aantal meldingen van desinformatie zouden een betere graadmeter zijn. Opmerkelijk is dat bij de Code of
Conduct on Countering Illegal Hate Speech online276 het voornoemde percentage en de snelheid juist van groot belang zijn, terwijl het niet gegeven is dat de gemelde content
270 Helberger e.a., Info 2015, p. 65. 271 Broekstra, Mediaforum 2015, p. 10. 272 Giesen 2007, p. 55.
273 Global Partners Digital, 27 september 2018. 274 ARTICLE 19, 2018, p. 20.
275 Human Rights Council of the UN, A/HRC/38/35 2018, p.20, §72. 276 Code of Conduct on Countering Illegal Hate Speech Online 2016.
43 daadwerkelijk illegaal is.277 Maatregelen dienen ertoe te leiden dat de maatschappij zich
bewust wordt van en tegelijkertijd weerbaar is tegen eventuele gevaren. Dit zou gemeten kunnen worden door een publieke opiniepeiling, waarbij het vertrouwen in de media ook van groot belang is.
Tussenconclusie
Naar aanleiding van het voorgaande kan geconcludeerd worden dat zelfregulering de voorkeur verdient, omdat de daarmee gepaard gaande voordelen in beginsel effectiever en proportioneler zijn voor de bestrijding van de mogelijke gevaren van online desinformatie en nieuws personalisatie. Echter, zelfregulering in de vorm van de huidige Code volstaat niet. Hoewel de Code een stap in de goede richting is en blijk geeft van de juiste intenties met betrekking tot de bestrijding van online desinformatie in Europa, is het gewenste resultaat nog niet bereikt. De Code dient zoals beschreven aangepast te worden om effectief en proportioneel te zijn. Daarnaast dient op de lange termijn de oprichting van een onafhankelijk verantwoordingorgaan overwogen te worden.
44
Conclusie
In het voorgaande is geconcludeerd dat desinformatie een soort informatie is en nieuws personalisatie een proces is waarin nieuws content op maat beschikbaar wordt gesteld aan bepaalde individuen of groepen, veelal via het gebruik van algoritmen door sociale media. Het zijn oude fenomenen die in een nieuw technologisch jasje zijn gestoken, met immense zorgen tot gevolg. Beiden vormen een krachtig middel voor de manipulatie van de publieke opinie en verkiezingsuitslagen. De vrees bestaat dat nieuws personalisatie zou leiden tot zogenoemde filter bubbels en echo chambers. Personalisatie zou de manipulerende werking van online desinformatie kunnen versterken. Algoritmen kunnen gemanipuleerd worden voor de verspreiding van online desinformatie of om bepaalde nieuwsberichten zodanig zichtbaar te maken voor gebruikers dat deze het meeste effect sorteren. Daarom schuilt in algoritmische personalisatie een gevaar versterkende kracht. Nieuwe ontwikkelingen zoals het toenemende gebruik van messaging applications en de creatie van zogenoemde deepfakes kunnen daarbij voor nieuwe uitdagingen zorgen.
Echter, tot op heden is de onderbouwing van deze zorgen in de vorm van empirisch bewijs uitgebleven. Niet vergeten mag worden dat nieuws personalisatie ook mogelijkheden biedt voor een accurate en pluriforme nieuws- en informatievoorziening. Het biedt een oplossing voor de information overload die de komst van het internet en sociale media met zich mee hebben gebracht. Daarnaast kan nieuws personalisatie zorgen voor een gevarieerdere informatie consumptie door incidental exposure en kan de autonomie van sociale media gebruikers worden versterkt middels zelf-geselecteerde nieuws personalisatie.
Sociale media spelen een essentiële rol in de verspreiding van online desinformatie en de totstandkoming van gepersonaliseerd nieuws. Sociale media nemen de gatekeeping functie in steeds verdergaande mate over van de traditionele media, nu ze een centrale rol spelen in de distributie, beschikbaarstelling, aanbeveling van en toegang tot online nieuwsberichten. Hierdoor kunnen zij niet altijd als passieve host aangemerkt worden, hoe graag zij dat ook zouden willen. Door algoritmische personalisatie kan gatekeeping zelfs op individueel niveau plaatsvinden. De vraag waar precies de grens ligt tussen een host die niet aansprakelijk is voor door gebruikers gegenereerde content en een redactioneel mediabedrijf met juridische en ethische verantwoordelijkheid blijft helaas tot op heden onbeantwoord.
45 Sociale media komen steeds meer onder druk te staan om een zorgplicht te erkennen en proactief te handelen. Middels CSR kunnen sociale media verantwoordelijkheid worden gehouden voor de gevolgen van het handelen van haar gebruikers en voor het voorkomen van schade aan derden. Deze internationale vorm van zelfregulering door het bedrijfsleven komt tot stand door een beroep op morele waarden en het belang van de naleving van fundamentele mensenrechten. De implementatie van het Ruggie Framework en de daaropvolgende aanbevelingen van de Raad van Europa bieden richtsnoeren aan sociale media om in overeenstemming met mensenrechten te handelen. Helaas heeft deze toenemende druk ook regelgevende initiatieven zoals de NetzDG bewerkstelligd. Dit is onwenselijk vanuit mensenrechtelijk perspectief en de ondermijning van de harmonisatie van het Europese recht. Omdat wetgeving op nationaal niveau onwenselijk is en wetgeving op Europees niveau zich in eerste instantie minder goed leent voor de complexe en dynamische problematiek van online desinformatie – en daarbij nieuws personalisatie – is voorspellend ingegaan op de effectiviteit en proportionaliteit van de Code, rekening houdende met het recht op vrijheid van meningsuiting. De conclusie luidt dat zelfregulering de voorkeur verdient, waarbij nieuws personalisatie een prominentere positionering verdient. De Code dient op de volgende punten aangepast te worden wil zij effectief en proportioneel zijn:
(iv) Het belang van menselijk toezicht bij content moderation dient in de Code opgenomen te worden, totdat technologie daadwerkelijk effectief is gebleken. (v) Verdergaande transparantie en verantwoording middels; duidelijke en
betekenisvolle verbintenissen met betrekking tot de beschikbaarstelling van data voor onafhankelijk wetenschappelijk onderzoek, de ontwikkeling van een effectieve klacht- en herstelprocedure voor gebruikers en versterking van de autonomie van gebruikers met betrekking tot de toepassing van personalisatie. (vi) Effectieve onafhankelijke evaluatie dient mogelijk gemaakt te worden,
bijvoorbeeld door een Social Media Council of een vergelijkbare instantie.
Al hoewel de ontwikkeling van de Code een stap in de goede richting is om het probleem van online desinformatie – en daarbij nieuws personalisatie – aan te pakken, is er nog een lange weg te gaan. Samenwerking tussen de betrokken partijen, continue evaluatie en verder onderzoek zal noodzakelijk zijn om tot een oplossing te komen die de hedendaagse informatievoorziening weerbaar maakt tegen de dynamische en complexe dreigingen die gepaard gaan met de online verspreiding van online desinformatie en nieuws personalisatie.
46
Literatuurlijst
I.
Primaire bronnen
Internationale regelgeving:
Europees Verdrag voor de Rechten van de Mens
Europees verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden, Rome, 4 november 1950.
International Verdrag inzake Burgerrechten en Politieke Rechten
Internationaal Verdrag inzake burgerrechten en politieke rechten, New York, 16 december 1966.
Richtlijn 2000/31/EG
Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt.
Richtlijn 2010/13/EU
Richtlijn 2010/13/EU van het Europees Parlement en de Raad van 10 maart 2010 betreffende coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten.
Verordening (EU) 2016/679
Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG.
Handvest van de Grondrechten van de Europese Unie
Handvest van de Grondrechten van de Europese Unie, 2016/C, 202/02, 7 juni 2016. Richtlijn (EU) 2018/1808
Richtlijn (EU) 2018/1808 van het Europees Parlement en de Raad van 14 november 2018 tot wijziging van Richtlijn 2010/13/EU betreffende de coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten (richtlijn audiovisuele mediadiensten) in het licht van een veranderende marktsituatie.
Nationale regelgeving:
NetzDG 2017
Act to Improve Enforcement of the Law in Social Networks (Network Enforcement Act)/Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken
(Netzwerkdurchsetzungsgesetz – NetzDG), 1 september 2017, Bundesgesetzblatt, Jahrgang
47
Europese Unie: Communicaties en opinies
EC Communication COM(2016) 287
Europese Commissie, Voorstel voor een Richtlijn van het Europees Parlement en de Raad tot
wijziging van Richtlijn 2010/13/EU betreffende de coördinatie van bepaalde wettelijke en bestuursrechtelijke bepalingen in de lidstaten inzake het aanbieden van audiovisuele mediadiensten in het licht van een veranderende marktsituatie, COM(2016) 287 Final, 25
mei 2016.
EC Communication COM(2018) 236
Europese Commissie Communicatie, Tackling online disinformation: a European Approach, COM(2018)236 Final, 26 april 2018
WP29, Opinion 4/2007
Article 29 Data Protection Working Party, Opinion 4/2007 on the concept of personal data, 01248/07/EN WP 136, 20 juni 2007.
WP29, Opinion 2/2010
Article 29 Data Protection Working Party, Opinion 2/2010 on behavioural advertising, 00909/10/EN WP 171, 22 juni 2010.
Europese Unie: Overig
European Commission, HLG Report on Media Freedom and Pluralism 2013
European Commission, Report of the High-Level Group on Media Freedom and Pluralism, A
free and pluralistic media to sustain European democracy, januari 2013.
Code of Conduct on Countering Illegal Hate Speech Online 2016 Code of Conduct on Countering Illegal Hate Speech Online, 31 mei 2016, http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=54300.
European Commission, Factsheet on the Code of Conduct - 3rd round of monitoring 2018
European Commission, Factsheet on the Code of Conduct on Countering Illegal Hate Speech
online: Results of the 3rd monitoring exercise, januari 2018,
http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=612086.
European Commission, HLEG Report on fake news and online disinformation 2018 European Commission, Report of the independent High-Level Expert Group on fake news and online disinformation 2018, A multi-dimensional approach to disinformation, maart 2018.
Sounding Board’s final opinion 2018
The Sounding Board’s unanimous final opinion on the so-called Code of Practice, 24 september 2018, https://ec.europa.eu/digital-single-market/en/news/code-practice- disinformation.
European Commission, Factsheet on tackling online disinformation 2018 European Commission, Factsheet on tackling online disinformation, 26 april 2018,
48 EU Code of Practice on Disinformation 2018
EU Code of Practice on Disinformation, 26 september 2018,
https://ec.europa.eu/digital-single-market/en/news/code-practice-disinformation. Annex II – Best Practices 2018
Annex II – Best Practices from signatories of the Code of Practice, 26 september 2018. https://ec.europa.eu/digital-single-market/en/news/code-practice-disinformation.
Raad van Europa: aanbevelingen
Recommendation CM/Rec(2007)16
Recommendation of the Committee of Ministers to member States, On measures to promote
the public service value of the Internet, 7 november 2007, CM/Rec(2007)16 .
Recommendation CM/Rec(2011)7
Recommendation of the Committee of Ministers to member States, On a new notion of
media, 21 september 2011, CM/Rec (2011)7.
Recommendation CM/Rec(2016)3
Recommendation of the Committee of Ministers to member States, On human rights and
businesses, 2 maart 2016, CM/Rec(2016)3.
Recommendation CM/Rec(2018)2
Recommendation of the Committee of Ministers to member States, On the roles and
responsibilities of internet intermediaries, 7 maart 2018, CM/Rec(2018)2.
Verenigde Naties:
Human Rights Council of the UN, A/HRC/8/5 2008
Human Rights Council of the United Nations, Report of the Special Representative of the
Secretary-General on the issue of human rights and transnational corporations and other business enterprises. John Ruggie, A/HRC/8/5, 7 april 2008.
UN Guiding principles on business and human rights 2011
Human Rights Council of the United Nations, Report of the Special Representative of the
Secretary General on the issue of human rights and transnational corporations and other business enterprises, John Ruggie. Guiding principles on business and human rights:
Implementing the United Nations "Protect, Respect and Remedy" framework, A/HRC/17/31,
49 Joint Declaration on freedom of expression and “fake news”, disinformation and
propaganda 2017
The United Nations (UN) Special Rapporteur on Freedom of Opinion and Expression, the Organization for Security and Co-operation in Europe (OSCE) Representative on Freedom of the Media, the Organization of American States (OAS) Special Rapporteur on Freedom of Expression and the African Commission on Human and Peoples’ Rights (ACHPR) Special Rapporteur on Freedom of Expression and Access to Information, Joint declaration on
freedom of expression and “fake news”, disinformation and propaganda (FOM.GAL/3/17), 3
maart 2017.
Kaye, OL DEU 1/2017
D. Kaye, Mandate of the Special Rapporteur on the promotion and protection of the right to
freedom of opinion and expression, OL DEU 1/2017, 1 juni 2017.
http://www.ohchr.org/Documents/Issues/Opinion/Legislation/OL-DEU-1-2017.pdf
Human Rights Council of the UN, A/HRC/38/35 2018
Human Rights Council of the United Nations, Report of the Special Rapporteur on the
promotion and protection of the right to freedom of opinion and expression, A/HRC/38/35, 6
april 2018.
Nationaal:
Minister Ollongren, brief aan Tweede Kamer 18 december 2017
Minister Ollongren (BZK), Brief aan de Tweede Kamer over beïnvloeding van de publieke opinie