Donderdag publiceerde het Rathenau Instituut* een rapport waarin het pleit voor een nieuw Europees verdrag dat de mensenrechten aanpast aan de digitale samenleving. Rathenau komt tot de conclusie dat digitale technologieën een steeds grotere invloed hebben op het dagelijks leven van mensen. Robots en kunstmatige intelligentie krijgen de eigenschappen van levende wezens. Sociale media, augmented reality en het internet-of-things beïnvloeden het sociale handelen. En big data beïnvloedt gedrag, gevoel en denken. De directeur van het Rathenau Instituut, Melanie Peters, zegt: ‘Nieuwe technologieën brengen de mensheid vooruit maar stellen onze samenleving tegelijkertijd voor nieuwe sociale uitdagingen. Onze huidige ethische en juridische systemen zijn daar nog onvoldoende op voorbereid.’
Tracking weigeren
Het instituut kreeg de opdracht voor het onderzoek van het Parlement van de Raad van Europa**, de internationale organisatie, die is opgericht om de democratie en de mensenrechten in Europa te bevorderen (47 Europese landen zijn lid). Het onderzoek is in het Parlement gebruikt als basisstuk voor discussie. Maar de aanbevelingen van het Rathenau Instituut klinken toch sturend: ‘Het rapport pleit daarom voor aanscherping en verheldering van bestaande mensenrechten en voor twee nieuwe mensenrechten. Ten eerste zouden mensen het recht moeten krijgen om niet gemeten, geanalyseerd of beïnvloed te worden. Om online profilering, tracking en beïnvloeding te kunnen weigeren. Ten tweede zouden mensen het recht moeten krijgen op betekenisvol menselijk contact. Het recht te kiezen voor menselijk contact boven robotcontact. In de zorg worden pilots met zorgrobots uitgevoerd. Dat kan de kwaliteit van leven bevorderen, maar stelt ook nieuwe vragen over de kwaliteit van zorg en menselijke relaties.’
Einde adverteerderswalhalla
Vooral het recht om niet gemeten, geanalyseerd of beïnvloed te worden, klinkt als een spelbreker van formaat van de online marketingmethoden die volop in ontwikkeling zijn. En platformen van sociale media – Facebook voorop – zijn min of meer gebouwd op meting, analyse en beïnvloeding. Hebben we straks geen Facebook meer? En gaat het doek vallen voor het adverteerderswalhalla van de micro-targeting?
Schemergebied
Dr. ir. Rinie van Est (foto), die het onderzoek namens het Rathenau Instituut leidde, benadrukt dat het niet om iets nieuws gaat. ‘Wat we willen agenderen is een verscherping, een verheldering van het recht op de privacy. In het eerste lid van artikel 10 van de Grondwet staat dat iedereen recht heeft op eerbiediging van zijn persoonlijke levenssfeer. De wet is door de jaren heen aangevuld en aangescherpt, bijvoorbeeld met de Wet bescherming persoonsgegevens. Maar als je je louter richt op die persoonsgegevens alleen, betekent dat niet dat er recht wordt gedaan aan lid 1. Als je bijvoorbeeld groepen profileert, dan heb je het niet over persoonsgegevens, maar het wel om inzichten die gebruikt kunnen worden om een goed beeld van een persoon te krijgen en verreikende gevolgen kunnen hebben voor individuele privacy. Dat is dus een schemergebied.’
'Wij volgen uw gedrag'
Van Est zegt niet dat het gepropageerde recht inhoudt dat moderne vormen van reclame – die juist in opkomst zijn – verboden moeten worden. ‘Waar wij wel om vragen, is kritische reflectie.’ Die reflectie is er rond de opkomst van de commerciële controlecultuur die is ontstaan op het internet volgens hem niet geweest. ‘Een fundamentele discussie is er nooit over gevoerd. Alleen minidebatjes. En die vallen in het voordeel uit van overheid en grote bedrijven, niet voor het grotere belang van het internet zelf.’ De cookiewetgeving had als doel de consument een keuze te geven. Een cookie is – natuurlijk – een signaal richting de consument, ‘wij volgen uw gedrag’, maar een echt keuzemoment is het volgens Van Est niet. Of je moet een slechte internetbeleving op de koop toenemen. De huidige controlecultuur op het internet is een situatie die volgens hem sluimenderweg is ontstaan. ‘Wat dat zegt over de strijdbaarheid van de consument? Dat het voor consumenten niet eenvoudig is om de consequenties op de langere termijn in te zien. Digitalisering is een nieuwe ontwikkeling die veel gemak biedt, maar het cumulatieve effect van alle cookies, dat zien we pas over een aantal jaren.’
Lichaamstemperatuur
Het recht om niet gemeten, geanalyseerd of beïnvloed te worden, wordt volgens het rapport des te crucialer door de opkomst van virtual – en augmented reality, van artificial intelligence en het ‘internet of things’. Van Est: ‘Eerst hadden we alleen het scherm, maar na de smartphone worden allerlei andere producten ook intelligent. Van je thermostaat in huis tot aan je auto die je rijgedrag gaat monitoren. Ja, die vraag van die hogere autoverzekeringspremie is een bekende, maar het gaat natuurlijk veel verder. Neem gezichtsherkenning, gekoppeld aan emotieherkenning. Mag een ander dat gaan meten en analyseren? Mag een ander onze hartslag of onze lichaamstemperatuur opmeten, of grijp je dan in op de persoonlijke integriteit? Deze vraagstukken grijpen elke keer terug op lid 1: “Iedereen heeft het recht op eerbiediging van zijn persoonlijke levenssfeer”.’
Facebook en de rest
Van Est vindt de problematiek rond verslaving aan social media (Van Est wil geen specifieke platforms noemen) een goed voorbeeld van waar het nu al misgaat. ‘Er ís inmiddels heel veel data, er zíjn allerlei middelen om consumenten te beïnvloeden. De beïnvloeding via sociale media leidt bij bepaalde mensen tot verslaving. Wat zijn dan de randvoorwaarden die we als maatschappij stellen? Hoe ver mag een bedrijf gaan? Je kan zeggen we doen niets, maar een casino heeft ook de wettelijke plicht om preventiebeleid te voeren op gokverslaving.’
Eerlijke regels
Nogmaals, de discussie moet nog gevoerd worden, en het onderzoek is bedoeld om de zaak te agenderen, maar Van Est ziet wel waar het heen zou moeten gaan. Onze huidige wettelijke omgang met persoonsgegevens wordt gelegitimeerd vanuit de zogenaamde ‘fair information principles’. ‘Data worden nu geanalyseerd, personen worden geprofileerd en daarna beïnvloed. Dat moet wel op een eerlijke manier gebeuren. Eerlijk en transparant profileren en dito beïnvloeden. Eerlijke regels voor het digitaal profileren en beïnvloeden van mensen zou de basis moeten zijn van een nieuw maatschappelijk contract.’
* Het Rathenau Instituut stimuleert de publieke en politieke meningsvorming over de maatschappelijke aspecten van wetenschap en technologie. Het instituut doet onderzoek en organiseert het debat over wetenschap, innovatie en nieuwe technologieën.
** Een belangrijk doel van de Raad van Europa is het bevorderen van de eenheid tussen de lidstaten, met name door het sluiten van onderlinge verdragen. Een van de belangrijkste daarvan is het Europees Verdrag tot Bescherming van de Rechten van de Mens.
