Nieuw in Nederland en nu al berucht: deepfake-reclames op sociale media

Nederlandse TikTok-gebruikers maken voor het eerst kennis met reclames die gemaakt zijn met deepfake-technologie. De advertenties verwijzen met misleidende financiële claims naar legitieme partijen. Die zijn zich van geen kwaad bewust en willen de reclames offline halen. Maar dat is nog niet zo makkelijk. En de kans is groot dat er alleen maar meer deepfake-advertenties op sociale media zullen verschijnen.

Het tiental reclames in kwestie is gedeeld op TikTok, schrijft BNR in een uitgebreid artikel. De advertenties tonen echt lijkende mensen die in werkelijkheid door slimme software gegenereerde avatars zijn. Ook hun stemmen zijn digitaal gegenereerd. Zo is er sprake van een deepfake-video. De video's in kwestie zijn volgens BNR ontwikkeld via de software van Synthesia, verkrijgbaar voor nog geen dertig euro per maand. 

Met deepfake-technieken zoals die van Synthesia kan de maker binnen een handomdraai video's met tekst en spraak in verschillende talen creëren. Dat kan tot veel spam leiden, zeggen experts tegen BNR. Sociale media als Facebook treden volgens de experts op tegen deepfakes, maar in hoeverre en op welke manier TikTok dit doet is nogal onduidelijk.

De Nederlandstalige deepfake-video's die op TikTok rondgingen maken volgens BNR onderdeel uit van een bredere advertentiecampagne, gerund door een schimmig bedrijf dat zich mogelijk in Oekraïne ophoudt. De video's maken reclame voor particuliere leningen, maar voldoen niet aan de Nederlandse regels voor kredietreclame. Zo klopt de inhoud niet en ontbreken waarschuwingen. De advertentievideo's verwijzen TikTok-gebruikers door naar websites van bekende Nederlandse merken als ING, PriceWise en ABN Amro. Voordat de gebruiker op zo'n website komt, belandt hij eerst op een tussenwebsite die reclames via Google toont. Google betaalt de website-eigenaar per klik, waarna de bekende Nederlandse websites Google per weer klik betalen.

Geen van de partijen is blij met de gang van zaken. ABN Amro en PriceWice zeggen niet betrokken te zijn bij de advertentiecampagne en stappen te ondernemen om de video's offline te halen. De Autoriteit Financiële Markten (AFM) kent de video's en maker(s) ook niet en zegt dat het verboden is om consumenten te misleiden met 'personen van wie de consument denkt dat ze echt zijn.' De AFM zegt echter niet direct op te treden, onder andere omdat TikTok als platform verantwoordelijk is voor het beoordelen van de reclames. TikTok reageerde niet op verzoeken van BNR om commentaar.

Google kan niet inhoudelijk op de zaak ingaan maar zegt in zijn algemeenheid meteen op te treden als een adverteerder misleidende reclames gebruikt om bezoekers naar het Google-advertentienetwerk te lokken. Google kan bijvoorbeeld het adverteerdersaccount opheffen. Ter illustratie: in 2021 gebeurde dat 5,6 miljoen keer, overigens om allerlei redenen.

Nu het steeds makkelijker en goedkoper wordt om deepfake-video's te creëren, lijkt er ook meer werk aan de winkel voor de Google's en TikTok's om gebruikers te beschermen tegen of te informeren over gegenereerde video's die (niet) aan de regels voldoen.