Menno van Doorn, Sander Duivestein en Thijs Pepping schrijven in Echt Nep voor het VerkenningsInstituut Nieuwe Technologie (VINT) van Sogeti enthousiast over de aanstaande omwentelingen. Volgens inleider Andrew Keen, erkend internetcriticus, stelt het drietal ‘vooraanstaande Nederlandse ‘techno-futuristen’ grote vragen over realiteit in het tijdperk van AI. Die luiden:
1. Verdwijnt het verschil tussen echt en nep?
2. Waarom verliezen feiten het zo vaak van fictie?
3. Hoe kunnen we met synthetische media nieuwe verhalen vertellen?
4. Hoe herstellen we onze relatie met de realiteit?
Eerst de definitie: ‘Synthetische media zijn door kunstmatige intelligentie (AI) gemanipuleerde of gecreëerde data en media, zoals beeld, geluid en virtuele ervaringen…om een digitaal informatief artefact te produceren.’
Dus in die zin zijn ook de filters van TikTok en Snapchat waarmee je de werkelijkheid naar je hand zet al ‘synthetisch’. Met AI gaat dat veel verder en ontstaan ‘denkmachines’ die de Homo Syntheticus ten dienste staan. Daar gaan we als ‘verhalenvertellers’ en ‘spelers’ soepel mee om, en het heeft zeker niet enkel negatieve gevolgen, ook al gaat ‘post-truth’ over in ‘post-reality’.
Vloeibare grenzen
Kern vormt het onderscheid tussen realiteit en subjectieve beleving, dat overigens al de hele mensheid bepaalt, zie de Griekse mythologie of de Bijbel. Auteurs vinden de ‘synthetische realiteit een tweede objectieve realiteit’. Ze schrijven dat de ‘generatie Alfa’ die nu geboren wordt de eerste zal zijn die het onderscheid niet meer maakt ‘tussen nep en echt’.
In navolging van Harari komen ze tot een ‘derde laag’, de imaginaire realiteit, de collectieve fantasie die de objectieve realiteit aanstuurt; zoals religie maar ook een Grondwet of natiestaat. Filosofen – zoals de aangehaalde David Hume – hebben boeken volgeschreven over realiteit, observatie en subjectieve ervaring.
Het onderscheid tussen echt en nep is niet hard, maar vloeibaar, want gebaseerd op afspraken en conventies. Nep en echt vormen een continuüm. Iedere media- en reclame-expert weet hoe het werkt.
Spellenspelers
De constante komt vanuit marketing. Echt Nep grijpt terug op de propagandatheorie die al in 1928 is neergezet door Edward Bernays. Vanuit een ‘imaginaire realiteit’ werd koopdrang aangewakkerd met behulp van media, gedreven door de wens van burgers ‘constantly moving heppiness machines’ te maken. Manipulatie werd strategie, met voortdurende bijstelling van realiteit in beelden. In die zin is de metaverse wellicht niet zozeer ‘een revolutie’ maar een volgende fase, maar daar gaat Echt Nep niet op in. Het boek had wat meer oog voor reclame en marketing mogen hebben.
Immers, ze bestempelen de mens als een ‘post realiteitswezen’ maar ook een ‘spelletjesspeler’, en die zoekt liever goeie verhalen dan de waarheid. Dat pakt ook verkeerd uit, want er is grote behoefte ontstaan aan gecreëerde waarheden. Alternate Reality Games en Live Action Role-Playing Games vormden de voedingsbodem voor groeiende verwarring en achterdocht en daarmee van het complotdenken. Krankzinnige hypotheses zijn weliswaar schadelijk voor samenleving en democratie, maar gezond wantrouwen draagt volgens de auteurs ook bij aan het blootleggen van misstanden en daadwerkelijke samenzweringen.
Economie van verhalen
Complotdenkers lijden aan ‘kennisweerstand’, een fraaie term uit ‘Knowledge Resistance’ van de Zweed Mikael Klintman: het afsluiten van betrouwbare informatie omdat die het groepsdenken bedreigt en daarmee de geruststelling die mensen in hun sociale omgeving zoeken. (zie college)
Onlogisch is dat allerminst. Zo verklaren Hugo Mercier en Dan Sperber aan hoe we op korte termijn uit een teveel aan informatie een selectie maken gericht op overleven, en ons gedrag nauwelijks door feiten laten beïnvloeden. Deze theorie vinden de auteurs beter dan van Nobelprijswinnaar Daniel Kahnemann met z’n onderscheid tussen intuïtie en zorgvuldig nadenken als verklaring van veel menselijk gedrag.
De GameStop beursexplosie is een mooi voorbeeld van groepsgedrag dat de economische realiteit naar z’n hand zet. Dit past in de ‘Narrative Economy’ (Robert Shiller) waarin geloofwaardige verhalen de realiteit gaan vormen. Oftewel de ‘dematerialisatie’ van de economie is een gevolg van het collectief proces van bundeling van nieuwe verlangens (hebzucht?) in de markt waar bijvoorbeeld NFT’s een exponent van zijn.
De auteurs draven wat door met ‘nep is het nieuwe echt’; de digitale wereld is het origineel, de fysieke de kopie. We gaan daarmee zelfs naar een Yolo Fomo Lol-economie (Erin Griffith) of punkeconomie, ook wel als ‘chaos’ te bestempelen. Natuurlijk onderstreept de reëel gemaakte fantasie van ‘cryptocurrency’ hun gelijk, maar ook iets als de grote bedragen die omgaan in virtuele paardenraces van Zed Run. In deze economie zullen grenzen tussen werk en privé, vooral door groeiende invloed van het spelen met werken, verder vervagen.
Ethisch raamwerk
Dit gaat gepaard met de opkomst van ‘digital humans’, allerlei vormen van digitale en ‘echt’ bestaande personen. Antropomorfisme breidt uit, het toekennen van menselijke eigenschappen aan dingen en dieren. Dat kan tot een ‘griezelvallei’ van enge vormen leiden als slechts minieme afwijkingen tussen virtuele en ‘echte’ wezens ons op het verkeerde been zetten. Al 40 procent van de Millenials en GenZ ziet het verschil niet meer bij digital humans die ze als influencer volgen.
De nadruk op de schaduwkant van de nieuwe fenomenen is begrijpelijk gezien de vele gevaren en verwachte uitwassen (zoals met ‘content collapse’ en ‘context collapse’), maar we kunnen en zullen ermee leren omgaan dankzij meer ‘mediageletterdheid.
Dat noopt tot het optuigen van een raamwerk ‘Reality Ethics’. Er zullen nieuwe nuances ontstaan en we leren ‘nep en echt’ beter beoordelen en zo nodig onderscheiden. We hebben ook cognitief evolutionair psychologen nodig om een nieuwe verhouding tot de realiteit en omgang met de nieuwe mediaproducties te leren.
Iedereen kan immers ook in de metaverse behalve zintuigelijk waarnemen ook controleren en nadenken om het onderscheid tussen reëel en irreëel te bepalen. Dus is de angst voor deepfakes te groot.
Ook positief is grootscheepse inzet van synthetische media voor wat de auteurs ‘herstelverhalen’ noemen, naar bioloog en activist George Monbiot: verhalen over nieuwe richtingen voor de maatschappij, waarin we collectief geloven en waarmee we een nieuw evenwicht vinden tussen realiteit, idealisme en mediacreatie; zoals bijvoorbeeld het streven naar klimaatverandering of betaalbaar wonen.
Toekomst
Echt Nep schiet technologisch en met onderbouwde theorie vanuit verschillende wetenschappen in de roos; met bijvoorbeeld ‘facial reenactment’ door de Indiase startup Rephraise.ai, al ingezet voor chocolademarketing; pseudonimisering van de lhbt-gemeenschap in Tsjetsjenië, de leuke app Oobah voor dubbelgangers, virtuele identiteit van een niet-bestaande Martin Aspen en de Spielberg-film Ready Player One waarin mensen eigen identiteiten kunnen vormen.
Het is een uitstekend boek over gevolgen van toepassing van synthetische media in de metaverse. Maar biedt nog niet het overkoepelende , meeslepende verhaal. Ofschoon de auteurs goed onderbouwen met vele wetenschappers zoals sociologen Ervin Goffman – die ik bewonder - en Jean Baudrillard en de evolutionaire bioloog Witte Hoogendijk, mis ik de lange draad: waar komen we vandaan en waar gaan we heen?
Wat betekent dat hele metaverse gedoe voor de intense maatschappelijke ontwikkeling met nadruk op identiteiten in een wereld op drift? En begon die ‘narratieve economie’ van crypto al niet veel eerder met Hollywood, voetbalrechten en -merchandising, muziekwereld en volatiele koersen?
Ik vind mensen die als ‘futuroloog’ door het leven gaan geschiedenis als uitgangspunt moeten nemen. Dat leidt bijvoorbeeld tot bescheidener gebruik van het woord ‘revolutie’. (Want volgens auteurs gloort er al een ‘vijfde mediarevolutie’ van ‘crypto media’.)
Ze hadden kunnen teruggrijpen op hun eerdere boeken bij Vint, de club van Michiel Boreel die qua technologische analyses aan de top staat in Nederland. Hoe is het afgelopen met die vergezichten? Vooruitkijken begint met kritisch terugkijken.
Auteurs bekennen in hun epiloog dat ze er nog niet helemaal uit zijn en doen een beroep op ‘andersdenkenden, kunstenaars, vrijbuiters, beleidsmakers, burgers en ondernemers’ om zich te storten op synthetische media om er hun eigen betekenis aan te geven. Dat is een charmante oproep…