Waarom je niet moet luisteren naar techno-optimisten

Alice, Bob en Eve heten ze. Drie computers, kunstmatig intelligente (AI) systemen in het Google Brain lab. Alice en Bob ontwikkelden een geheimtaal. En het lukte Eve niet om die te decoderen. Het was een fascinerend nieuwsberichtje waar ik een paar dagen op moest kauwen. In de toekomst kunnen computers dus in geheimtaal dingen met elkaar bespreken, zonder dat andere systemen dat kunnen kraken. HET EINDE VAN DE WERELD IS NABIJ!

Het was een wonderlijk experiment, waar we volgens de onderzoekers niet teveel achter moeten zoeken. De geheimtaal was nog eenvoudig, een gemiddelde it-student kraakt dat zo in een vrij tussenuur. En Eve? Tja, Eve zal dan nog een beetje dom zijn. Maar voor hoelang nog? Volgens Stephen Hawking kan AI het einde van de mensheid inluiden. Ook Elon Musk en Bill Gates waarschuwen ons voor oncontroleerbare, op hol geslagen, almachtige AI-systemen zonder uitknop.  

Je vraagt je langzaam aan af waarom we er dan toch mee doorgaan. Als we technologie ontwikkelen die ons ten gronde doet gaan, misschien moet de rem er dan even op?

Maar nee, in de ogen van de techno-optimisten van Silicon Valley leid ik dan aan technophobia. We moeten vooruit. Sterker, Facebook, Microsoft, Amazon en IBM trekken samen op om de wereld de voordelen van AI te onderwijzen. Want bang zijn voor AI, dat is niet nodig.

Onbegrensd

Goed, technologie heeft ons veel gegeven. Obama zei laatst nog een met optimisme doorspekt interview in Wired: 'Het is een geweldige tijd om te leven.' (Dat was overigens voordat Trump de verkiezingen won.) Dankzij medische innovaties leven we langer dan ooit tevoren. Als je op je 92e nog een marathon wilt rennen, dan kan dat. Zelf stofzuigen is niet meer nodig dankzij de robot die zuigt terwijl u werkt.

De mogelijkheden zijn onbegrensd. Er bestaan oordopjes die rechtstreeks vertalen wat er in het Hindi, Japans of Noors tegen je wordt gezegd. Vaarwel gestuntel met handen en voeten bij het vliegveld. Fysiotherapeuten gaan aan de slag met robotspieren. En wie verlamd is, kan dankzij medische technologie weer lopen. De lijst is oneindig. De voordelen evengoed.

Maar de lijst van ellende die wordt veroorzaakt door diezelfde technologie, is even lang. We zitten vastgelijmd aan schermen, zodat we elkaar nauwelijks nog zien. Onze kinderen hebben last van iPad ogen (bijziendheid) en iPad ruggen. Driekwart van de Britse kinderen komt minder buiten dan een gevangene. Met onze technologie creëren we massale hoeveelheden e-waste die we onmogelijk kwijt kunnen. De lucht in New Delhi was zo verontreinigd vorige week dat de scholen dicht moesten.

Overoptimisme

In hetzelfde november nummer van Wired liet vertrekkend president Obama Silicon Valley een to-do lijstje achter dat er niet om loog. Herstel ongelijkheid. Bestrijd cyber criminaliteit. En: Beteugel kunstmatige intelligentie.

De techno-optimisten weten het zeker: technologie gaat de wereld redden. Maar technologische vooruitgang komt met risico’s. Overoptimisme maakt dat we eerder geneigd zijn die voor lief te nemen. In zijn boek ‘The Sceptical Optimist’ houdt Nicolas Agar een pleidooi voor een kritischere blik. Skeptisch optimisme.

Het is oké om bang te zijn voor technologie. We moeten onze angsten doorgronden en in scenario’s verkennen. We moeten veel vaker vraagtekens stellen bij wat we ontwikkelen en waarom. Met hoeveel technologie willen we ons omringen? Als Google, Facebook of Microsoft binnenkort komen doceren over de voordelen van AI, laat je angst dan rustig de vrije loop. Omdat het kan, wil niet zeggen dat het ook moet.