Voor toepassingen van nieuwe technologie geldt: 80 procent van de mensen gaat er dom mee om, 20 procent maakt er intelligent gebruik van, stelt AI-expert Sander Duivestein. Dus vreest hij dat AI-bots gaan bijdragen aan ‘de infantilisering van de maatschappij’.
schrijft voor de Volkskrant over zingeving.
Voor de ‘gitzwarte gevolgen’ van sociale media waarschuwde hij al in 2012. In het rapport The Dark Side of Social Media ventileerde hij, samen met coauteur Jaap Bloem, bezwaren die destijds controversieel waren, maar inmiddels veel minder: sociale media manipuleren, zetten aan tot sensatiezucht en haat, werken domheid, populisme en fascisme in de hand en zijn funest voor privacy. Daarop kreeg hij de volle laag van techno-optimisten, omdat hij onvoldoende oog voor de positieve kanten zou hebben. Dertien jaar later worstelt Sander Duivestein nog altijd met die balans: ‘Ik moet erop letten om de waarde van sociale media te blijven zien, ik kan mezelf soms in dystopisch denken verliezen.’
Dat hebben lezers van de Volkskrant mogen ervaren, in vlijmscherpe columns voorspelt hij geregeld een verre van rooskleurige toekomst door toedoen van kunstmatige intelligentie (AI). Een typerende Duivestein-alinea: ‘We staan op de drempel van een ongemakkelijke omkering. En laten we eerlijk zijn: het is ronduit vernederend. Eeuwenlang betekende vooruitgang ontsnappen aan het lijfelijke, van de schop naar het scherm, van handenarbeid naar PowerPoint. Maar de AI-revolutie keert die lijn radicaal om, met een sadistische twist. Hoe abstracter je werk, hoe kwetsbaarder je bent. De toekomst is lichamelijk. En vaak ranzig, zweterig en ondankbaar.’
Al twintig jaar is hij verbonden aan het Verkenningsinstituut van technologie-adviesbedrijf Sogeti (20 duizend werknemers wereldwijd), een functie die hem in staat stelt ‘in volledige vrijheid’ zijn gedachten over de digitale toekomst te laten gaan. Zijn observaties deelt hij in columns en opiniestukken, maar ook als spreker en adviseur van bedrijven. Boeken schrijft hij met grote regelmaat. In 2021 verscheen Echt nep, waarin hij met twee collega’s de AI-toekomst verkent: ‘Op dat moment liepen we op de muziek vooruit, inmiddels is het achterhaald.’ Een nieuw boek staat op stapel, met als werktitel Het tweede brein, waarin hij de ‘vervlakking, versplintering en vervreemding’ door digitale krachten aan de kaak stelt. Toch meent hij ook dat technologie ‘kan helpen onze verborgen talenten te ontdekken, waardoor we alles uit het leven kunnen halen’.
Dat laatste vormt zijn diepste drijfveer, ingegeven door het lot van zijn vader: ‘Die leefde voor ons, zijn kinderen. Dat ik economie in Tilburg kon studeren, terwijl hij zelf niet naar de universiteit was gegaan, vond hij prachtig, ik vervulde zijn droom.’ Vader Duivestein, royaltymanager bij Philips-dochter Polydor, stelde zijn eigen behoeften uit – hij beloofde zijn vrouw op vakantie te gaan zodra hun jongste kind zou zijn afgestudeerd. De ziekte van Parkinson kreeg hem in de greep, waardoor het er nooit meer van kwam: ‘Dat gaat mij niet overkomen, heb ik me voorgenomen, ik wil het leven in dit moment ten volle leven.’
Vandaar de grote voorliefde van de 54-jarige Duivestein voor niet-digitale ervaringen, zoals ‘bier tappen in De Drie Zwaantjes, de kroeg van mijn vriendin, wandelen met de hond of live een goed gesprek voeren’. Zijn voornemen verklaart waarom hij afschuw voelt bij mensen die bij een popconcert door schermpjes turen. ‘Ze worden toeschouwers van hun eigen beleving. Dat maakt het leven schraal, het is zo zonde. Straks is je leven voorbij, wat heb je er dan mee gedaan?’
In 2008 toonde u zich in het boek Me The Media nog opgewekt over sociale media, u benadrukte hun bijdrage aan ‘de verdere ontwikkeling van de mensheid’.
‘Ik zag toen vooral het goede van internet, namelijk dat het je in staat stelt, als burger of als consument, je stem te laten horen. Dat vind ik nog altijd de kracht, in beginsel. Voorheen was er sprake van eenrichtingsverkeer van traditionele media en kon je niets terugzeggen. Doordat er een tweerichtingsverkeer ontstond, werden bedrijven en overheden gedwongen naar mensen te luisteren. Die democratiserende kracht vond en vind ik positief. Je kon het destijds ook op politiek vlak zien; bij de Arabische Lente in 2011 zag je hoe Facebook werd ingezet om het verzet tegen een dictatuur te organiseren.’
Vier jaar later zag u de gitzwarte kanten van sociale media. Vanwaar die ommekeer?
‘In 2011 liepen rellen in Londen volledig uit de hand met een hoofdrol voor de BlackBerry. Via dat apparaat kon je razendsnel berichten met elkaar delen, wat destijds nieuw was. In een mum van tijd werd een mensenmassa opgetrommeld om de boel kort en klein te slaan. Dat was een eyeopener, het toonde een enge kant van sociale media die ik me tot dan toe niet had gerealiseerd.
‘Zelf ervoer ik die mobiliserende kracht door het commerciële weblog dat ik met enkele vrienden runde. We zetten tien berichten per dag erop, vaak met een absurde, stupide inhoud. Dat sloeg enorm aan, we kregen wel 150 duizend bezoekers per dag, met advertenties verdienden we maandelijks 40 duizend euro. Tot mijn schrik haalden de meest afschuwelijke items de hoogste aantallen views en likes.
‘Ook organiseerden we flashmobs. Ik zat op een gegeven moment op een bootje in Friesland, terwijl tegelijkertijd mensen op een Rotterdamse bijeenkomst plots een paraplu opstaken op die zonnige dag. Volkomen onschuldig vermaak, maar dat je zoiets voor elkaar kon krijgen, vond ik doodeng. Het leerde me hoe krachtig je mensen via sociale media kunt manipuleren. Ik had iets in gang gezet, maar had er geen enkele controle meer over.
‘Wat me in die tijd verder verontrustte was de onweerstaanbare opkomst van dat sexy glimmende apparaat waar opeens niemand meer zonder kon, de iPhone. Ik nam hem overal mee naartoe, zelfs naar mijn slaapkamer, om maar permanent online te zijn, hij kaapte voortdurend mijn aandacht weg. Ik zag toen het grote gelijk in van Nicholas Carr (Amerikaanse technologie-schrijver, auteur van The Shallows, What the Internet is Doing to Our Brain, red.) die als eerste de vraag opwierp: maakt Google ons dom? Hij had gemerkt dat hij steeds meer moeite kreeg zonder concentratieverlies lange teksten te lezen, hij ontleedde heel kritisch de manier waarop ons brein zich aan de digitale wereld aanpaste.’
Hoe beziet u in dat licht het massale gebruik van ChatGPT en andere AI-bots, worden we daar dommer van?
‘Dat risico bestaat zeker, maar het hoeft niet, het hangt ervan af hoe je het gebruikt. Met een hamer kun je een spijker in de muur slaan, maar je kunt ook iemands hoofd ermee inslaan. Zo is het met technologie ook. Zelf gebruik ik ChatGPT en bots als Claude en Grok om ideeën te verkennen. Ik stel bijvoorbeeld graag de vraag: ‘Kun je met onverwachte inzichten komen waar wereldwijd nog niemand aan heeft gedacht?’ Dat leidt vaak tot platitudes, maar af en toe zit er echt een pareltje tussen.
‘Of ik voer Grok een ChatGPT-tekst en zeg: ‘Dit kun jij toch beter?’ Dat werkt goed. Een column schrijven vergt daardoor wel meer tijd. Wat ik vroeger in een dag deed, kost me nu soms drie dagen; het maken van tweehonderd versies is niet ongebruikelijk. Het voordeel is dat je langs deze weg je ideeën toetst en dat je tot nieuwe inzichten komt, terwijl ik toch de componist, dirigent en eindredacteur van mijn tekst blijf. Met AI-bots sparren scherpt mijn intellect, het levert me meer op dan brainstormen met collega’s. Met hen heb ik het tegenwoordig meer over onze privélevens, ik weet daar tegenwoordig veel meer van, haha.
‘Maar mijn grote zorg is dat mensen tevreden zijn met het eerste antwoord dat ze van een AI-bot krijgen. Ze moeten vooral niet voor zoete koek aannemen wat AI voorspelt, uitlegt of voorspiegelt. Dan komt een rode draad in mijn werk in beeld: mijn vrees voor de infantilisering van de maatschappij. Helaas geldt bij toepassingen van nieuwe technologie de 80-20-regel: 80 procent van de mensen gaat er dom mee om, maar 20 procent maakt er intelligent gebruik van.’
Dus als we AI slim gebruiken, kunnen we ons intellect scherpen, maar bij verkeerd gebruik worden we dommer?
‘We kunnen inderdaad beide kanten op. Ons denken wordt er hoe dan ook door vervormd, AI valt niet meer weg te denken. Dus is het van het grootste belang dat we ons bewust zijn van wat we wel en wat we niet uitbesteden. De grote vraag is: welk deel van ons denken geven we weg?’
Uitbesteden is niet per definitie verkeerd?
‘Nee, AI kan zeker behulpzaam zijn, denk aan repetitief kenniswerk. De radioloog die een derde van zijn tijd besteedt aan diagnosticeren op basis van foto’s, kan dat overlaten aan AI, dat het sneller en beter kan doen. De radioloog blijft eindverantwoordelijk, hij krijgt meer tijd de diagnose op een humane, goede manier met zijn patiënt te delen. AI kan zo de professional helpen zijn menselijke kant naar boven te laten komen.
‘Er zijn verder genoeg waardevolle toepassingen, denk aan het ontwikkelen van medicijnen, nieuwe materialen of het verkennen van nieuwe ideeën. Waarover ik me zorgen maak, is dat we de impact op ons denken onvoldoende doorgronden.’
Kunt u die impact preciezer benoemen?
‘Dat valt het best duidelijk te maken met een drietrapsraket die uitlegt hoe de digitale wereld ons denken heeft beïnvloed. De eerste fase was die van de vervlakking: door internet zijn we steeds minder in staat traag te denken en geconcentreerd te lezen, verslaafd als we zijn aan de verleidelijke prikkels van digitale informatiestromen.
‘Een tweede fase is die van de versplintering van de maatschappelijke werkelijkheid. Dat is het gevolg van het online kunnen smeden van je eigen realiteit, met likes en hartjes, wat tot eigen denkkaders heeft geleid. Politiek heeft dat tot gevolg dat een deel van de kiezers in feitenvrije verhalen is gaan geloven. Door AI wordt die versplintering verder verdiept, AI-bots kunnen je bewijsmateriaal voor elk gewenst narratief leveren.
‘De derde fase is de vervreemding van de ander en uiteindelijk ook van jezelf. Die vervreemding zagen we bij de rellen in Den Haag die uit simplistische vijandbeelden voortkwamen, de internetwereld kwam de fysieke wereld binnen. De vervreemding van jezelf zie je bij mensen die op ChatGPT verliefd worden – een relatie met hun chatbot, hun hele hebben en houwen eraan toevertrouwen, dan dreigt de band met de fysieke werkelijkheid verloren te gaan.’
Wat is uw hoop?
‘Ik hoop dat mensen de waarde van die fysieke werkelijkheid, van contact met elkaar, blijven inzien. Dat ze niet meegaan in de waanzin van investeerder Marc Andreessen (de Amerikaanse oprichter van webbrowser Netscape, red.), die ons voorspiegelt dat we in een virtuele werkelijkheid eenzelfde geluk kunnen ervaren als hij in zijn miljardairsbestaan. Zum Kotzen. Ik hoop vooral dat mensen dankzij AI een hoger niveau van zelfverwezenlijking weten te bereiken. Wanneer mijn column door twee, drie dagen stoeien met ChatGPT beter is geworden, maakt me dat oprecht gelukkig. Zo’n ervaring wens ik iedereen toe – kritisch nadenken is juist nu van levensbelang.
‘In wezen komt AI neer op democratisering van kennis. Die wordt voor iedereen toegankelijk, niet-universitair geschoolden krijgen specialistische kennis binnen handbereik waardoor ze gelijkwaardig aan universitair geschoolden kunnen worden. Dat vind ik een goede ontwikkeling. Maar dan moeten we wel ermee ophouden het eerste antwoord dat we van AI krijgen voor de waarheid aan te zien.’
Boekentip: Levenslange Liefde van Barbara van Beukering
‘In een tijd waarin we steeds meer aan technologie uitbesteden, laat dit boek zien dat liefde vraagt om aanwezigheid, moed, het durven blijven voelen en ruimte geven aan de ander. Van Beukering geeft aan hoe we echte verbinding kunnen aangaan – niet alleen met een partner, maar ook met onszelf.’
Geselecteerd door de redactie
Source: Volkskrant