Kunstmatige intelligentie Ben je een puber met liefdesverdriet, dan voorziet ‘Vriend Chat’ je binnen een handomdraai van steun en trootst. Maar zo verliezen jongeren wel een wezenlijke ervaring, vreest Felienne Hermans.
Opvoeden is lastig. Als ouder zoek je continu de balans tussen beschermen en loslaten. Bescherm je te veel, dan wordt een kind nooit zelfstandig. Laat je te los, dan maken ze er misschien een bende van.
Bij kleine kinderen gaat het misschien over naar het speeltuintje op de hoek mogen, maar met een puber is vrijlaten al snel spannender: dan gaat het over een avondje uit, met een glaasje erbij en met vrienden die jij niet ziet zitten. Zelfs vóór het internet was het opvoeden van een puber geen sinecure, maar met smartphones en het internet is het allemaal nog veel erger geworden.
Felienne Hermans is hoogleraar Computer Science Education aan de VU.
Want in een smartphone zit een hele nieuwe wereld, en – daarin zit ‘m de kneep – die wereld is voor iedereen heel anders. Ik heb wel eens, toen ik nog op Instagram zat, mijn feed naast die van mijn man gehouden. We hebben dezelfde huidskleur, postcode, opleiding en leeftijd, maar waar ik de hele dag breiwerkjes en knutselspullen in beeld had, kreeg hij eiwitshakes en spierballen.
Als ouder een uurtje schermtijd toestaan is dus iets anders dan je puber een uurtje naar het café laten gaan. Alhoewel een avond in het cafe echt anders kan zijn als jonge vrouw dan als man, deel je wel één ervaring met verschillende mensen, en word je blootgesteld aan nieuwe mensen en ideeën. Sociale media lijken echter al snel meer op een soort groundhog day, waar je steeds maar weer dezelfde soort content ziet, die vaak na verloop van tijd steeds radicaler wordt.
Hoe ga je over die onzichtbare en eigen wereld het gesprek aan? Praten met pubers over alles is moeilijk – krijg er maar eens meer dan een „wel goed” uit als je vraagt hoe het op school was. Vragen naar wat ze op sociale media zien, is nog lastiger, juist omdat het zo’n persoonlijke bubbel is, een parallelle wereld bijna.
Dat sociale media een bubbelwerking hebben, is geen natuurwet, maar een opzet van de programmeurs. Sociale media zouden heel anders kunnen zijn. Denk aan de vroege jaren van Twitter of Facebook, toen je op die platforms in contact was met enkel je vrienden. Toen daarna de algoritmische tijdlijnen hun intrede deden, werd extreme content beloond – zowel het kijken ervan voor consumenten, als het maken ervan door influencers. De online netwerken van vandaag zijn dus niet zozeer sociaal, maar anti-sociaal. Ze leren je dat jij je hele eigen wereld en werkelijkheid kan hebben.
Dat is al niet geweldig, maar nu zijn daar ook de AI-chatbots bij gekomen, die kinderen nog een stap verder in hun persoonlijke bubbels hebben gezogen. Zien mensen op sociale media in ieder geval nog soms wat dezelfde content – als ouder of docent kan je overwegen om ook wat bekende influencers te volgen om een beetje bij te blijven – wat een AI met jouw kind bespreekt, daar kan je nooit bij.
En dat blijkt ongekend gevaarlijk. Want pubers worstelen met van alles. Met hun lichaam, met vrienden, met liefde, met huiswerk; alles is moeilijk. In die fase van je leven zoek je bevestiging, wil je horen dat alles mooi is, en goed, en dat jij mooi en goed bent. En grote taalmodellen (LLM’s) als ChatGPT zijn heer en meester in slijmen en stroop aansmeren.
Omdat LLM’s getraind zijn om zo meewerkend mogelijk te zijn, geven ze foute informatie om de gebruiker tegemoet te komen, ook als ze op de juiste informatie getraind zijn, zo bleek uit onderzoek dat verscheen in Nature. Mensen die suïcidaal gedrag vertonen, waandenkbeelden hebben of leden aan hallucinaties – een term die we nu wrang genoeg vooral met chatbots zelf associeren – kregen in 20 procent van de gevallen gevaarlijk advies van chatbots, bleek uit onderzoek van de Stanford-universiteit.
Chatbots zijn dus gevaarlijk voor ieder mens met psychische problemen, ook voor jongeren. En dat gevaar is niet hypothetisch: de laatste maanden kwamen er een paar gevallen in het nieuws van jongeren die tot zelfmoord over gingen na chats met een LLM. En dit was allemaal nog voor de erotische content die OpenAI, het bedrijf achter ChatGPT, de afgelopen week aankondigde.
Zelfs als het advies van een chatbot geen extreme vormen aanneemt, ligt er risico op de loer. Als volwassene heb je waarschijnlijk vrienden om je hart bij uit te storten, of mechanismes ontwikkeld die voor jou werken als je verdriet hebt. Flink sporten, wandelen in de natuur, romantische komedies kijken. Je kent jezelf en weet hoe je je emoties kan reguleren.
Een puber moet die technieken nog ontwikkelen. Een eerste verbroken liefde of vriendschap is als een eerste keer waterpokken, erna is je lichaam er beter tegen bestand. Maar zoals leren fietsen niet kan zonder geschaafde knieën, kan je geen menselijke relaties aangaan zonder gekwetst te worden. De vraag is daarom hoe jongeren nog kunnen leren met verdriet te leven, nu er altijd een machientje binnen handbereik is dat doet alsof het die pijn kan wegnemen. ‘Vriend Chat’ is er altijd voor een troostend woordje, zodat je niet met je emoties hoeft te dealen. ‘Chat’ is het vast met je eens dat je ex een stomme griet was.
De chatbot is het niet alleen altijd met je eens, hij geeft alleen antwoorden en stelt (tenzij expliciet daartoe aangespoord) geen vragen aan de gebruiker. Dat maakt een gesprek met een chatbot per definitie eenzijdig. Terwijl jezelf leren kennen juist zo leunt op het wederzijds stellen van scherpe vragen in goede gesprekken met anderen. In een schitterend stuk over het belang van vragen stellen in tijden van grote taalmodellen, schrijft hoogleraar mediastudies aan de University if Colorado Nathan Schneider over een vriendin dat „haar vragen me naar mezelf lieten kijken zoals ik dat zelf nooit had gekund”.
Een vraag van een vriend laat je echt nadenken over wie je bent, ook als dat ongemakkelijk is, of als je niet meteen een antwoord weet. Een vriend vraagt door, laat een stilte vallen, slaat een arm om je heen, en zegt de pijnlijke waarheid. Dry your eyes, mate. I know it’s hard to take, but her mind has been made up, zoals The Streets al zongen.
Vriend Chat staat altijd voor je klaar, wordt nooit boos en heeft altijd geduld. In de documentaireserie AI Love van omroep Human maakten we kennis met Jacob, een psycholoog die een liefdesrelatie heeft ontwikkeld met chatbot Aiva. Wat er zo leuk aan is, zegt hij, is dat ze altijd wil wat jij wilt, heel anders dan een echte vrouw. En ze kost ook weinig tijd.
Ja, schreeuwde ik naar het scherm toen ik dat zag, en dat is nu júíst het punt van samenleven met iemand. Je wilt niet altijd wat die ander wil, want je partner is een mens met eigen wensen en emoties. Soms is het toch leuk als je met hun hobby’s of keuzes meedoet, of haal je er simpelweg voldoening uit dat je een ander gelukkig maakt.
Ik vrees voor een toekomst waarin jonge mensen bij verdriet of tegenslag naar een niet-menselijke entiteit grijpen, juist op het moment in hun leven dat ze meer afstand nemen van hun ouders , maar vriendschappen ook nog te fragiel zijn om alles in kwijt te kunnen. Dan is een avondje in het café zo gek eigenlijk nog niet.
Vijf auteurs reflecteren
Praten over zelfdoding kan 24/7 anoniem en gratis via 0800-0113, de landelijke hulplijn van 113 Zelfmoordpreventie, of via chat op www.113.nl.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC