Geen geld steken in armoedebestrijding voor de mensen van nu, maar liever in AI en ruimtevaart voor de vele mensen van straks. Dat dicteert het langetermijnisme, een filosofische stroming die in trek is onder techmiljardairs. ‘Dit is extreem problematisch.’
Laurens Verhagen en George van Hal werken op de wetenschapsredactie van de Volkskrant.
Moeten we ons geld uitgeven om het leven te verbeteren van mensen die miljarden en miljarden jaren in de toekomst leven? Ja, zeggen aanhangers van het langetermijnisme: alleen op die manier kun je ervoor zorgen dat zo veel mogelijk mensen gelukkig zijn. Bij hun morele optimalisaties wegen zij expliciet de levens mee van alle toekomstige generaties.
Dit zijn geen obscure zolderkamertheorietjes. De betrokken wetenschappers – filosofen, meestal – schrijven er veelgeprezen bestsellers over en artikelen in peer-reviewed vakbladen, wat betekent dat ze door andere experts aan een kritische blik zijn onderworpen. Het onlangs verschenen boek Essays on Longtermism is daarvan de eerste bundeling.
Honderden miljoenen euro’s gaan erin rond, geld dat onder meer afkomstig is uit Silicon Valley. Prominente techmiljardairs zoals OpenAI-oprichter Sam Altman en Elon Musk doen ook een duit in het zakje. Beiden zijn gecharmeerd van deze ideeën.
Dat geld gaat naar sciencefictionachtige goede doelen, bijvoorbeeld naar investeringen in technologieën die de opkomst van een allesvernietigende kunstmatige intelligentie moeten voorkomen.
Dit langetermijnisme is een extreme uitvergroting van een beweging die al bol stond van de contra-intuïtieve morele besluiten: het zogeheten effectief altruïsme (EA).
Stel je voor: je staat in een straat en voor je neus staat een gebouw in lichterlaaie. Er zijn twee kamers. In de ene bevindt zich een kind en in de andere hangt een dure Picasso. Je kunt maar een van deze twee redden. Aan jou de keus.
Als de jonge Oxford-filosoof William MacAskill – bril, bakkebaarden, donkergroen jasje – dit dilemma in 2015 krijgt voorgelegd in een volgepakt zaaltje in Londen, aarzelt hij geen moment. Natuurlijk kiest hij voor de Picasso. Met de verkoop ervan kan hij immers malarianetten kopen en honderden kinderen elders in de wereld redden.
Zijn gesprekspartner noemt mensen die dit soort koele berekeningen maken ‘harteloze klootzakken’, maar MacAskill ziet dat anders: ‘Je zegt dat dit een gebrek aan sympathie is, maar in werkelijkheid is het een meer gecultiveerde vorm van sympathie.’ MacAskill is naar eigen zeggen in staat om ‘sympathie te hebben voor mensen aan de andere kant van de wereld die gewoon hulp nodig hebben’.
Zijn tegenstanders weten genoeg: MacAskill en de zijnen doen aan spreadsheetmoralisme. Maar de EA-beweging wordt vanaf dat moment alleen maar groter.
Het langetermijnisme vergroot de reikwijdte van dat soort altruïsme ook nog eens in de tijd. Aanhangers tellen ook expliciet de levens van toekomstige mensen mee, die zich volgens hen vermoedelijk zullen verspreiden door de gehele kosmos.
Of zulke mensen nog op ons lijken, doet er daarbij niet toe. Misschien hebben ze zichzelf technologisch verbeterd. Misschien gaat het slechts om menselijke breinen, geüpload naar kosmische computers. Of misschien zijn het door ons gebouwde AI’s, tjokvol digitale gevoelens.
‘De maatschappij heeft net als de ontwikkelaars van AI (...) de morele verplichting om ook het welzijn te overwegen van de AI’s die ze scheppen, wanneer die de drempel halen van een morele status’, schreef de in Silicon Valley razend populaire filosoof Nick Bostrom bijvoorbeeld in 2023.
Op de cover van MacAskills bestseller Omkijken naar de toekomst prijken citaten als ‘een wonder’ van de Britse komiek Stephen Fry, en ‘een buitengewoon boek’ van journalist Rutger Bregman, Nederlands bekendste aanhanger van het effectief altruïsme. In dat boek probeert de Britse filosoof zijn lezers een gevoel te geven voor de schier ontelbare toekomstige generaties die eraan komen, bij hem dan overigens nog expliciet menselijk.
In een intimiderende infographic tekent MacAskill één figuurtje voor elke tien miljard mensen. Het verleden is gevuld met tien figuurtjes: alle mensen die ooit geleefd hebben. De bewoners van de aarde in het hier en nu rondt hij naar boven af tot één figuurtje. En dan komt de toekomst. Na ruim vier pagina’s stopt hij maar.
‘De volledige versie zou twintigduizend pagina’s lang zijn, waardoor dit boek uit zijn voegen zou barsten’, schrijft hij. De implicatie is kraakhelder: er komt nog zó overdonderend veel leven aan, dat het echt onaanvaardbaar zou zijn als we niet alles op alles zetten om het hun zo comfortabel mogelijk te maken.
Zijn boodschap slaat aan. Een recensent van de Britse krant The Guardian noemt MacAskills boek bijvoorbeeld ‘het meest inspirerende boek over ethisch leven dat ik ooit heb gelezen’.
Op het ‘effective altruïsm forum’ staat een overzicht waarin het geld van alle aan EA gelieerde doelen bij elkaar wordt opgeteld. In 2015 geeft niemand nog geld uit aan de zeer lange termijn, in de jaren daarna loopt dat op: van 15 miljoen dollar (13 miljoen euro) in 2016 naar 167 miljoen dollar in 2022, dan ruim 18 procent van het totaal.
Dat geld wordt besteed door organisaties als Open Philanthropy. Naast investeringen in onder meer dierenwelzijn en wereldgezondheid trok die naar eigen zeggen sinds de oprichting in 2011 ruim 530 miljoen dollar uit voor het voorkomen van de risico’s van geavanceerde AI’s – op een totaal van grofweg 4 miljard.
Filosoof David Thorstad van de Vanderbilt University is een van de bekendste critici van het langetermijndenken. Hij was voorheen in dienst van het Future of Humanity Institute van de Oxford-universiteit, waar ook onder meer MacAskill werkte.
‘Het langetermijnisme staat uitzonderlijk goed open voor kritiek. Ze namen me in dienst, ze behandelden me goed, ze gaven me beurzen om kritiek te schrijven’, zegt Thorstad, per videoverbinding vanuit Hongkong, waar hij is voor een congres. ‘Met de meeste aanhangers heb ik nog steeds goed contact. Als ik ze tegenkom, kan ik rustig met ze naar de kroeg.’
Soms is kijken naar de lange termijn volkomen logisch, zegt hij. Wie klimaatverandering wil tegengaan, denkt ook aan toekomstige generaties. ‘Maar langetermijnisten zetten nauwelijks in op de bestrijding van klimaatverandering’ – blijkbaar vinden ze klimaatverandering minder dringend dan bijvoorbeeld de risico’s van een kwaadwillende AI.
Effectief altruïsme en langetermijnisme hebben sterke banden met de techgemeenschap, zegt Thorstad. Ze zijn populair geworden door onder meer het eerdergenoemde Open Philanthropy, waarvan Facebook-medeoprichter Dustin Moskovitz een van de initiatiefnemers is, ‘maar bijvoorbeeld ook door hun invloed tijdens de begindagen van OpenAI’.
De zorgen over het potentiële destructieve vermogen van AI waren een drijvende kracht achter de oprichting van de ChatGPT-maker, die naar eigen zeggen met zijn software een veiliger alternatief wilde bieden. Zowel Sam Altman als Elon Musk, die beiden aan de wieg stonden van OpenAI, was namelijk diepgaand beïnvloed door de filosoof Nick Bostrom.
Die illustreerde zijn zorgen over een door kunstmatige intelligentie gedomineerde toekomst met een beroemd geworden parabel over een paperclips producerende AI. Daarin krijgt die AI alleen de opdracht mee om de productie van paperclips te maximaliseren en besluit daarvoor alle beschikbare middelen te gebruiken. Uiteindelijk vernietigt hij de gehele mensheid. Niet uit haat, maar simpelweg omdat hij alle aardse grondstoffen beter voor zijn paperclips kan gebruiken.
Naast de door hen geuite zorgen over zulke existentiële risico’s voor de mensheid, heeft de combinatie EA en langetermijnisme nog een andere sterke aantrekkingskracht op de techtitanen, zegt filosoof Marijn Sax. ‘Deze ideologieën draaien op het idee dat als je alle scenario’s maar goed genoeg doorrekent, je uiteindelijk het effectiefst goed doet.’ De volgende stap is de aanname dat sommige mensen beter zijn in dit rekensommetje dan andere.
Die mensen zijn de miljardairs die aan het hoofd staan van grote techbedrijven, zo menen sommigen. ‘Hun moet je dan geen strobreed in de weg leggen. Want uiteindelijk zijn hun inspanningen goed voor de hele mensheid, nu en in de toekomst.’ De gevaren daarvan liggen voor de hand, zegt hij, zoals een grondige veronachtzaming van democratische controle.
De techbazen gebruiken zelf in elk geval graag de retoriek van het langetermijndenken, waarvan Elon Musk het prominentste voorbeeld is. ‘Musk zegt dat hij naar Mars wil omdat de mensheid het anders niet zal overleven. Hij spreekt absoluut de taal van het langetermijnisme’, zegt Thorstad. ‘Ik denk dat veel langetermijnisten zelf diep altruïstisch zijn, maar de zorg is dat dit soort retoriek misbruikt kan worden door mensen die minder altruïstisch zijn.’
Ook Sax ziet dat: ‘Op die manier kunnen mensen als Musk hun autocratische macht verkopen met een moreel sausje, dat panklaar is opgediend door filosofen als MacAskill. En als je toehoorders maar naïef genoeg zijn, slikken ze het verhaal over het belang van een glorieuze toekomst als zoete koek.’
Bij denkers als MacAskill, die na een eerste contact per e-mail geen antwoord meer gaf op de vragen van de Volkskrant, lopen het effectief altruïsme en langetermijnisme sterk door elkaar. Sax trekt de fundamenten liever uit elkaar. Hij ziet het langetermijnisme als een ‘extreem problematische vorm’ van het zogeheten utilisme, dat de vraag stelt: hoe kunnen we – niet op individueel niveau, maar voor de gehele mensheid – geluk maximaliseren?
Datzelfde uitgangspunt leidt tot problemen als je het op alle mogelijke toekomstige generaties toepast, betoogt hij: ‘Gaan er miljoenen mensen dood aan honger? Tragisch, maar het is onbelangrijk. We gaan immers naar Mars om de toekomst veilig te stellen, wat weer heel veel geluk gaat opleveren.’
Sax wijst op een interview dat techmiljardair Peter Thiel onlangs had met The New York Times, waarin de invloedrijke Silicon Valley-investeerder een pleidooi houdt voor het nemen van risico’s bij experimentele geneeskunde. Sax: ‘Dat is een perverse gedachte. Thiel houdt niet van regulering. Hij streept graag de individuele rechten van een paar mensen weg tegen de opbrengsten voor toekomstige generaties van een idee als onsterfelijk worden, wat een van Thiels obsessies is.’
Nog extremer is de aanname van mensen als Nick Bostrom dat synthetisch bewustzijn ook geluk kan ervaren, stelt Sax. ‘Met als logisch gevolg dat áls we eenmaal AI hebben die bewust genoeg is, de longterministische calculus kan eisen dat we het universum moeten vullen met zo veel mogelijk simulaties van bewustzijn door zo veel mogelijk serverkracht te creëren in het heelal.’
Los van dit soort extreme scenario’s is het ‘totaal niet radicaal’ om de toekomst mee te wegen bij je beslissingen. Dat zegt Björn Lundgren van het centrum voor filosofie en AI-onderzoek aan de Duitse universiteit FAU in Erlangen-Nürnberg. ‘Als twee opties even goed zijn voor het heden, kies je natuurlijk de optie die óók goed is voor de lange termijn.’
Het wordt moeilijker wanneer die belangen met elkaar botsen. In zijn meest stringente vorm leidt langetermijnisme dan tot de conclusie dat je mensen in het hier en nu kwaad mag doen, of misschien zelfs móét doen, wanneer dat de veel grotere aantallen toekomstige mensen ten goede komt. Al stelt MacAskill in zijn boek expliciet dat die gedachte niet de bedoeling van zijn pleidooi is.
Het is echter helemaal niet bewezen of het meewegen van de lange termijn überhaupt tot andere beslissingen leidt, zo beargumenteerde Lundgren vorig jaar in het vakblad Futures.
Daar komt bij, zegt Thorstad, dat langetermijndenkers vooral bezig zijn met een kansspel. Zij laten zich daarbij verleiden door grote getallen. Neem Nick Bostrom, die in een vakartikel uit 2013 een schatting maakte over de waarde van het uploaden van een mensenbrein naar een computer. Volgens hem zou je daarmee het equivalent van 1052 – een één met 52 nullen – menselijke levens van ‘normale lengte’ kunnen passen in één computer, wanneer je de levensduur daarvan uitspreidt over de veronderstelde toekomstige levensduur van het heelal.
Zelfs wanneer er slechts een kans bestaat van 1 procent op zo’n toekomst, ‘dan is de verwachtingswaarde van het laten afnemen van ons existentiële risico met zelfs maar één miljardste van een miljardste van één procentpunt, al honderdmiljard keer meer waard dan een miljard mensenlevens.’
Of zoals William MacAskill en Hilary Greaves het opschreven in het openingshoofdstuk van Essays on Longtermism: ‘Elke honderd dollar die je uitgeeft aan veiligheid van AI heeft gemiddeld een impact die net zo waardevol is als het redden van een biljoen levens… veel meer dan de voordelen in de nabije toekomst van de distributie van netten om malaria tegen te gaan.’
Maar pas op, waarschuwt Thorstad: zulke getallen zijn minder hard dan ze lijken. ‘Veel langetermijnisten geven toe dat hun schattingen heel subjectief zijn.’ En dan trappen ze ook nog geregeld in logische en statistische valkuilen, zo schreef hij in 2023 in het vakblad Ethics.
Hij gebruikt graag een gedachte-experiment: stel dat je een farao bent in het oude Egypte en alleen beslissingen wilt nemen die de 21ste eeuw ten goede komen. ‘Denk aan de problemen die we vandaag hebben: tekorten aan zeldzame aardmetalen, het afkalven van het democratisch systeem – dat zijn geen dingen waar een farao aan zou denken.’ Een tweede probleem is dat onzekere beslissingen zowel goede als slechte gevolgen kunnen hebben. ‘Ingrepen zullen elkaar over de lange termijn dan uitmiddelen.’
Om nog maar te zwijgen over de duizelingwekkende onzekerheden die alle existentiële risico’s opleveren. Langetermijndenkers bekijken die risico’s meestal los van elkaar, maar dat is niet logisch, zegt Thorstad. ‘Zelfs als je één zo’n existentieel risico oplost, volgen er in de toekomst misschien nog veel meer.’ Het grote aantal toekomstige mensen kan dan een grove overschatting zijn.
Beter kun je dan inzetten op de korte termijn, zegt hij. ‘Als alles goed gaat, is dit misschien wel de laatste eeuw met extreme armoede. Het kan de laatste eeuw zijn waarin mensen overlijden aan bepaalde ziekten, waarin het kopen van een malarianet zoveel levens redt. Daarop zet de wetenschap nu al in. Investeringen daarin zijn laaghangend fruit voor het beter maken van de wereld.’
Ondertussen dreigt het geld van de effectief altruïsten naar de verre toekomst te stromen: geen armoedebestrijding, maar ruimtevaart of AI. Thorstad: ‘Het is de vraag of de motivatie daarvoor standhoudt.’
Luister hieronder naar onze wetenschapspodcast Ondertussen in de kosmos. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant