Dat de regelgeving voor bigtechbedrijven totaal verschilt van die voor de ‘normale’ wereld, vindt Pieter van Boheemen, directeur van Post-X Society, verbijsterend. ‘Bij vrijwel alle producten om ons heen wordt over alle risico’s nagedacht, maar niet bij hun algoritmen.’
schrijft voor de Volkskrant over zingeving.
Tot aan de verkiezingsdag stond hij maandenlang ‘in de drek’ bij het in de gaten houden van ‘extreme uitingen’ op sociale media, zoals de TikTok-filmpjes waarin ex-GroenLinks-PvdA-leider Frans Timmermans werd geslagen of door een leeuw werd gebeten. ‘Als je dat allemaal hebt gezien, ben je niet verbaasd als iemand in een café Timmermans de Hitlergroet brengt.’ Zijn doel is ‘digitale bedreigingen van de integriteit van de verkiezingen’ te melden bij toezichthouders. ‘Toen de verkiezingen werden aangekondigd, vroeg ik me af: wie gaat dit soort politieke uitingen op sociale media volgen? Daar bleek nog niemand zich mee bezig te houden, dus heb ik met de Universiteit van Amsterdam, drie ngo’s en geld van twee ideële fondsen een observatorium opgezet.’
Die snelle actie met inschakeling van diverse organisaties typeert de werkwijze van de 39-jarige Pieter van Boheemen. Twee jaar geleden begon hij zijn stichting Post-X Society uit bezorgdheid over de staat waarin de democratie verkeert. ‘Wereldwijd zie je dat democratieën worden bedreigd. Nu de Verenigde Staten, Rusland en China alle drie een antidemocratische agenda hebben, ben ik niet optimistisch. Ook niet over de Nederlandse democratie. Ik dacht altijd dat die top was, maar als je de kwaliteit ervan onderzoekt, blijkt die in de afgelopen tien jaar achteruitgekacheld te zijn.’ Die uitspraak baseert Van Boheemen op de mede door Post-X Society ontwikkelde Democratie Monitor, waarmee aan de hand van 45 indicatoren wordt vastgesteld hoe de democratie ervoor staat.
De naam van zijn stichting is geen toespeling op het socialemediaplatform X (‘al zou ik best willen dat we dat achter ons kunnen laten’). ‘Post-X’ drukt uit dat ‘we in het publieke debat aangeven van alles niet te willen, maar voor mij is dan de vraag: hoe moet de maatschappij er dan wel uitzien?’ In ieder geval democratisch, luidt zijn antwoord: ‘Alleen met een democratie als manier om conflicten te beslechten is vrijheid, gelijkheid en rechtvaardigheid voor iedereen mogelijk.’
Zijn jeugd brengt Van Boheemen door in het dorpje Kesteren in de Betuwe, waar hij deel uitmaakt van een ‘warm gezin, met drie oudere zussen die de paden voor mij vrij hadden gemaakt’. Zijn vader is landbouwkundige in Wageningen, zijn moeder huisvrouw en vrijwilliger. In zijn tienerjaren is van idealisme nog niet echt sprake, of het moet zijn deelname aan de hackerswereld zijn geweest. ‘Voor de buitenwereld heeft hacken een negatieve connotatie van inbreken en kapotmaken. Maar voor mij als computernerd is het eerder een geuzennaam, die staat voor creatief zijn met technologie en voor kritisch onderzoek naar alternatieve manieren om die in te zetten. Als tiener hielp ik anderen als ze met hun techprojecten vastliepen. Dat was altruïstisch, maar ik werd ook gedreven door het verlangen het maximale uit mezelf te halen en de wereld te laten zien waartoe ik in staat was.’
Na uw afstuderen als biotechnoloog aan de TU Delft wilde u dat laten zien op de Amsterdamse Zuidas.
‘Ja, dat avontuur heeft maar kort geduurd. Ik kwam bij een internationaal IT-consultancybedrijf, in de hoop dat ik als consultant biotechnologische bedrijven kon helpen. In plaats daarvan werd ik ingezet als softwaretester voor grote olieconcerns. Die werden diamond clients genoemd, zogenaamd geweldige klanten, alleen vond ik niets geweldigs aan ze. Tot mijn verbazing was ik een van de weinigen die moeite hadden te werken voor de fossiele industrie, de anderen lieten hun moraal verdoven door een luxeleventje met vliegreisjes, dure hotels en bijzondere restaurants. Ik had het gevoel in een morele woestijn te zijn beland. Na acht maanden was ik weer weg.’
In uw vrije tijd deed u aan biohacking. Wat is dat?
‘Als biotechnoloog was ik geïnteresseerd in experimenteren met hightech biotechnologische toepassingen buiten de omgeving van een universiteit of het bedrijfsleven om. Wereldwijd hield een gemeenschap van een man of honderd zich daarmee bezig via een opensource-aanpak, op internet deelden we informatie over hoe je laboratoria bouwt en hoe je bacteriën en virussen kunt kweken. Het was in de tijd van de antrax-poederbrieven. Op een bepaald moment werd ik naar San Francisco uitgenodigd door de FBI en de afdeling massavernietigingswapens van het Pentagon. Die wilden weten waar wij als biohackgemeenschap mee bezig waren. Het ging hun vooral om mogelijke contacten met lieden met slechte bedoelingen, ze wilden zich niet nog eens door jihadisten laten verrassen. We zijn inmiddels vijftien jaar verder, maar gifgassen of dodelijke virussen zijn nog altijd niet door terroristen ingezet. Wie dat probeert, legt zelf als eerste het loodje. Het grappige is dat de FBI heeft bijgedragen aan de versterking van onze hackersgemeenschap. Wij kenden elkaar alleen maar van internet, maar doordat we in San Francisco dagenlang met elkaar optrokken, zijn er echte vriendschappen gesmeed.’
Leidde biohacking ook tot concrete resultaten?
‘We zagen het als een uitdaging laboratoriumapparatuur te bouwen die goedkoper zou zijn dan wat je in een academisch laboratorium aantreft. Dat lukte erg goed bij een diagnoseapparaat voor malaria. Voor een paar tientjes heb ik met twee anderen een apparaat gemaakt dat in het lab duizenden euro’s kost. We konden er nauwkeurige diagnoses mee maken en hebben er zelfs een prijs mee gewonnen.
Boekentip The Digital Republic van Jamie Susskind
‘Susskind legt haarscherp uit dat technologie ook machtspolitiek is. Dat niet Elon Musk het probleem is, maar het systeem dat iemand met zo veel geld en macht voortbrengt. En dat verdeling van macht en afleggen van verantwoording voor de technologiesector moeten gaan gelden. Zo niet, dan is de democratie in gevaar.’
‘Wat vervolgens leerzaam was, was dat we ondervonden dat je wel nieuwe technologie kunt bedenken, maar dat het daarmee nog niet maatschappelijk relevant is. Zowel regeringen als investeerders bleken ons apparaat niet te zien zitten. Afrikaanse regeringen wilden hun geld liever besteden aan acute behoeften, zoals watervoorziening en wapens, niet aan een diagnoseapparaat voor malaria. Investeerders geloofden niet dat we kopers ervoor zouden vinden, dus die haakten ook af.’
Wat leerde dat u?
‘Dat nieuwe technologie een sociaal-maatschappelijke bedding nodig heeft om te kunnen aanslaan. Maar er zijn wel grote verschillen tussen technologieën. Bij biotechnologie wordt kritisch gekeken naar de maatschappelijke effecten van innovaties, het zijn vaak de bedenkers zelf die vinden dat regelgeving nodig is. Maar bij digitale technologie hebben degenen die met innovaties komen die maatschappelijke antenne helemaal niet. Het is toch vreemd: bij vrijwel alle producten om ons heen wordt over alle risico’s nagedacht en wordt er getest, maar bij algoritmen doen we dat niet en zeggen we ‘probeer maar’. Doet zich vervolgens schade voor, dan moeten allerlei maatschappelijke organisaties en academici in verzet komen om er nog iets aan te doen.’
Hoe verklaart u dat verschil?
‘In de digitale wereld komen innovaties van bedrijven, in de biotechnologie domineren wetenschappers. Dat maakt een groot verschil als het gaat om de roep om regelgeving. Bovendien geldt bij biotechnologie dat het de gezondheid van mensen direct raakt, terwijl dat verband bij digitale technologie minder duidelijk is. Maar de digitale technologie heeft wel grote maatschappelijke gevolgen. Het zou daarom goed zijn wanneer wij als samenleving de algoritmen van bigtechbedrijven kunnen onderzoeken. We hebben sterk de indruk dat die aanzetten tot geweld, fascisme, discriminatie en haatzaaien. Maar bewijzen kunnen we dat niet, zolang we niet onder de motorkap van die systemen kunnen kijken. De bigtechbedrijven hebben baat bij die mist en schermen hun algoritmen af. Maar we moeten kunnen meekijken.’
Hoe kunt u hen aanspreken?
‘Techbedrijven hebben het erg ingewikkeld gemaakt om een melding bij ze te doen. Ik heb dat zelf ondervonden. Je moet door complexe menu’s heen. Bij Meta (het moederbedrijf van Facebook, Instagram en WhatsApp, red.) moet je zelfs een wetsartikel aangeven dat zou zijn overtreden. Bij TikTok kun je je melding niet meer in zijn systeem terugvinden, terwijl het bewijs daarvan wel noodzakelijk is voor de toezichthouder. Bovendien is het dweilen met de kraan open: TikTok haalt weleens een video na een melding weg, maar via een ander account kan datzelfde filmpje opnieuw worden geplaatst, waarna je het weer opnieuw moet melden. Zo proberen ze je te ontmoedigen.’
Kunnen toezichthouders wel een vuist maken?
‘Bij de laatste verkiezingen lag het toezicht bij de Europese Commissie, omdat verkiezingen als een systeemrisico worden gezien. Dus was er een ‘rapid response system’ opgezet, waar je met je melding naartoe kon. Uiteindelijk kon de Commissie serieuze boetes opleggen. Maar het probleem is dat de Europese Commissie een politieke instantie is, zij onderhandelt bijvoorbeeld met de Amerikaanse regering van Donald Trump over handelstarieven. En Trump is fel gekant tegen boetes voor Amerikaanse bigtechbedrijven. De Europese Commissie kan dus geen onafhankelijke toezichthouder zijn.
‘Wat nog een probleem is, is dat je bigtechbedrijven alleen kunt aanspreken op de regels die ze zelf hebben opgesteld, dus alleen op hun eigen beleid. Terwijl je zou willen dat de normen door een onafhankelijke instantie worden opgesteld.’
Hoe is dat systeem te verbeteren?
‘Je zou het moeten omkeren: dus geen controle achteraf, zoals nu gebeurt, maar vooraf tegen die platforms zeggen: maak duidelijk dat je geen rommel bovenaan plaatst. Laat zien dat het filmpje over bloemetjes het wint van filmpjes over explosies. Kortom: eis dat ze hun algoritmen inzichtelijk maken. Dan draai je het spel om, net als bij alle andere producten, die worden vooraf getest.’
Zien politieke partijen zo’n nieuw systeem zitten?
‘In veel partijprogramma’s lees je wel dat er meer zicht op algoritmen moet komen en dat een grotere rol voor de toezichthouder (de Autoriteit Consument & Markt, red.) belangrijk is. Er is duidelijk behoefte aan een grotere onafhankelijkheid van bigtechbedrijven, dat stemt me wel een beetje hoopvol. Maar het is de vraag of er veel draagvlak onder de bevolking voor is. Mensen ervaren hun Instagram of TikTok niet als een maatschappelijk probleem, maar als iets plezierigs. En kom maar eens in opstand tegen iets wat je elke dag plezier geeft en waaraan je verslaafd bent. Bovendien voeden deze systemen je met verontwaardiging, wat ten koste gaat van je vermogen zelfstandig te kunnen redeneren. Deze systemen zijn voortdurend bezig ons autonome denken te ondermijnen.’
Waar put u hoop uit?
‘Wat ik mooi vind, is de beweging van tiktokkers die extreme filmpjes tegen bijvoorbeeld asielzoekers met humor belachelijk maken – mensen met een migratieachtergrond gaan op de muziek van zo’n anti-immigratiefilmpje dansen of playbacken. Dat zie ik als een vorm van democratische weerbaarheid die we hard nodig hebben. Verder is het goed te zien dat er financiers zijn voor organisaties die opkomen voor democratie, zoals het VFonds, Fonds Democratie en Media en Porticus, de stichting van de familie Brenninkmeijer. Alleen is er maar een handvol van dat soort organisaties. Er werken gedreven en talentvolle mensen, maar het is een klein wereldje en daarmee kwetsbaar. Het is een van de redenen dat ik met Post- X Society ben begonnen. Ik vroeg me af: wie doet dit nu eigenlijk?’
Kunt u het financieel bolwerken?
‘Dat lukt me door van project naar project te gaan, maar het zou fijn zijn wanneer we meerjarige financiering ontvangen. Voorlopig vertrouw ik op mijn eigen ondernemerschap om dit voort te zetten. Het is in ieder geval belangrijk dat dit soort werk gebeurt, want ons democratisch huis staat in de fik. Wat me echt verbaast, is dat het bedrijfsleven niets van zich laat horen. Werkgeversorganisatie VNO-NCW zou democratisch burgerschap bij haar leden actief moeten promoten, dat zou een goede stap zijn. Maar tot nu toe heeft ze totaal geen agenda om de democratische rechtsstaat te beschermen, terwijl ze daar wel een groot belang bij heeft.’
Geselecteerd door de redactie
Source: Volkskrant