Automatische bots overspoelen TikTok met door AI gegenereerde filmpjes. Om reacties uit te lokken en zo bij meer mensen op hun tijdlijn te komen, bestaat die stroom voor een groot deel uit racistische boodschappen en video’s die (jonge) vrouwen seksualiseren.
is redacteur van de Volkskrant.
Dat schrijft de Franse non-profitorganisatie AI Forensics in een woensdag verschenen onderzoek, deels gefinancierd door de Europese Unie. Afgelopen zomer analyseerde de organisatie ruim 43 duizend video’s van 354 accounts. Deze accounts zijn speciaal in het leven geroepen om nepfilmpjes te verspreiden en doen dat deels automatisch, concluderen de onderzoekers op basis van de enorme productie.
Er zit veel ‘schadelijke content’ tussen, schrijven de onderzoekers, zoals desinformatie verpakt in zogenaamde nieuwsfragmenten, seksueel getinte filmpjes van jonge, soms zelfs minderjarig ogende vrouwen en haatdragende video’s over migranten, zwarte mensen, Joden en moslims. Andere filmpjes verheerlijken extreem dunne lichamen.
De ‘documentaire setting’ waarin de stereotypen worden uitgebeeld, bekrachtigt de boodschap in de video’s, vrezen de onderzoekers, waardoor schadelijke denkbeelden steeds meer postvatten.
De geanalyseerde video’s werden in totaal 4,5 miljard keer bekeken. ‘En dat is het topje van de ijsberg’, zegt Maarten Sukel, AI-expert en auteur van het boek De AI-revolutie. ‘Onderzoeksgroepen als deze kunnen nooit alles waarnemen, al is het maar omdat de accounts die ze gebruiken in een bepaald algoritme terechtkomen.’ De enige partij met overzicht van alle content op TikTok is het platform zelf.
Sinds kort labelt TikTok AI-video’s als gebruikers zelf aangeven dat iets met AI is gemaakt of wanneer content als zodanig wordt herkend. ‘Maar de technologie die beoordeelt of een video door AI is gemaakt, loopt altijd een paar stappen achter op de generatieve AI zelf’, zegt Sukel. Het platform werkt met steeds minder menselijke moderatoren.
AI Forensics beoordeelde de video’s wel handmatig. Wat bleek: 55 procent van de filmpjes die de onderzoekers aanmerkten als gemaakt door AI, was door TikTok niet als zodanig gelabeld. De eigen inschatting van het platform dat er zo’n 1,3 miljard AI-filmpjes op staan, lijkt dus aan de lage kant.
TikTok zelf noemt het onderzoek tegenover The Guardian ‘ongefundeerd’. Schadelijke content wordt van het platform verwijderd, aldus een woordvoerder, die zegt dat TikTok ‘vooroploopt’ met het oormerken van AI-video’s.
Of de anonieme makers ideologisch gedreven zijn of vooral uit zijn op geld, is volgens Sukel lastig te zeggen. Zij spelen in op de algoritmen van TikTok, waar verwarrende, fascinerende, haatdragende of beangstigende video’s worden beloond met aandacht. ‘Hoe meer mensen de video’s zien, hoe groter de kans dat iemand een aankoop doet in de webshop waar het account naar doorverwijst, bijvoorbeeld voor voedingssupplementen of merchandise.’
Maar zelfs als mensen alleen uit zijn op geld, bestaat de kans dat ze door politieke actoren worden benaderd om hun fabriekje voor hen te laten draaien, zegt Sukel. ‘Dat gaat heel makkelijk, omdat er vrijwel geen limiet is aan de productie.’
Wat deze video’s doen met mensen en hun overtuigingen, moet nog verder worden onderzocht, zegt hij. ‘Die massale aanwezigheid van AI-video’s op sociale media is een nieuw fenomeen.’ Bijna twee derde van de accounts die de onderzoekers volgden, is eerder dit jaar aangemaakt.
Geselecteerd door de redactie
Source: Volkskrant