Digitaal seksueel geweld Volgens de Duitse tv-ster Collien Fernandes zat haar ex-man achter deepfakes die online van haar circuleerden. Duitsers reageren geschokt en pleiten voor maatregelen tegen ‘digitaal seksueel geweld’, onder meer door het strafbaar stellen van het maken van AI-gegenereerde beelden zonder toestemming.
Betogers demonstreren zondag in Berlijn tegen 'digitaal seksueel geweld' naar aanleiding van onthullingen rond de zaak van de Duitse tv-persoonlijkheid Collien Fernandes, die het slachtoffer werd van de verspreiding van pornografische deepfake-beelden van haar.
Jarenlang voerde de Duitse tv-persoonlijkheid Collien Fernandes strijd tegen deepfakes die online van haar circuleerden. Op verschillende platformen bleek Fernandes’ beeltenis voor de productie van AI-porno te worden gebruikt. In 2024 maakte Fernandes, die in de jaren nul bekend werd als presentator bij muziekzender VIVA en later in Duitse films en series speelde, een documentaire over haar ervaringen en over haar zoektocht naar de daders.
In weekblad Der Spiegel zegt Fernandes deze week dat haar ex-man, presentator en acteur Christian Ulmen, heeft bekend tenminste een deel van het materiaal te hebben verspreid. Ulmen beheerde volgens Fernandes verschillende profielen op sociale media waarin hij zich voordeed als Fernandes, seksuele deepfake foto’s en video’s van haar verstuurde, erotische berichten uitwisselde en soms met een door AI vervormde stem telefoonseks had. In een Instagram-bericht zegt Fernandes dat haar ex-man naar zeker honderd mannen deepfakes stuurde. Ook stuurde Ulmen een verhaal rond waarin Fernandes door meerdere mannen wordt verkracht, stelt Fernandes.
De Duitse acteurs Christian Ulmen en Collien Ulmen-Fernandes in april 2024 in Berlijn.
Het relaas van Fernandes zorgt in Duitsland voor verbijstering. Zondagmiddag gingen in Berlijn zo’n tienduizend mensen de straat op om te demonstreren tegen „digitaal seksueel geweld”. Komende donderdag staat een demonstratie gepland in Hamburg.
Ruim 250 prominente vrouwen ondertekenden een oproep aan de regering om harder op te treden tegen geweld tegen vrouwen, onder meer door het strafbaar stellen van het genereren met AI van deepfakes zonder toestemming van de geportretteerde. Ook moet er een verbod komen op AI-uitkleedapps. Minister van Justitie Stefanie Hubig (SPD) kondigde daags na het artikel in Der Spiegel een wetsvoorstel aan waarin een gevangenisstraf tot twee jaar op het maken van deepfakes komt te staan. Ook wil Hubig het makkelijker maken om anonieme internetgebruikers op te sporen en om platformen ertoe te dwingen bepaalde accounts te blokkeren.
Christian Ulmen, eveneens bekend als presentator en acteur (onder meer in de Duitse krimi Tatort), reageerde niet op vragen van Der Spiegel. Een media-advocaat die door Ulmen is ingeschakeld kondigde juridische stappen tegen het blad aan. Het artikel bevat „onwaarheden” en „verdachtmakingen”, aldus de jurist. Een opdrachtgever van Ulmen zegde de samenwerking met de acteur reeds op, meerdere collega’s en een productiemaatschappij distantieerden zich van hem.
Volgens Fernandes bekende Ulmen achter de fake-accounts te zitten toen zij aangifte had gedaan. Ulmen wilde haar overhalen om de aangifte in te trekken, aldus Fernandes in haar stellingname op Instagram. Hij zou tegen haar gezegd hebben dat hij het gevoel had haar te „bezitten” en haar daarom ook aan andere mannen kon aanbieden. Door de wijze waarop Ulmen zijn vrouw virtueel zou hebben uitgeleverd aan andere mannen wordt in Duitsland de parallel getrokken met de zaak van verkrachtingsslachtoffer Gisèle Pelicot in Frankrijk.
Fernandes deed aangifte tegen haar ex-man in Spanje, in Palma op Mallorca, omdat Fernandes en Ulmen daar sinds een paar jaar woonden met hun tienerdochter, en omdat de wetgeving in Spanje scherper is dan die in Duitsland. Minister van Justitie Hubig zei in Der Spiegel: „[Spanje] loopt wat betreft bescherming van vrouwen tegen geweld een paar jaar voorop.”
In Duitsland is het wel strafbaar om échte content te verspreiden die iemands privésfeer aantast. Maar voor veel slachtoffers – voor het overgrote deel vrouwen – is fake content net zo belastend als echt materiaal zou zijn. Gebruikers zien immers niet altijd het verschil. De deepfakes worden ook gebruikt voor sextortion, chantage met expliciete beelden.
Het maken van deepfakes wordt steeds makkelijker. In januari overspoelden in een bestek van elf dagen drie miljoen geseksualiseerde AI-afbeeldingen het internet door een nieuwe uitkleed-toepassing van chatbot Grok. Ook minder getalenteerde computergebruikers kunnen foto’s van willekeurige personen uploaden – klasgenoten, ex-vriendinnen, tv-persoonlijkheden – en daar pornografisch materiaal van maken. In februari werd bekend dat twaalf- tot veertienjarige jongens op een school in Zwitserland deepfakes van hun klasgenotes hadden verspreid.
Doorzie de wereld van technologie elke week met NRC-redacteuren