Online gevaren Erotische content genereren met AI wordt steeds gemakkelijker. De ontwikkeling gaat snel, en misbruik, zoals kinderporno en sextortion, ligt op de loer. Een gebruiker ziet ook de voordelen. „Ik wil niet dat het verboden wordt om zelf AI-porno te maken.”
„Meer dan 18 uur per dag maakte ik AI-porno”, zegt een man in de online-groep NoFap op het socialemediaplatform Reddit. In deze online groep steunen ruim 360.000 leden elkaar om te stoppen met hun verslaving aan porno. Hij waarschuwt anderen. „AI-porno geeft precies wat je wilt, daarom is het verslavender dan de hele porno-industrie.” Niet alleen voor deze man, maar voor iedereen, wordt het steeds gemakkelijker om porno te maken met kunstmatige intelligentie (AI).
Al tijden wordt porno industrieel vervaardigd en individueel geconsumeerd. Maar inmiddels is sprake van een opmars van doe-het-zelf-porno die individuen kunnen maken met behulp van AI. Zo biedt ChatGPT, ’s werelds grootste door AI aangedreven antwoordmachine, vanaf december de mogelijkheid om AI-porno te maken. Dit betekent dat de app binnenkort de erotische fantasieën van gebruikers tot leven kan brengen. In welke vorm is vooralsnog niet bekend, maar hoogstwaarschijnlijk in seksueel opwindende teksten en hyperrealistische foto’s van seksende mensen.
Doe-het-zelf-porno krijgt naar verwachting een boost zodra het via ChatGPT mogelijk is porno te maken. Het zelf porno maken wordt dan eenvoudiger en goedkoper, en zal dus vanzelf op grotere schaal plaatshebben. Na de aankondiging ervan door OpenAI in oktober, stroomden er op sociale media reacties binnen van bezorgde ChatGPT-gebruikers en anderen. „Hij [eigenaar van ChatGPT] gaat hiermee de productie van kinderporno faciliteren”, schrijft een gebruiker in een bericht op X.
Aan de verdere opmars van maak-je-eigen-porno kleven grote gevaren. De beelden kunnen misbruikt worden voor wraakporno, sextortion (afpersing met naaktfoto’s) en verkocht worden. Daarvoor kunnen bijvoorbeeld ongevraagd de gezichten en stemmen van bestaande mensen gebruikt worden. Dat treft vooral vrouwen, met 95 procent de grootste groep slachtoffers van AI-porno.
Maar waarom lijkt het alsof Big Tech-bedrijven AI-porno mainstream proberen te maken? Zowel Valérie Lapointe, promovendus‑psycholoog gespecialiseerd in AI-porno, als Offlimits, een Nederlandse stichting die strijdt tegen online grensoverschrijdend gedrag, wijst op de commerciële doeleinden van de bedrijven. „Door de ‘erotische update’ raken gebruikers nog sterker verbonden aan het platform. Dat komt de bedrijven financieel ten goede”, zegt Lapointe.
Een voorbeeld is de app Ani, een erotische chatbot mét avatar, die Elon Musk, de eigenaar van X, dit jaar lanceerde. De app veroorzaakte veel commotie: ook minderjarigen hadden er toegang toe. In de afgelopen jaren zijn mensen zelfs verliefd geworden op hun chatbot met avatar of er seksueel afhankelijk van geworden. Dit hebben meerdere personen meegemaakt die NRC de afgelopen jaren hierover sprak.
„Maar ik vind de erotische update wel een goede stap”, zegt een 32-jarige man uit Nederland die dagelijks AI-porno maakt. Om privacyredenen blijft hij liever anoniem, al is zijn naam bij de redactie bekend. De man laat een zelfgemaakte afbeelding zien van een geanimeerd konijn met grote borsten. Ze bukt naar voren. Op een andere foto staat een naakt geanimeerde vrouw met haar benen wijd. „Het is goed dat grote techbedrijven met erotisch spul komen”, zegt hij. „Seks is heel normaal. Wij als volwassenen hebben die vrijheid nodig.”
Hetzelfde zei Sam Altman, topman van OpenAI, de bedenker van ChatGPT, over zijn nieuwe erotische toevoeging. „Behandel volwassen gebruikers als volwassenen. We zullen nog meer toestaan.”
Maar er lijkt al genoeg te worden toegestaan in de wereld van AI-porno. Het internet staat namelijk vol met websites en applicaties waarmee nu al op eenvoudige wijze AI-porno gemaakt kan worden. Zo zijn er erotische chatbots die alleen chatten met of zonder (gepersonaliseerde) avatars.
Drie jaar geleden begon de 32-jarige man uit Nederland AI-porno te maken met behulp van een applicatie. Naast zijn werk als ict’er bij een datacenter is hij dagelijks zeker drie uur bezig erotische beelden te scheppen. Hij heeft geen partner en alleen zijn niet-christelijke vrienden en broer weten ervan. „Eind 2023 merkte ik dat het voor iedereen, zelfs zonder ict-achtergrond, makkelijker werd om AI-porno te maken”, vertelt hij.
De man genereert voornamelijk afbeeldingen van naakte, niet-bestaande mensen, objecten of getekende dieren. Hij raakt seksueel opgewonden van het proces. „Als ik een bepaalde houding creëer, zoals wanneer ik vanonder naar een geslachtsdeel kijk, voelt het alsof ik mijn erotische fantasieën tot leven breng. Voor mij gaat het vooral over de sensualiteit ervan.”
De 32-jarige man ziet de laagdrempeligheid om AI-porno te maken als positieve ontwikkeling voor mensen met „niche-interesses”. Zo is hij geïnteresseerd in antropomorfisme, waarbij hij dieren of andere niet-menselijke wezens – of dingen – menselijke eigenschappen geeft. „Als je professionals dit soort beelden laat maken ben je honderden euro’s kwijt. Nu hoef ik maar een paar cent te betalen voor de stroom die ik ervoor verbruik.” Hij laat een foto zien van een zilverkleurige robotvrouw die naakt op haar hurken zit.
Een van de grootste websites die advies geeft voor ‘de beste’ pornowebsites heeft zelfs een waslijst aan laagdrempelige tools voor deepfake AI-porno (ook wel nudify-apps genoemd) uitgeserveerd. Via zulke websites is het mogelijk het gezicht én de stem van bijvoorbeeld een buurvrouw, politicus, journalist of ex-partner te gebruiken om porno mee te maken. Deze zijn bijna niet te onderscheiden van levensechte porno.
Wat je met deepfake kunt doen op het gebied van AI-porno, is het meest zorgwekkend. Ook bij het meldpunt van Offlimits zien ze steeds meer AI-gegenereerd beeldmateriaal voorbijkomen. Dit jaar zijn er ruim 2.100 afbeeldingen gemeld die AI-gegeneerd bleken te zijn. In heel 2024 waren dat er 1.400. Bij Helpwanted, de hulplijn voor slachtoffers van online grensoverschrijdend gedrag, hebben zich vorig jaar 33 slachtoffers gemeld, en tot en met oktober dit jaar 67 slachtoffers die óók misbruikt zijn voor AI-porno.
Als AI-porno niet gauw gereguleerd wordt, verwacht Robbert Hoving, directeur van Offlimits, een vloedgolf aan meldingen van nudify-apps. Hoving: „Ook is AI-porno steeds minder goed als zodanig te herkennen.” Dat kan leiden tot nog meer sextortion, waarvan de hulporganisatie honderden meldingen per maand ontvangt – en dat zijn alleen nog maar de slachtoffers die de melding durven maken.
Wetgeving om AI-porno in Nederland te kunnen verbieden is er al. Nudify-apps zitten namelijk vol met persoonsgegevens die niet zonder toestemming gedeeld mogen worden; dat kan leiden tot een AVG-schending, een inbreuk op de beveiliging van persoonsgegevens. Volgens de Digital Service Act (DSA), een wet waarmee de EU burgers beter wil beschermen tegen online-dienstverleners, moet je ergens terecht kunnen met klachten over nudify-apps. De meeste AI-pornowebsites hebben geen aanspreekpunt, waarmee ze in feite in strijd zijn met de DSA. Ook staat er niets over AI-porno in de Europese AI-act, een pakket wetten dat kunstmatige intelligentie moet reguleren.
In oktober heeft Offlimits een handhavingsverzoek ingediend voor nudify-apps bij de Autoriteit Persoonsgegevens en de Autoriteit Consument en Markt. Beide toezichthouders zeggen met andere betrokken partijen te verkennen wat ze kunnen doen tegen deze „schadelijke en verwerpelijke praktijken”. Offlimits heeft het handhavingsverzoek ook ingediend bij het OM, de politie en de Autoriteit online Terroristisch en Kinderpornografisch Materiaal. Directeur Hoving hoopt dat in het nieuwe regeerakkoord op zijn minst ook een aanpak zal bevatten voor online seksueel geweld.
„Als je met AI-porno bezig bent, moet het ook gewoon bij fantasie blijven. Je moet er geen echte mensen bij betrekken”, zegt de 32-jarige AI-pornomaker. Hij vindt dat er speciale tools moeten komen die automatisch deepfake AI-porno herkennen en verwijderen. Soms is er wel een watermerk te zien. Dat is een bijna onzichtbaar teken dat verstopt zit in met kunstmatige intelligentie gemaakte porno, om aan te geven dat het nep is. „Maar je kunt, ook weer met behulp van AI, het watermerk laten verdwijnen.”
Als platforms niet genoeg modereren kan het lastig worden om massaproductie van schadelijke AI-porno tegen te gaan, zegt Valérie Lapointe, promovendus psychologie aan de Universiteit van Québec in Montréal, Canada. „Ook als je AI-porno probeert te verwijderen, kan het weer ergens anders verschijnen omdat iemand het heeft gedownload en opnieuw heeft geplaatst.” AI-porno kan dus oneindig blijven bestaan.
Ze doet onderzoek naar de ontwikkeling van en eigendomsverhoudingen bij websites met AI‑gegenereerde pornografie. Daarnaast ontwikkelt ze speciale behandelingen, gebaseerd op AI, om mensen met seksuele stoornissen te behandelen.
De 32-jarige man deelt zijn creaties alleen in de chatapp Discord. In die app zit een apart kanaal met 350.000 leden die soms dagelijks hun AI-creaties met elkaar delen. Als senior moderator van het kanaal heeft hij leden moeten verbannen. „Sommige mensen deelden deepfake naaktbeelden van kleine kindertjes of wraakporno van hun ex-partner”, zegt de man.
Ook kreeg hij verzoeken van oud-leden om verbannen te worden uit de groep. „Ze konden maar niet stoppen met het maken van seksplaatjes.” Hij vergelijkt het maken van AI-porno met gokken. „Je bent in principe aan het jagen op de juiste uitkomst. Komt het eruit te zien zoals ik wil? Dat is de vraag die je jezelf telkens stelt. Volgens mij is dat verslavender dan de porno zelf.” Lapointe: „Gebruikers kunnen het gevoel krijgen van almacht. Voor slechts een paar euro kun je een eindeloze stroom pornografie maken.”
Als iemand te veel met dit soort chatbots praat, kan diegene een onjuist beeld krijgen van wat instemming, consent, inhoudt. „De persoon is er namelijk gewend aan geraakt dat de chatbot alles goed vindt”, zegt Lapointe. Zij ziet onvrijwillige AI-porno als een nieuwe vorm van gender-gerelateerd geweld omdat het vooral vrouwen treft. Offlimits-directeur Hoving is het hiermee eens. „Veel van dit soort apps zijn geënt op vrouwen en dat zou zomaar de drempel kunnen verlagen voor geweld tegen vrouwen in de echte wereld.”
Vrijwel iedere door AI aangestuurde erotische chatbot, website of applicatie struint continu het ‘open’ internet af op zoek naar informatie. Dit staat immers vol met beelden van seksueel kindermisbruik en porno. „En daar worden de meeste erotische AI-tools op getraind”, zegt Hoving. Mensen op grote platforms kunnen niet controleren hoe hun privé-informatie later wordt gebruikt, zegt Lapointe.
Beiden denken dat de erotische tool van ChatGPT binnenkort ook beschikbaar wordt voor Sora 2, de vernieuwde videoapp van OpenAI, waar nu al AI-gegenereerde filmpjes gemaakt kunnen worden – zij het nu nog geen erotische. Zo maakte Geert Wilders, partijleider van de PVV, tijdens de verkiezingscampagne gebruik van Sora 2. Zijn partij verspreidde onder meer AI-beelden van Nederlandse vrouwen die werden aangevallen door asielzoekers.
Maar die erotische update en de laagdrempeligheid van AI-porno heeft niet alleen negatieve kanten. Volgens Lapointe kan het meer inhoudelijke seksuele informatie bieden, en mensen gezelschap bieden als ze zich eenzaam voelen. Vergeleken met traditionele pornografie geeft het ook meer controle over iemands fantasie, zegt ze.
„Ik wil niet dat het verboden wordt om AI-porno te maken”, zegt de 32-jarige ict’er over de discussie, met zorg in zijn stem. Hij maakt inmiddels een eigen chatbot waarmee hij erotische gesprekken kan voeren. „Ik wil van de dialogen een smutboek [erotische literatuur] maken.”
Voor online sekswerkers kan deze ontwikkeling een probleem zijn, omdat ze het risico lopen vervangen te worden. Op sociale media, zoals TikTok en Instagram, duiken er steeds meer erotische AI-influencers op. Ze doen alsof ze een selfie in een spiegel maken terwijl ze uitdagend poseren. In hun biografie verwijzen ze weer door naar hun pornografische content.
Ook verschijnen er meer accounts van mannen die cursussen verkopen om dit soort erotische AI-porno zelf te maken. Dit ondergraaft bestaande verdienmodellen in de traditionele porno-industrie, maar creëert ook nieuwe.
„In dergelijke gevallen is het belangrijk dat mensen zich niet voordoen als anderen en dat consumenten zich ervan bewust zijn dat ze niet met een echt persoon te maken hebben”, zegt Lapointe, promovendus‑psycholoog, gespecialiseerd in AI-porno.
Maar AI-porno kan voor sekswerkers ook een verrijking zijn. Als ze samenwerken met AI‑bedrijven die AI-versies maken van de sekswerkers, kan dat volgens Lapointe hun werklast verminderen . „Het zou sekswerkers dus in staat kunnen stellen inkomsten te genereren zonder fysieke arbeid of veiligheidsrisico’s.”
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC