Het Europees Parlement stemt morgen in Straatsburg over een verbod op zogenoemde uitkleed-apps, waarmee via AI nepnaaktbeelden kunnen worden gemaakt. De verwachting is dat de maatregel brede steun krijgt, waardoor het verbod al voor de zomer in alle EU-landen van kracht kan worden. De lidstaten bereikten eerder al een akkoord over het plan.
Met de nieuwe regels worden online tools en websites verboden die met behulp van AI mensen op foto's digitaal uitkleden. Het verspreiden van dergelijke beelden is nu al strafbaar, maar het blijft eenvoudig om ze te maken via grote generatieve AI-chatbots en speciale uitkleedwebsites die via zoekmachines als Google en Bing te vinden zijn. De verboden functionaliteit wordt een aanvulling op de bestaande Europese AI-wet, die al beperkingen oplegt aan grote techbedrijven.
Zoekmachines die toch uitkleedwebsites in hun resultaten tonen, kunnen straks forse boetes krijgen. Ook wordt het verboden voor chatbots om functies aan te bieden waarmee gebruikers kleding van mensen op foto's kunnen verwijderen. Volgens Europarlementariër Kim van Sparrentak (GroenLinks-PvdA) is het nu "ontzettend makkelijk" om via Google op zo’n site te komen en "in twee clicks een seksueel misdrijf te begaan", en moet daar paal en perk aan worden gesteld.
Expertisecentrum online misbruik Offlimits spreekt van een grote overwinning en waarschuwt al langer voor de schadelijke gevolgen van deze apps. Directeur Robbert Hoving wijst erop dat de drempel zo laag is dat ook scholieren zich eraan schuldig maken: "Voor je het weet ga je je lerares uitkleden of die meid die je leuk vindt." Volgens hem kampen jongeren die slachtoffer worden vaak met slaapproblemen, schooluitval en in sommige gevallen suïcidale gedachten.
In het Europees Parlement komt het verbod tot stand met steun van meerdere politieke families, waaronder de Christendemocraten. CDA’er Jeroen Lenaers noemt uitkleed-apps "geen innoverende technologie, het is uitbuiting" en benadrukt de mentale schade voor slachtoffers. Hij wijst er bovendien op dat kindermisbruikers de techniek al actief inzetten, waardoor een verbod volgens hem "een cruciale stap" is.
De nieuwe staatssecretaris voor Digitale Veiligheid, Aerdts, juicht de Europese aanpak toe en had het verbod "het liefst gisteren al" ingevoerd. Nederland richt zich ondertussen op hulp aan bestaande slachtoffers, onder meer door het laten verwijderen van beelden die online circuleren. Wanneer het om kinderen gaat, kunnen de nepnaaktbeelden volgens de staatssecretaris worden aangemerkt als kinderporno, met zwaardere strafrechtelijke gevolgen.
Hoe men denkt het verbod te handhaven, wetende dat er tientallen open-sourcemodellen in omloop zijn waarmee iedereen dit eenvoudig op zijn eigen pc kan doen, is niet geheel bekend, maar dat louter een verbod op apps en tonen van apps en sites waar dit kan in zoekmachines niet gaat werken lijkt evident.
man uitgekleed in app (Afbeelding: Grok AI / FOK.nl)
Source: Fok frontpage