Big Tech Het platform van Elon Musk heeft de afgelopen weken op verschillende manieren geprobeerd om de woede te sussen over de stortvloed aan AI-gegenereerde seksuele deepfakes die Grok op aanvraag over het internet uitstortte. Geen van die maatregelen lost de problemen op.
Volgens X zijn aanpassingen gedaan aan Groks algoritmes om te voorkomen dat gebruikers zomaar AI-gegenereerde afbeeldingen van vrouwen in bikini kunnen aanvragen
AI-chatbot Grok kan niet langer geseksualiseerde afbeeldingen maken van mensen zonder hun toestemming, in landen met wetten die dat verbieden. Dat heeft X in de nacht van woensdag op donderdag beloofd, te midden van opzwellende kritiek vanwege de stortvloed van honderdduizenden AI-gegenereerde seksuele deepfakes van echte mensen, onder wie minderjarigen, die Grok de afgelopen weken op aanvraag over het internet uitstortte.
Volgens X zijn aanpassingen gedaan aan Groks algoritmes om te voorkomen dat gebruikers zomaar AI-gegenereerde afbeeldingen van vrouwen in bikini kunnen aanvragen, zoals recentelijk veel voorkwam. In landen met toepasselijke wetgeving moet dit nu niet langer mogelijk zijn, omdat X een zogeheten ‘geoblock’ heeft ingevoerd: zo kan het gebruikers — in theorie — op basis van hun IP-adres aan de plaatselijke regelgeving houden.
Techmiljardair Elon Musk heeft de afgelopen week in verschillende fases geprobeerd om de wereldwijde woede over Grok te sussen. Eerst plaatste hij als grap een AI-afbeelding van zichzelf in bikini, daarna zei hij dat de verantwoordelijkheid voor strafbaar gebruik toch echt bij de gebruikers zelf ligt en daarna beperkte hij het met Grok bewerken van afbeeldingen tot betalende gebruikers.
Geen van die stappen had het gewenste effect: enkele landen gingen over tot een Grok-verbod, de Europese Commissie gebood X de „verschrikkelijke” tool te „repareren” en ook de Britse premier Keir Starmer kondigde woensdagavond maatregelen tegen Grok aan.
In de Reddit-community die draait om de deepfakeporno die Grok creëert wordt teleurgesteld gereageerd op de maatregelen. „Tot zover de pret, het is officieel voorbij, terug naar normale porno”, schrijft iemand.
Andere Redditors wijzen juist op het gemak waarmee ze de nieuwe maatregelen met verhullend taalgebruik omzeilen. Grok is een taalmodel en labelt bepaalde woorden als alarmerend: bij expliciet seksueel taalgebruik gaan dus belletjes rinkelen, en kunnen verzoeken van gebruikers worden geweigerd. Maar wie seksuele handelingen met niet-seksueel taalgebruik aanduidt — ‘sperma’ wordt ‘glazuur’, een ‘penis’ wordt een ‘wortel in huidskleur’ — kan zonder problemen zijn gang gaan.
Ook NRC zag donderdagochtend dat de aangekondigde maatregelen nauwelijks effectief zijn. Met een VPN-verbinding omzeilde NRC de ‘geoblock’, en ook zonder VPN bleek Grok binnen enkele minuten zover om een vrouw uit te kleden en een seksuele pose aan te meten.
Het is onder de Nederlandse wet strafbaar om zonder toestemming seksueel beeldmateriaal te generen van iemand. Ook het delen van dat soort afbeeldingen is niet toegestaan. De Europese Commissie is verantwoordelijk voor het toezicht op grote online platforms als X en Grok. Begin december kreeg X een boete van 120 miljoen euro van de Commissie vanwege het niet naleven van de Europese internetwet, de zogeheten Digital Services Act. Dat leidde tot boze reacties vanuit de Verenigde Staten, waar de regering-Trump en Big Tech trouw aan elkaar hebben gezworen.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC