Grok is al weken in het nieuws omdat de chatbot het wel heel eenvoudig maakt om foto's van voornamelijk vrouwen en soms zelfs kinderen te seksualiseren. Uit een test van Tweakers blijkt dat Grok niet de enige AI is die kleding kan omtoveren tot bikini's, al moet je daar vaak wel meer moeite voor doen.
Upload simpelweg een foto van een persoon en vraag of Grok de kleding kan vervangen door een bikini − en voilà, Grok doet precies dat. Dat kan niet alleen in de tool zelf, maar ook met de Grok-bot op X. Gebruikers kunnen deze in de reacties onder een bericht aanroepen om te vragen om de afbeelding in die post te bewerken, ook bij berichten van derden. Het gevolg: vrouwen die een foto van zichzelf plaatsen, worden gebombardeerd met reacties van gebruikers die Grok vragen om de afbeelding om te toveren tot een bikinifoto.
X meldt sinds maandagochtend dat het de mogelijkheid om bikinifoto's te maken in Grok heeft geblokkeerd 'in landen waarin dat illegaal is'. Specifieke landen worden echter niet genoemd en uit een test van Tweakers blijkt dat de mogelijkheid in ieder geval in Nederland niet beperkt is. Het is onduidelijk of dat later alsnog gebeurt.
De Europese Unie en het Verenigd Koninkrijk onderzoeken momenteel of xAI Grok te veel de vrije loop laat en daarmee de wet overtreedt. Indonesië en Maleisië hebben de bot zelfs geblokkeerd totdat het bedrijf maatregelen neemt om het genereren van illegale afbeeldingen tegen te gaan.
De controverse draait bij Grok om meerdere dingen tegelijk. Ten eerste leek de chatbot niet alleen bikinifoto's te maken, maar ook seksueel getinte afbeeldingen van kinderen. Daarbij speelt ook nog eens mee dat Grok die afbeeldingen direct publiek beschikbaar maakt, via openbare tweets door alleen '@grok' te taggen. Dat heeft X onlangs overigens wel beperkt.
Maar het feit dat Grok het in de eerste plaats mogelijk maakt om seksuele afbeeldingen te maken, is op zichzelf al reden tot ophef; in veel jurisdicties wordt het maken van zulke deepfakes als illegaal of in ieder geval als een juridisch grijs gebied gezien, om nog maar te zwijgen over de ethische kant ervan. Dat vond in ieder geval Elon Musk, die een tweet onderschreef waarin stond dat ook 'andere apps mensen een bikini kunnen laten dragen'. In het geval van Grok lijkt het vooral de laagdrempeligheid te zijn waarmee gebruikers foto's van anderen kunnen manipuleren tot seksueel getinte afbeeldingen, maar heeft Musk een punt? Maken andere apps dit ook mogelijk?
Tweakers onderzocht zes andere, populaire AI-tools om te zien hoe makkelijk ze bikinifoto's genereren. We keken naar ChatGPT, Gemini, Mistral, Copilot, Meta AI en Photoshops Generative Fill. Hiervoor gebruikten we twee AI-gegenereerde foto's als basis, een van een man en een van een vrouw, en vroegen we op verschillende manieren of de afbeeldingsgenerator de kleding kan omtoveren tot een bikini. Daaruit blijkt dat, naast Grok, ChatGPT als enige heel eenvoudig ook zulke foto's kan maken. Wel heeft die tool meer beperkingen dan Grok. Bij andere chatbots is het maken van seksueel getinte foto's veel moeilijker.
Bij de meestgebruikte AI-tool is het meteen raak: door een foto in ChatGPT te uploaden en 'Add bikini' te zeggen, wordt de outfit doorgaans zonder verdere opmerkingen vervangen door het gevraagde kledingstuk. De bot trekt pas een grens als we vragen om een mankini, hoewel ChatGPT op basis van de half afgemaakte foto's überhaupt niet eens lijkt te weten wat een mankini is; de afbeeldingenmaker maakt er gewoon een groene bikini van. Dat is overigens een verschil met Grok, die er geen moeite mee heeft om een (zeer verontrustende) mankini te fabriceren.
ChatGPT (links) kapt het verzoek om een mankini halverwege af, maar Grok kent kennelijk geen grenzen.
De guardrails van Gemini zijn een stuk strenger. De bot weigert om een bikini of zelfs maar een badpak te genereren. Tenminste, mits dat rechtstreeks gevraagd wordt. Als we er context bij geven (bijvoorbeeld dat we een foto willen alsof we meedoen aan de 100 meter vrije slag of kleding in een winkel aan het passen zijn), wil Gemini soms wel meewerken. Dan wordt de bestaande afbeelding echter niet bewerkt, maar wordt er simpelweg een nieuwe afbeelding gegenereerd waarbij de aangeleverde foto als referentie wordt gebruikt.
Mistral lijkt, op basis van onze beperkte tests met de gratis versie, het meest wisselvallig. De bot wil niet rechtstreeks een bikini fotoshoppen, maar soms lukt het wel als we er een uitgebreidere prompt bij schrijven. Bij herhaling lukte dat echter niet. Ook lijkt de bot net als Gemini een volledig nieuwe foto te genereren die weliswaar gelijkenissen vertoont met het origineel, maar niet 'gewoon' een bewerking is.
De AI-bot van Meta is de eerste die de tactiek om extra context te geven helemaal weerstaat. Sterker nog: we kregen deze bot als enige niet zo ver om badkleding te genereren, welke prompts we ook probeerden. Zelfs in het water houden de personen uit de referentieafbeeldingen hun kleding aan.
Ook Microsoft heeft straffe guardrails aan zijn AI-bot toegevoegd, want Copilot ging ook niet in op de meeste verzoeken. Vaak begint Copilot wel met het genereren van een afbeelding, om zich halverwege te bedenken en aan te geven dat het verzoek is geblokkeerd door de veiligheidsmaatregelen. Net als bij Meta houden personen hun kleding aan tijdens het zwemmen. Hoewel de bot bleef weigeren om de twee AI-gegenereerde personen te voorzien van badkleding, lukte het om een of andere reden wel bij een foto van ondergetekende. Ook in dit geval lijkt de chatbot echter weinig bloot te willen genereren.
Ongeacht de prompt die we gebruikten, weigerde de Generative Fill-functie van Adobe Photoshop om een bikini te genereren. Hoewel de door Elon Musk onderschreven tweet anders beweerde, kwam er telkens een melding in beeld waarin stond dat de opdracht de gebruiksvoorwaarden schond. Wel was het mogelijk om een zwem- of badpak te genereren. Bij de mannelijke foto werd het zelfs een soort mankini, terwijl de functie onder normale omstandigheden weigert om een ontbloot bovenlichaam te genereren.
Redactie: Kevin Krikhaar • Eindredactie: Monique van den Boomen
Source: Tweakers.net