Home   2026-08-03 17:31:33

←

SpaceXAI klaagt Amerikaanse staat aan die uitkleedapps wil verbieden

Original article

SpaceXAI heeft de staat Minnesota aangeklaagd vanwege een wet die het gebruik van uitkleedapps verbiedt. Grok, de AI-tool van SpaceXAI, laat gebruikers anderen uitkleden. Het bedrijf stelt dat de wet te ver reikt en daarom niet actief mag worden.

Dit nieuws in het kort

  • SpaceXAI vecht een wet in Minnesota aan die het gebruik van uitkleedapps verbiedt.
  • De wet moet op 1 augustus ingaan.
  • De uitkleedfunctie van Grok leidt al langer wereldwijd tot kritiek.

Rond de jaarwisseling werd het mogelijk om met Grok andere mensen uit te kleden. De bot vroeg niet of de gebruiker toestemming had en kleedde ook minderjarigen uit. Dit zorgde voor ophef en rechtszaken over de hele wereld en in Nederland werd het uiteindelijk verboden. De staat Minnesota nam daarop in mei een wet aan die dergelijke uitkleedapps verbiedt.

Hoewel de wet al maanden geleden werd aangenomen, stapt SpaceXAI nu pas naar de rechter. In de aanklacht stelt het bedrijf dat de wet – die op 1 augustus van kracht wordt – te ver reikt en in strijd is met de Amerikaanse grondwet.

'Wet bevat niet genoeg uitzonderingen'

De wet is volgens SpaceXAI te streng en houdt niet genoeg rekening met gebruikers die de maatregelen van bedrijven omzeilen. De wet bevat ook geen uitzonderingen voor gebruikers die uitkleedbeelden met toestemming maken of ze niet delen. Er zijn ook geen uitzonderingen voor 'artistieke, wetenschappelijke, politieke, satirische, educatieve, medische of religieuze waarde'.

De bewoordingen in de wet zijn ook te breed, stelt het bedrijf. De wet spreekt alleen over 'intieme delen', waardoor het volgens SpaceXAI ook niet meer mogelijk is om afbeeldingen van mannen zonder shirt of mensen in zwemkleding te maken. Dat 'gaat verder dan wat een normaal persoon onder nudification verstaat'.

Boetes van 500.000 dollar

"Ondanks deze tekortkomingen wil de staat flinke boetes tot 500.000 dollar opleggen voor iedere keer dat een gebruiker een tool gebruikt om illegaal beeldmateriaal te maken. De wet maakt het ook mogelijk voor individuen om rechtszaken aan te spannen."

Door deze 'tekortkomingen' gaat de wet ook te ver en is hij in strijd met de grondwet. Daarnaast zijn er volgens SpaceXAI al voldoende andere wetten om deepfakes tegen te gaan. Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.

Nederlandse stichtingen spannen kort geding aan tegen X en Grok om uitkleedfuncties
Twee AI-afbeeldingen, waarvan de rechter door Grok is uitgekleed. De afbeeldingen zijn gegenereerd door Offlimits en Fonds Slachtofferhulp in een eerdere rechtszaak tegen het toenmalige xAI.

Door Hayte Hugo

Redacteur

Feedback • 30-07-2026 15:34 266

30-07-2026 • 15:34

266

Lees meer

Reacties (247)

247
189
110
5
0
50
Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.
Dat is toch het hele doel van deze wet. Zorgen dat zulke AI tools niet meer zulke afbeeldingen kunnen maken.
Waarom is het expliciet de functie die verboden moet worden? Het lijkt mij toch echt meer te draaien om wat je wettelijk mag, dus het verbod zou idd eerder zijn m.b.t. het gebruik zonder instemming van de 'uitgekleedde' partij, of het voorkomen dit te doen bij zaken die expliciet wettelijk verboden zijn, zoals bijv. minderjarigen. Dit soort zaken zijn over het algemeen wettelijk al benoemd (mag ik voor de moderne wereld hopen althans).

Dat dat ze dit nu expliciet willen invoeren voor AI lijkt me juist onwenselijlk, want als je elke tech die zoiets kan expliciet bij naam moet benoemen, dan ben je bij elke nieuwe tech/app/functie weer een nieuwe wet aan het verzinnen. (edit:) Dit moet dus los van de app of functie verboden zijn, zodat toekomstige zaken hier ook meteen onder vallen.

[Reactie gewijzigd door detheavn op 30 juli 2026 15:52]

Ik denk dat het een enorm slecht idee is om "instemming" een factor te maken die een uitzonding zou zijn. Kijk naar social media bedrijven nu, iemand upload zonder jou toestemming een foto. En nu?

Meta zegt, ja maar er staat dat je toestemming moet vragen aan die persoon. Wij nemen aan dat dit gebeurt is en nu is de foto van ons.

Dus straks voegt Elon een checkbox toe, en dan mag je naar hartenlust foto's uploaden. Zo lang de persoon in kwestie er niet achter komt dat hij of zei op X staan word er dus aangenomen dat er consent is.

Waarschijnlijk staat in de voorwaarden ook nog dat X (en alles wat er aan hangt) die foto ook nog mag gebruiken voor van allerlei doeleindes.

Misschien krijgt Elon automatisch een kopie voor zijn collectie.
Nog los daarvan dat ik niet op twitter wil zijn om vast te kunnen stellen of mijn foto gebruikt is en bezwaar aan te kunnen tekenen.
Dat is dus het hele probleem met de situatie nu. Je kunt vast bezwaar maken, maar het is dus opt out op individueel niveau. Weet je het niet? Pech.

Er zal vast in de nabije toekomst iemand de eerste zijn die langs een reclame bord loopt waar hij zelf op staat en nooit of te nimmer op een of andere manier toestemming heeft gegeven.
Het is net zo gestoord als proberen bij odido je klantgegevens op te vragen, die gelekt zijn, maar die ze eigenlijk niet eens mogen hebben - terwijl je ondertussen gescamd wordt met dezelfde data die gestolen en verhandeld is op het dark web.

Alleen mag je niet zelf het dark web op, wel op twitter natuurlijk. Alhoewel dat ook een donkere plek is.
De ter afschrikking bedoelde plaatjes op tabaksproducten zijn een goed voorbeeld. Veel daarvan zijn zonder toestemming gebruikt.
Daarom mag consent nooit aangenomen worden maar alleen expliciet gegeven doen naar mijn mening.

Wanneer die consent er dan niet is: meteen forse straf op zetten wanneer die consent niet alsnog binnen een korte termijn expliciet aangetoond kan worden bij een eerste overtreding en later meteen fors straffen.

Wetten moeten wel op een bepaalde algemeen dekkende manier worden verwoord, want anders zijn er weer legers handige juristen die daar handig gebruik van maken bij het vinden van loopholes.
Bor Coördinator Frontpage Admins / FP Powermod @Raymond Deen • 31 juli 2026 10:34
Het probleem is dat je die consent online amper kan aantonen. Het is geen on aanpasbaar meta gegeven van een film / foto / whatever.
Dus als een echt persoon wat knipt en plakt is het pervers ,maar een ai tool dan is het artistiek of borderline
Geen idee hoe je tot die conclusie komt, want nergens geef ik aan dat het uitvoeren van (wat in beide gevallen een actie is die uitgevoerd of getriggered wordt door een persoon) geen perverse actie kan zijn.
Ik snap je punt maar een praktische insteek lijkt me de gevolgen voor het juridische apparaat. Als de tool het wel kan zal het op de lange termijn leiden tot veel rechtzaken en (maatschappelijke) kosten omdat de een na de andere smeerpijp de fout ingaat.

Als de functie er niet is dan vang je daar al een groot gedeelte mee af.
Je bedoelt alle AI tools.
Elke AI tool die uitgekomen is kan "verkeerd" gebruikt worden en het argument is altijd kinderen.
Waarom is de wet gericht op een tool en niet het gedrag van de mens?
In Zuid Korea kan je tot 7 jaar gevangenis straf krijgen voor een deepfake.
Er zijn genoeg legitieme reden om wel een uitkleed functie te hebben en deepfakes bestonden al heel lang voordat AI überhaupt beschikbaar was.
Je moet kijken naar wat de wet werkelijk voor gevolgen heeft om de intentie erachter te begrijpen.
Voor de kinderen is het zeker niet want daarvoor hebben we al meer dan genoeg wetten om iemand aan de hoogste boom op te knopen.
Het gaat ook over hoe makkelijk beschikbaar iets is en hoeveel schade er mee veroorzaakt kan worden. Zo mogen ook bepaalde mensen in Nederland wel een vuurwapen bezitten, maar verreweg de meesten niet. En zo kunnen drones ook op bepaalde plekken niet vliegen tenzij je daar een speciale ontheffing voor hebt.
En een schilmesje kan ook gebruikt worden als een wapen. Zullen we maar een restrictie van 1 cm op alle messen hanteren?
Nee, natuurlijk niet, want dat is voornamelijk bestemd als gebruiksvoorwerp. Echter mag je er niet mee op zak lopen. Dus ja die zijn ook beperkt.

Het gaat helemaal niet over het volledig verbieden van tools, het gaat over het inperken van het gebruik tot acceptabele doelen. Een schilmesje is voor thuis, een AI tool is niet om mensen mee uit te kleden.

Maar wellicht beperkt dit je hobby, en triggert dat je? Zeg maar.
En omdat 1 idiot in een AH winkel er eentje had gebruikt verkoopt de AH nu helemaal geen messen meer.
Het is maar hoe ver je wil gaan.
Ik denk dat je beperkt bent in je redeneringesvermogen; het gaat hier over of iets wettelijk verboden moet worden. Dat een AH er als bedrijf voor kiest om bepaalde producten niet te verkopen is iets heel anders (ik vermoed om het risico voor hun personeel to beperken, maar ze mogen dat ook doen omdat ze de messen lelijk vinden, daar zijn ze vrij in.)
Het gaat erom dat uitkomst vrijwel altijd anders uitpakt dan je verwacht had. Tuurlijk is er een nobel streven naar een veilig omgeving maar in de praktijk heeft dat altijd onvoorziene consequenties.
Waar het mij om gaat is dat het gedrag al bestond voordat de tool beschikbaar was. Het enige verschil is dat het nu "makkelijker" is.
Is het gemak van de criminele actie reden om de actie zelf te negeren?
Een stuk gereedschap blijft een stuk gereedschap en de mens is 100% verantwoordelijk voor de actie.
Elke plaatje wordt nu al voorzien van watermerken dus het is makkelijk te herkennen waar iets vandaan komt en buiten dat om kan je ook een AI voor detectie maken maar dat wordt altijd vergeten.

Als het alleen maar rationeel gebruikt kan worden voor enkele doeleinden zoals een geweer voor vechten of jagen dan kan je dat aan banden leggen.
In dit geval gaat het om een tool waarmee je verschillende kleding stylen op jouw eigen lichaam kan zien voor online shoppen.
Het doet verder helemaal niks nieuws. Dat kan je ook in photoshop doen als je handig bent.
Waarom moeten we daarvoor nieuwe wetten maken?
Dat kan ook prima, je kan namelijk heel makkelijk invoeren of iets wel of niet expliciete beelden kan genereren. Kijk maar naar de verschillen tussen DALL-E en GROK. Het toelaten van het genereren van nudify beelden is een expliciete keuze.
Is het een keuze als je in keuze beperkt wordt?
Buiten dat om heeft de AI tool je naakte beelden niet en kan het ook niet jouw lichaam nabootsen. Alles wat het doet is de contouren van je lichaam in je kleding herleiden.
Per definitie is het enkel een etalagepop met jouw geschatte maatvoering meer niet. Wil je een toggle hebben om tepels wel of niet te zien ofzo?
Het gaat niet om wat ik wil, ik kan simpel besluiten het niet te gebruiken. Ik heb het idee dat je het hele punt volledig mist
Het wetgeving waar het om gaat, ontneemt jouw mogelijkheid om dat te besluiten.
Dat betekent dat een ieder die eens is met de wetgeving, de zeggenschap wil krijgen over de besluitvorming voor een ander.
Het is dusdanig breed opgesteld dat het enkel dient als een juridisch wapen ipv bescherming van het volk.
Dergelijke troep valt altijd te herkennen als het "kind" argument aangehaald wordt alsof je achter een AI EULA zou kunnen schuilen om de wet te ontlopen.
Het is een wet gebaseerd op een "Wat als..." argument en niet op wat het werkelijk doet.

Ik kan je 100% garanderen dat AI's gebruikt worden om massaal deepfakes te maken. Die AI's zijn echter prive en hebben niks te maken met het publiekelijke beschikbare AI's.
Je moet dus niet alleen openbare AI reguleren maar ook de privé versies. Hoe wil je dat doen?
Ik stel voor gewoon een 10jaar gevangenis straf opleggen aan de eerste de beste idiot die het het doet en je hoeft je daarna niet meer druk te maken over welke tool ervoor gebruikt wordt.
Maak het simpel, goedkoop en doeltreffend ipv een wirwar van juridische jargon.
Er zijn ook illegale wapens in omloop, maar beperkt, omdat het niet makkelijk toegankelijk is.

Deze wet is niet alleen om gebruikers te kunnen straffen, daar hebben we immers al wetten voor. Deze wet is voornamelijk om grootschalig makkelijk toegankelijke tools te kunnen verbieden, of te dwingen bepalingen in te bouwen. Zie mijn eerdere vergelijking tussen DALL-E en GROK.

Een wet gaat nooit iets volledig verbannen, maar gaat het wel minder makkelijk maken, waardoor de gemiddelde puber niet even een app download om hun klasgenoten uit te kleden. Ja, er zullen mensen zijn die thuis modellen draaien, of via VPN de US versie van GROK draaien (als er ooit een EU versie komt) maar dat zullen er veel en veel minder zijn.
Toont in ieder geval aan dat ze snappen hoe een wet functioneert ja :) . Verbieden is je tool aanpassen. Hun standpunt verdedigen ze er mijn inziens niet mee.
Hoorde laatst een gozer in een podcast zeggen dat dit onder jongeren wel gebruikt wordt. Van ja joh ken je Marietje? Ja die heb ik in bed gehad. Ja geloof je niet? Kijk maar heb gefilmd. Behoorlijk ziek als je het mij vraagt, maar je weet gewoon dat dit gebeurt onder hitsige pubers die stoer willen doen.
Hoorde laatst een gozer in een podcast zeggen dat dit onder jongeren wel gebruikt wordt. Van ja joh ken je Marietje? Ja die heb ik in bed gehad. Ja geloof je niet? Kijk maar heb gefilmd. Behoorlijk ziek als je het mij vraagt, maar je weet gewoon dat dit gebeurt onder hitsige pubers die stoer willen doen.
En als we daar door wetgeving ook maar een heel klein beetje tegengas kunnen geven moeten we dat zeker doen.
Dat lijkt mij juist het doel van deze wet....
Ik vind dit een erg slechte redenatie van SpaceX:
Het bedrijf wil dat de rechter de wet ongeldig verklaart, 'anders heeft SpaceXAI geen andere keuze dan om Groks beeldbewerkingsfuncties op verschillende manieren te beperken'.
conflicteert met:
De wet bevat ook geen uitzonderingen voor gebruikers die uitkleedbeelden met toestemming maken of ze niet delen. Er zijn ook geen uitzonderingen voor 'artistieke, wetenschappelijke, politieke, satirische, educatieve, medische of religieuze waarde'.
Iedereen die een LLM gebruikt weet dat een LLM minder goed is in het beperken van de uitvoer aan de hand van complexe regels met vele uitzonderingen. Nu zou de LLM niet alleen moeten kijken of een vraag: "maak bloot" goed is of fout, nu zou de LLM ook moeten controleren of iets satire of medisch is of niet? Dat is niet een punt waar de LLM-tech zich momenteel bevind.

Natuurlijk is SpaceX / Elon enorm bang om zo'n brede wet door te laten, maar praktisch is het de enige optie momenteel. Als we dit echter doortrekken qua terrorisme, medische ingrepen enzovoort, dan wordt het gebruik van AI ernstig beperkt. Dat hier een conflict is is wel duidelijk, maar de redenatie van SpaceX dat we de LLM dan complexere regels moeten geven is momenteel praktisch - zacht gezegt - problematisch.

Laat ze eerst maar eens een model maken wat aan die complexere regelgeving kan voldoen. Ik heb zelf verschillende GPT's gemaakt en die schenden zelfs "regels" die expliciet zijn ingegeven, bijvoorbeeld een direct verbod op het maken van markdown titels voor een specifieke use-case. Nou is dat geen Grok, maar ik geloof er niets van dat die beter presteert op dat gebied. Uiteindelijk moeten wetten op de praktijk aansluiten.
En dat zegt alles over het bedrijf, wat je zou moeten weten.
Ja dit dus. Wat mij betreft verbieden ze twitter en grok gewoon. Elon is ook een verwerpelijke man. Ik snap niet hoe je constant wetten kunt overtreden en gewoon lekker door mag gaan met je bedrijfsvoering. Als het om een MKB bedrijf ging had de eigenaar al vast gezeten en was het bedrijf opgeheven.
Mr. Musk is zwaar met vuur aan't spelen. Eens men zich tegen hem keert zullen de staten als een pletwals er over heen rijden. Als je de man zijn ideëengoed er op na leest, merk je dat het zo hard en zo gemeen is als het maar kan zijn. Er is niks menselijks meer aan, niks redelijks ook.
Vermoedelijk omdat ze teveel inkomsten zullen mislopen. Genoeg mensen op de planeet die met plezier anderen zullen stalken, 'uitkleden' en publiekelijk aan de schandpaal willen nagelen en daarvoor met plezier een kleinigheid zullen betalen.

Moeten we het menselijke gedrag aanpakken? Sure. Realistisch? Nee.
Iedereen heeft het hier over de pornoficatiefunctie van grok, maar het echte verhaal is natuurlijk dat musk dit soort rechtzaken betaalt met zn ruimtebedrijfje dat zwaar gesubsideert wordt door de overheid en net is binnengelopen op een aandelenemissie. Krommer kan ik het niet bedenken.
Ik ben per definitie tegen AI dat door consumenten te gebruiken is. Even een opdracht geven van wat voor plaatje je wil en hop je hebt het. Belachelijk. Ga zelf eens aan de gang om het met een camera en photoshop te maken ipv alles lui voor je te laten doen.

Ben wel van mening dat er te snel met kinderporno geschermd wordt, dat is me vaak tegen het zere been. KP is in alle mogelijke kringen van de westerse wereld al verboden, op wat voor manier dan ook. En terecht natuurlijk. Overigens, naakt onder de 18 is niet automatisch porno of sexistisch, maar in geval van mensen (kinderen) uitkleden doet dat er niet toe. Het willen uitkleden van mensen begrijp ik natuurlijk wel, dat zit in onze natuur om anderen naakt te willen zien, maar ik vind dan nog steeds dat het niet mogelijk mag zijn om dat met software via een opdracht mogelijk te maken. Dus gewoon hup idd verbieden die functies.

Ben het wel met bzuidgeest eens dat er in de opvoeding veel kan verbeteren. Dat vind ik het algemeen. Kinderen moeten weerbaarder gemaakt worden tegen alles dat online gebeurt, vooral nu AI een snelle ontwikkeling doormaakt. Omdat ze er tegenwoordig steeds jonger mee in aanraking komen wordt dat steeds belangrijker. Er moet met ouders/voogd/opvoeders/school meer en makkelijker open over gepraat kunnen worden. Juist om te voorkomen dat ze depressief worden of zelfmoord willen plegen.

En nogmaals, van mij mag AI wel weer verdwijnen. AI alleen voor professionals en onderzoekers in met name de medische wereld kan het een meerwaarde hebben, maar verder niet.

[Reactie gewijzigd door Knightwolf op 1 augustus 2026 10:17]

ergens heb ik het rigoreuze idee dat het misschien wel beter is om dit maar lekker te laten gebeuren. laat het internet maar helemaal volstromen met dit soort meuk. hoe meer, hoe beter. iets zegt me dat hoe sneller we volledig overdonderd worden met nepcontent, hoe sneller iedereen dit niet meer serieus neemt, en hoe minder impact het heeft. en hoe minder zin mensen nog zullen hebben om zich er mee bezig te houden. misschien dat mensen dan wel afhaken met social media, omdat het toch allemaal bagger is.

denk dat AI dan al snel zal afnemen in waarde. Maarja, beetje riskant om het gewoon even te proberen.

[Reactie gewijzigd door rickvdvulkaan op 30 juli 2026 17:05]

Je hebt echte creeps rondlopen hoor, dus niet zo'n lekker idee dit..
Ergens zit er wel iets in wat je schrijft en misschien dat dan het 'spannende' er wel vanzelf af gaat. Maar zoals je zelf ook al schrijft is het heel riskant dit te proberen want tja, zeker als het zo gemakkelijk gaat. Er lopen helaas genoeg gefrustreerden rond die hier dan misbruik van gaan maken en een boel ellende veroorzaken.
Als man zijnde is dat natuurlijk een stuk makkelijker gezegd, ons geslacht hoeft zich niet zozeer zorgen te maken dat het op ons gebruikt wordt. Niet dat het niet zal gebeuren maar deze uitkleedfuncties worden voor 99% gebruikt op vrouwen.
Heb je enig idee hoeveel leed er kan worden aangedaan met deze mogelijkheden?
Er zijn al genoeg voorbeelden helaas
Volgens mij hebben we nog nooit in een wereld geleefd waarin we met z'n allen op een dusdanige manier gewend zijn geraakt aan de hoeveelheid nepcontent op de manier waarop ik het omschrijf. De voorbeelden die je bedoeld die juist gebaseerd op het tegenovergestelde van wat ik bedoel.

Ik snap dat het vergezocht is, maar ik snap niet dat het als "irrelevant" wordt bestempeld.

Om te kunnen reageren moet je ingelogd zijn