AI-modelfoto's op Vinted geven misleidend beeld van tweedehands kleding

Op Vinted is lang niet altijd duidelijk of het model op de foto bij een artikel wel echt bestaat. Sommige verkopers gebruiken een AI-model om ze de kleding te laten dragen die ze verkopen. Vinted erkent dat dit gebeurt, maar geeft daarover geen specifieke cijfers vrij.

Volgens het platform gebruikt "slechts een klein deel van de mensen op Vinted" AI op een misleidende manier. Denk daarbij aan kleding op de afbeelding die net afwijkt van het echte product, of een pasvorm die niet helemaal klopt.

Voor gebruikers van Vinted is het moeilijk te achterhalen of op foto's waarop mensen kleding dragen ook daadwerkelijk mensen te zien zijn.

Online zijn veel AI-tools te vinden die beelden analyseren op zoek naar AI-sporen. Digitaal onderzoeker Henk van Ess maakte zelf de tool ImageWhisperer, die toelicht waarom iets verdacht is, zoals je hieronder ziet. Bijvoorbeeld dat het licht van twee kanten komt, of dat een stiksel op de kleding doodloopt. "Dat kan een mens vervolgens zelf natrekken", zegt Van Ess.

Van Ess legt uit waar dit soort tools naar kijken. Denk aan een print die dwars door een vouw doorloopt of letters op labels die bíjna kloppen, zegt hij. Er wordt ook gekeken naar context. In het geval van tweedehands kleding wordt bekeken of er draagsporen gevonden kunnen worden.

Bij tweedehands aankopen op het internet is de foto het bewijs, zegt de onderzoeker. "Je kunt niet zelf voelen, er zijn alleen een plaatje en een prijs", zegt hij. Volgens Van Ess moeten platforms dan ook stoppen met het strippen van metadata als een foto wordt geüpload.

Juist in die achterliggende beeldinformatie kan het bewijs staan dat een plaatje uit een AI-generator komt. Andere gebruikers zouden die data kunnen bekijken. Ook zou Vinted de data kunnen gebruiken om beelden als (deels) AI te bestempelen.

Niet al het gebruik van AI is verboden op Vinted. Zo staat het platform mensen wel toe om bijvoorbeeld de belichting te verbeteren of om achtergronden te verwijderen. "Zolang het product zelf maar accuraat wordt weergegeven."

Het mogelijke misleiden is waar het probleem zit, vindt AI-ondernemer Remy Gieling. "Met een AI-foto kun je een impressie geven van hoe een kledingstuk eruitziet, zonder het zelf aan te hoeven trekken. Maar je ziet vaak nog wel kleine foutjes. Verkopers schieten zichzelf daarmee mogelijk in de voet, want als de bestelling dan niet helemaal klopt, wordt het pakket teruggestuurd."

Naast tot een teruggestuurd pakket kan een misleidende (AI-)foto ook leiden tot een schorsing van het account, zegt Vinted. Het platform zegt een combinatie van automatische detectie, moderatoren en gebruikersmeldingen te gebruiken om misleidende AI-beelden te vinden. Het platform gaat verder niet in op de vraag hoe die detectiemethoden werken.

Vanaf 2 augustus moet volgens de nieuwe Europese AI Act op digitale platforms altijd helder zijn of beelden door AI zijn gemaakt. Op sommige platforms, zoals Instagram, zijn plaatjes soms al gelabeld.

Van Ess vraagt zich af of de wet ervoor zorgt dat kopers op Vinted meer duidelijkheid krijgen. "De makers van de AI-tools en de personen die het beeld genereren krijgen de plicht om te labelen, niet het platform waar het beeld belandt", zegt hij. "En wie gaat het handhaven? Bij Vinted is dat niet de Brusselse toezichthouder. En de particulier die een jasje verkoopt met een opgepoetste foto: daar komt niemand voor langs. Er is geen AI-politie."