AI-beelden De oorlog in Iran gaat gepaard met een ongekende golf van door AI gegenereerde desinformatie. Persbureau ANP verwijderde ruim duizend foto’s uit Iran na vermoedens van AI-gebruik. Uit onderzoek van NRC blijkt dat er van alles mis was met de beelden.
Detail uit een foto die afkomstig is van het kantoor van de Iraanse Opperste Leider. De meisjes zijn in de originele foto onscherp, in de foto van Salampix zijn dezelfde gezichten bewerkt met AI.
Een van de spectaculairste video’s die tijdens de oorlog tussen de VS, Israël en Iran circuleerden op sociale media, toont de Burj Khalifa, de hoogste wolkenkrabber ter wereld in Dubai, gezien vanaf het balkon van een appartement. De bewoners, enkele Arabische mannen in witte gewaden, rennen in paniek het balkon op om te zien hoe Iraanse gevechtsvliegtuigen een nabijgelegen Amerikaanse basis bombarderen. Ze schreeuwen van opwinding bij elke explosie tussen de legerbarakken. De video is miljoenen keren bekeken, ook al toont die gebeurtenissen die nooit hebben plaatsgehad.
De oorlog tussen de VS, Israël en Iran gaat gepaard met een ongekende golf van door AI gegenereerde desinformatie. Op sociale media circuleren door AI gegenereerde foto’s en video’s van bombardementen en verwoesting naast beelden van echte gebeurtenissen, waardoor het steeds moeilijker is om feit van fictie te onderscheiden. Veel beelden die rondgaan, zijn volgens experts deel van een gecoördineerde Iraanse desinformatiecampagne die sterk leunt op door AI gegenereerde video’s van aanvallen op buurlanden, om de indruk te wekken dat Iran een sterk leger heeft, doelen in de hele regio treft, en aan de winnende hand is.
In zo’n informatieomgeving willen nieuwsorganisaties en persbureaus betrouwbare bakens zijn met strikte journalistieke standaarden, zodat collega’s en nieuwsconsumenten erop kunnen vertrouwen dat hun berichtgeving klopt. Anders krijgt oorlogspropaganda de overhand. Daarom was het zo opmerkelijk dat het Nederlandse persbureau ANP en het Amerikaanse persbureau Reuters zich begin maart genoodzaakt zagen om ruim duizend foto’s uit Iran te verwijderen uit hun beeldbanken na vermoedens van AI-gebruik. Het gebeurt zelden dat gerenommeerde persbureaus zo’n groot aantal foto’s verwijderen.
Wat was er met deze foto’s aan de hand? En waar kwamen ze vandaan? Uit onderzoek van NRC en Der Spiegel blijkt dat er tal van problemen waren met de beelden, niet alleen het gebruik van AI. De bron werd niet vermeld, de authenticiteit was niet geverifieerd, én ze waren bewerkt met behulp van AI waardoor er nieuwe elementen aan de beelden zijn toegevoegd – allemaal journalistieke doodzondes. De zaak laat zien dat het probleem niet alleen draait om beelden die volledig met AI gemaakt zijn, maar ook om door AI toegevoegde details in verder authentiek beeld. Er lijken geen heldere afspraken te zijn tussen persbureaus over wat er journalistiek is geoorloofd. Dit ondermijnt de betrouwbaarheid van nieuwsbeelden die media wereldwijd gebruiken.
Alle verwijderde beelden waren aangeboden door een 67-jarige fotograaf van Iraanse afkomst die al decennia woont en werkt vanuit Parijs. Hij wil anoniem blijven omdat hij nog terug naar Iran wil, vertelt hij telefonisch aan NRC, en vreest dat zijn uitspraken hem in de problemen kunnen brengen met de autoriteiten. Hij heeft twee kleine fotopersbureaus, Salampix en Akasbashi, waarmee hij foto’s uit Iran verzamelt en verkoopt aan grotere fotopersbureaus. Omdat er maar weinig beelden uit Iran komen, haalt Salampix „links en rechts” foto’s van het internet. „Het is net een supermarkt”, zegt de fotograaf.
Sinds de oorlog uitbrak, is de vraag naar beelden uit Iran sterk toegenomen. Maar er zijn vrijwel geen buitenlandse fotografen in Iran, en lokale fotografen hebben te maken met censuur en beperkingen in hun bewegingsvrijheid. Daarom verzamelt de fotograaf een groot aantal foto’s van de perswebsites en Telegram-kanalen van het regime en van sociale media. Zijn afnemers weten volgens hem waar hij de foto’s vandaan haalt. „Ze weten dat ik foto’s van burgerjournalisten van X haal, en dat de foto’s van de Opperste Leider en de president zijn verspreid door hun kantoren. Dat heb ik uiteraard uitgelegd.”
Het is op zich niet ongebruikelijk dat buitenlandse persbureaus beelden verspreiden van het Iraanse regime. Zolang ze maar duidelijk in het bijschrift vermelden wat de bron is. Zo verspreidde het Europese persbureau EPA ook foto’s van het regime, maar wel duidelijk met de vermelding dat het om een ‘hand-out Khamenei Office’ ging. Dat heeft de fotograaf nagelaten, naar eigen zeggen omdat hij geen propaganda wil maken voor het regime waar hij zelf voor is gevlucht. „Ik wil zijn naam er niet bij zetten, want dan wordt het propaganda.”
De foto’s die de fotograaf verzamelt, tonen zeer uiteenlopende taferelen: Khamenei die in een congreszaal leden van de luchtmacht toespreekt; een biddende Khamenei met achter hem tientallen in het wit geklede meisjes; een straat geflankeerd door Iraanse vlaggen en banieren met daarop de beeltenissen van martelaren. De fotograaf zoekt de herkomst van de foto’s niet uit. NRC kwam er achter dat in elk geval één foto die hij verkoopt, niet is gemaakt in Iran maar op de Westelijke Jordaanoever in 2018, door een fotograaf van het persbureau AFP.
Khamenei begroet de leden van de Iraanse luchtmacht tijdens een bijeenkomst in Teheran, Iran, op 7 februari 2025.
Detail uit bovenstaande foto. Op de rechter foto, die door Salampix is verspreid, zijn de vingers en het horloge zichtbaar vervormd. Op de linker foto, die door EPA is verspreid, zit deze AI-bewerking niet.
Op de linker foto, die via EPA is verspreid, zijn de handen van Khamenei onscherp. Op de rechter foto, die via Salampix is verspreid zijn de handen met AI verscherpt.
„Alle Iraanse media gebruiken die foto’s, ze zijn gratis”, zegt de fotograaf. Hij vindt het belangrijk om de beelden te delen met de wereld, aangezien er nauwelijks buitenlandse journalisten zijn in Iran. Hoe kunnen mensen anders weten hoe het met de Opperste Leider gaat? Of hoe de nieuwste Shaib-12-raket eruitziet? Hoewel de fotograaf zich er terdege bewust van is dat het Iraanse regime door AI gegenereerde propagandabeelden verspreidt, zag hij in dit geval geen reden om te denken dat er met de foto’s geknoeid was. „Foto’s van de president zijn geen AI. Ik heb ze van zijn kantoor. Zijn gezicht is zijn gezicht.”
Om de foto’s scherper te maken, bewerkte de fotograaf ze met behulp van het programma Photoshop en Topaz, een plug-in (externe software) die extra functies toevoegt. Hij had echter niet door dat Topaz een AI-gestuurd fotobewerkingsprogramma is. Topaz analyseert elke foto en past automatisch correcties toe. Bij het verscherpen van de in het wit geklede meisjes achter Khamenei bijvoorbeeld, worden ontbrekende texturen en details aangebracht met behulp van AI, die is getraind op duizenden echte gezichten. Hierdoor zagen ANP en Reuters sporen van AI-gebruik, waarna ze de foto’s verwijderden.
Khamenei bidt samen met Iraanse meisjes tijdens een ceremonie genaamd ‘Engelenfeest’ in Teheran, Iran, op 3 februari 2023.
De meisjes op de achtergrond zijn in de originele linker foto onscherp. In rechter foto van Salampix zijn dezelfde gezichten verscherpt met behulp van AI.
Kleine fotopersbureaus zoals Salampix en Akasbashi zijn een belangrijke, eerste schakel in de verificatie van nieuwsbeelden. Want zij leveren foto’s aan de grotere fotopersbureaus. ANP is extra alert op beelden uit Iran. Het persbureau krijgt 70.000 foto’s per dag binnen van fotografen en fotopersbureaus. In Nederland vertegenwoordigt het persbureau een groot aantal fotografen, voor foto’s van buiten Nederland is ANP afhankelijk van internationale en lokale persbureaus. ANP verkoopt die beelden vervolgens door aan derden, waaronder een groot deel van de media in Nederland.
De problematische beelden van Salampix zijn via het Franse fotopersbureau ABACA bij het ANP beland, en de beelden van Akasbashi via het Franse Sipa-press. Het is volgens Freek Staps, hoofdredacteur van ANP, onbegonnen werk om alle tienduizenden foto’s die binnenkomen te controleren. ANP checkt alleen de foto’s van de fotografen die het vertegenwoordigt, en verwacht dat andere persbureaus dat ook doen voor hun fotografen. „De Belgen voor België, de Fransen voor Frankrijk, et cetera.” De moeilijkheid is volgens Staps dat het verificatieproces „een keten van vertrouwen” is. „Het werkt alleen als iedereen zich aan de afspraken houdt.”
Maar dan moeten de afspraken wel helder zijn. Jean-Michel Psaila, directeur van ABACA, reageert geërgerd op de suggestie dat de bewuste beelden zijn bewerkt met AI. „We moeten AI-beelden en foto’s die zijn bewerkt met Photoshop niet door elkaar halen”, vindt hij. „Iedereen gebruikt weleens Photoshop. Dat is iets heel anders dan beelden creëren met AI om nepnieuws te verspreiden.”
Daar is Mahsa Alimardani, adjunct-directeur van het Technology Threats and Opportunities-programma bij de mensenrechtenorganisatie WITNESS, het niet mee eens. Ze denkt niet dat Photoshop en AI nog van elkaar te scheiden zijn. „Plug-ins zoals Topaz, generatieve opvulling in Photoshop zelf, en AI-gebaseerde opschaling en ruisonderdrukking zitten nu allemaal in dezelfde tools die fotografen al twintig jaar gebruiken”, mailt ze in reactie op vragen van NRC. De grens tussen ‘verbetering die iedereen toepast’ en ‘AI-manipulatie’ is volgens haar door de huidige software feitelijk vervaagd. „Dus beweren dat Photoshop onschadelijk is terwijl AI de bedreiging vormt, beschrijft een wereld die niet meer bestaat.”
Het probleem met de beelden is niet alleen dat ze bewerkt zijn met AI: de fotograaf had ook foto’s van sociale media geplukt zonder bij de makers de rechten te regelen, de beelden te verifiëren, en de bron te vermelden. Sipa zegt hiervan op de hoogte te zijn, en in het bijschrift ook te hebben vermeld dat de beelden niet geverifieerd waren. ABACA deed dit niet. „Ik vertrouw mijn leverancier”, zegt Psaila. „En ik geloof dat hij controleert waar de foto’s vandaan komen. Dus zelfs als hij foto’s van sociale media heeft gehaald, dan is er iemand die ze [op sociale media] plaatst. Dan moet hij controleren waar ze vandaan komen.”
ANP zegt in zijn geheel geen ongeverifieerde beelden in zijn beeldbank te willen hebben. „Dat vinden wij te spannend”, stelt Staps. „Een foto van ANP is altijd waar. Dat is ons uitgangspunt.” Op de vraag wat hij tegen zijn klanten gaat zeggen over de foto’s waarvan de rechten niet zijn geregeld, antwoordt hij dat ze, net zoals bij de melding over het AI-gebruik, hun afnemers zeker gaan informeren. Maar dat hij wel eerst wil weten om welke foto’s het precies gaat. Staps: „En voor de duidelijkheid: wij zijn niet de dader. Wij zijn in dit geval de Albert Heijn, en Unilever heeft pindakaas met glasscherven in onze schappen staan. Dan haalt de Albert Heijn ze uit de schappen en zegt tegen Unilever: ‘Los het op’.”
De grote persbureaus leggen de verantwoordelijkheid dus bij de fotografen en de kleine fotopersbureaus. Maar die zagen hun inkomsten de afgelopen jaren sterk teruglopen. Waar foto’s uit hun archieven eerder nog rond de 100 euro per stuk opleverden, zijn de prijzen tot onder een euro per foto gedaald. „Veel persbureaus functioneren tegenwoordig als een soort supermarkt”, zegt de Iraanse fotograaf. „Ze verkopen de foto’s voor een habbekrats. Je krijgt maar 10 of 20 cent per foto. Is het dan nog de moeite waard om een hele dag foto’s te bekijken en te bewerken? Het is niet meer hetzelfde als vroeger.”
Hoe zorgen nieuwsorganisaties dat beelden betrouwbaar blijven? De rol van internationale persbureaus is in gebieden waar fotojournalisten moeilijk kunnen werken cruciaal, want zij verspreiden hun beelden over de hele wereld. Als het daar misgaat, dan kunnen veel media de fout overnemen.
Om te voorkomen dat foto’s met AI worden bewerkt, heeft het Amerikaanse persbureau AP een jaar geleden het gebruik van het programma Photoshop door zijn vaste fotografen gewijzigd. Ze mogen hun beelden alleen bewerken met de fotobewerkingssoftware Capture One, vertelt AP-fotograaf Peter Dejong. In overleg met Capture One heeft AP een eigen versie laten maken waarbij de bewerkingsmogelijkheden beperkt zijn. Alleen de helderheid, het contrast en de kleurbalans kunnen nog worden aangepast.
Daarnaast zijn er verschillende softwareprogramma’s, zoals Image Whisperer en Siteengine, waarmee je beelden kunt controleren op het gebruik van AI. Maar de vraag is hoe betrouwbaar die zijn. „Ze worden overschat en onderschat”, zegt Henk van Ess, een expert in digitale journalistiek. „Een detector en een journalist zien verschillende dingen en dat is precies het punt. Een mens ziet dat een rampvideo te gestyled is, telt vingers, en ziet dat schaduwen niet kloppen. Een detector is nuttig in het geval een mens geen schijn van kans heeft: 99 procent van de foto is echt, op één detail na. Daarom heb ik Image Whisperer gemaakt.”
Foto van het eerste Iraanse vliegdekschip voor drones, die is verspreid door het kantoor van de Opperste Leider.
Op de rechter foto, die via Salampix is verspreid, zijn de hekken en de straaljagers vervormd.
Op de rechter foto, die verspreid is door Salampix, zijn de details in de boot verdwenen en zijn er losse, onafgemaakte lijnen.
Naast het detecteren en uit het aanbod halen van AI-beelden, zijn er ook andere mogelijke oplossingen. Zoals een cryptografische handtekening voor het verifiëren van de herkomst en de bewerkingsgeschiedenis van digitale content, bijvoorbeeld foto’s en video’s: C2PA (Coalition for Content Provenance and Authenticity). Elke bewerking in de keten, van camera tot kijker, wordt opgeslagen zodat redacteuren verderop in de keten weloverwogen beslissingen kunnen nemen. Dit lijkt de nieuwe internationale standaard te worden. Internationale bedrijven en mediaorganisaties, van Sony en Google tot de BBC, zijn al jaren de mogelijkheden ervan aan het onderzoeken. In Nederland zijn onder meer ANP, NPO en Beeld & Geluid ermee bezig. In het najaar beginnen de eerste publieke omroepen in Europa met het gebruik van C2PA.
Alimardani vindt het probleem van bronvermelding net zo ernstig als AI. „Persbureaus en redacties die bij fotoagentschappen inkopen, hebben het recht om te weten dat een beeld communicatiemateriaal van een staat of van paramilitairen is, in plaats van onafhankelijke fotojournalistiek. Dat is een fundamentele kwestie van de verificatieketen. Als je foto’s verkoopt aan een professioneel persbureau, zou je verplicht moeten zijn om een herkomstcontrole te doorstaan, anders kom je er niet doorheen.”
Maar Van Ess ziet een cryptografisch paspoort voor beelden, zoals C2PA, niet als dé oplossing. „De keten klopt pas als elk platform de credentials actief raadpleegt — en dat doen de meeste nog niet. Tot die dag geldt: C2PA is een uitstekend paspoort. Maar de gevaarlijkste beelden reizen zonder papieren. Eén screenshot of één WhatsApp-doorstuur zonder C2PA, en de keten is dood. Kwaadwillende strippen de metadata gewoon. Ik pleit liever voor iets anders. Geen technische handtekening, maar een redactie die publiekelijk haar naam onder een beeld of uitspraak zet. Dat is in het huidige klimaat meer waard dan een metadata-blokje dat bij het eerste screenshot verdwijnt.”
Het Nederlandse persbureau ANP verwijderde begin maart ruim duizend foto’s van de kleine fotoagentschappen Salampix en Akasbashi, die via de Franse persbureaus ACABA en Sipa-press in zijn beeldbank waren beland. Het waren niet alleen recente foto’s, maar alle beelden die Salampix en Akasbashi de afgelopen jaren hadden verspreid. Eén van die foto’s is ook gepubliceerd in NRC, bij een verhaal over martelingen in Iraanse gevangenissen in 2023. NRC heeft die foto online vervangen door nieuw beeld, en bij de oude foto een disclaimer gezet.
Doorzie de wereld van technologie elke week met NRC-redacteuren