Ophef In hun streven naar perfectie zetten nanowetenschappers ongewild de deur naar namaak open.
Fake nanomaterialen die ChatGPT in een handomdraai maakt.
‘We hebben een probleem”, schrijft een groep internationale materiaalwetenschappers in een opiniestuk in Nature Nanotechnology. Door de komst van generatieve AI kunnen zelfs experts gefingeerde microscoopbeelden van nanomaterialen niet meer van echt onderscheiden.
Kunstmatige intelligentie levert perfecte plaatjes, waardoor falsificaties niet meer te detecteren zijn. De sporen die bewerking met beeldbewerkingssoftware als Photoshop voorheen achterliet – zoals gekopieerde („gestempelde”) onderdelen of randjes langs weggepoetste delen – zijn bij kunstmatig gegenereerde beelden geheel afwezig. Juist bij de vaak abstracte microscoopbeelden kan AI met een paar gerichte instructies binnen enkele ogenblikken op echt gelijkende structuren tevoorschijn toveren.
De ernst van dit probleem werd de wetenschappers duidelijk toen Nadiia Davydiuk een middagje ging spelen met simpele tekstprompts op ChatGPT, en het resultaat ervan toonde aan haar groepsleider Quinn Besford van het Leibniz Institute of Polymer Research in het Duitse Dresden. „Ik was geschokt”, vertelde Besford in een interview met het blad Chemistry World.
Echte beelden (bovenste rij) en AI-beelden die zijn gegenereerd met de echte beelden als voorbeeld. Foto’s Nadiia Davydiuk/Nature Nanotechnology
Besford en Davydiuk namen samen met enkele internationale collega’s de proef op de som: hoe makkelijk zou het zijn om vakgenoten met AI te misleiden? Ze stuurden binnen hun netwerk een anonieme enquête uit met zes paren microscoopfoto’s van nanomaterialen, waarvan er telkens één echt was en de ander een nagebootste AI-versie. Op basis van 250 teruggestuurde antwoorden maakten ze de analyse: minder dan de helft van de respondenten kon aangeven welke foto echt was en welke fake. Als zelfs de experts het verschil niet meer kunnen zien is de weg vrij voor de perfecte misdaad, constateerden ze tot hun schrik. Een reële bedreiging voor hun vakgebied!
De grote uitgevers van wetenschappelijke bladen als Nature en Science gebruiken digitale scanners die manuscripten controleren op AI-gebruik. Maar ook die bleken de namaakfoto’s van nanomaterialen niet te ontmaskeren. In Chemistry World reageert de maker van één zo’n softwarepakket, Proofig. Het programma is volgens hem nog te losjes afgesteld „om de redacties van tijdschriften niet te overstelpen met vals-positieven en om auteurs van artikelen niet onterecht verdacht te maken”.
Maar agressievere detectie is volgens Besford en zijn team niet de oplossing. Ze pleiten er in het opiniestuk voor om de onvolmaaktheid weer te gaan waarderen in de wetenschap. We moeten begrijpen dat we als wetenschappers „geen gepolijste plaatjes maken voor sociale media”. Die oproep richten ze naar wetenschappelijke tijdschriften en hun peerreviewers. De vraag naar beelden van hoge kwaliteit legt een hoge druk op de schouders van studenten, promovendi en onderzoekers, wat onwenselijk AI-gebruik kan aanmoedigen.
Tijdschriften zouden voortaan alleen nog maar ruwe fotobestanden moeten accepteren, direct uit de machine die ze maakte. Dat gaat een warboel aan bestandsformaten leveren die niet iedereen kan lezen, realiseren de auteurs zich, maar daarvoor moet nieuwe software geschreven worden die dat wel aankan. „Laten we er niet van uitgaan dat dit probleem zichzelf oplost”, schrijven ze.
Iedere week bespreekt de redactie wetenschap hier ophef in de wetenschap.
NIEUW: Geef dit artikel cadeauAls NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC