Google zet AI-bewerktool Google Earth na overtreding beleidsregels direct stop

Google heeft de nieuwe AI-bewerkingsfunctie in Google Earth al na één dag weer uitgeschakeld, omdat gebruikers de tool misbruikten voor beeldmanipulaties die hun voorwaarden schenden. Met de functie lukte het mensen bijvoorbeeld een bomkrater, menigte asielzoekers of ongelukken toevoegen aan satelliet- en luchtfoto’s.

In een update bovenaan de oorspronkelijke aankondiging schrijft Google dat sommige gegenereerde beelden in strijd waren met de eigen beleidsregels. Volgens het bedrijf maakten screenshots van de gemanipuleerde beelden het eenvoudig om 'misleidende informatie' te verspreiden. Google zegt dat mensen erop rekenen dat Google Earth een betrouwbaar beeld van de werkelijkheid laat zien en dat de nieuwe functie dat vertrouwen aantastte.

De AI-integratie was bedoeld voor leerzame toepassingen, zoals reconstrueren hoe Pompeï er ooit uitzag of lege kavels virtueel invullen met denkbeeldige winkelgebieden. De bewerkfunctie maakte gebruik van het AI-beeldmodel Nano Banana 2. Onderzoeker Henk van Ess kreeg vooraf van Google de garantie dat schadelijke beelden niet te genereren zouden zijn, maar wist die toch zonder merkbare beperkingen te maken.

Google noemt het intrekken van de AI-bewerkingsoptie tijdelijk en zegt dat de functie kan terugkeren zodra er "sterkere vangrails" zijn ingebouwd tegen schadelijke manipulaties. Het bedrijf werkt volgens eigen zeggen aan extra beveiligingslagen die moeten voorkomen dat gebruikers moord, rampen of andere gevoelige scenario’s in de kaarten toevoegen. Pas als die maatregelen voldoende zijn, denkt Google aan herintroductie. Hoe zinvol zo'n functie is zodra er zware censuur op wordt toegepast blijft vooralsnog de vraag.

Bij de uitleg benadrukt Google dat de AI-afbeeldingen nooit in de algemene interface van Google Earth zijn geplaatst. Gewone gebruikers kwamen de bewerkte beelden dus niet spontaan tegen, maar zagen ze alleen als iemand ze bijvoorbeeld als screenshot deelde. Ook wijst Google op het SynthID-watermerk dat aan AI-gegenereerde beelden wordt toegevoegd, al erkent het bedrijf dat dit watermerk te verwijderen of weg te snijden is.

bron: Google