Google lod folk ændre verdens satellitbilleder: Så dukkede et falsk iransk kerneanlæg op – og funktionen forsvandt på under et døgn

De fleste af os har på et tidspunkt zoomet ind på vores eget hus i Google Earth og stolet blindt på, at det, vi så, var virkeligt. Netop den tillid var kernen i det, der gik galt i sidste uge.

Torsdag den 30. juli åbnede Google en ny funktion i webudgaven af Google Earth, der lod hvem som helst skrive en tekstkommando og få tjenesten til at generere et fotorealistisk billede oven på Googles ægte satellit- og luftfotos af et konkret sted. Funktionen byggede på Googles AI-billedmodel Nano Banana og var tænkt til uskyldige formål – for eksempel at vise, hvordan Pompeji så ud før Vesuvs udbrud, eller lave landemærker om til illustrerede infografikker.

Under et døgn senere var funktionen væk igen.

Intet blev afvist

Problemet var, at AI’en tilsyneladende sagde ja til næsten alt. Den hollandske researchjournalist Henk van Ess testede grænserne og fik uden besvær tjenesten til at fremstille fire opdigtede scener: flygtninge langs den mexicanske grænse, et kerneanlæg i Iran, en dødsulykke på en gade i Amsterdam og et hospital med et bombekrater i Gaza.

“Intet blev afvist,” konstaterede han efter forsøget i sit eget referat af testen.

Han var ikke alene. Hos mediet 404 Media viste journalisten Joseph Cox, at funktionen lige så let kunne placere et sprængningskrater midt i Los Angeles eller sætte demonstranter uden for Googles eget hovedkvarter i Mountain View, beskriver Engadget.

Et vandmærke skulle redde troværdigheden

Google forsvarede sig i første omgang med, at hvert billede blev forsynet med det digitale vandmærke SynthID, og at de genererede billeder ikke dukkede op i den almindelige Google Earth-oplevelse, som andre kunne se.

Men netop den logik blev mødt med hård kritik. Joseph Cox kaldte tilliden til vandmærker “fuldstændig hjernedødt i forhold til, hvordan misinformation fungerer” – pointen er, at folk sjældent tjekker et billede efter, når det først cirkulerer på sociale medier.

Google trak i nødbremsen

Fredag den 31. juli valgte Google at fjerne funktionen igen. I et blogindlæg forklarede selskabet beslutningen med, at materialet var begyndt at brede sig ud over det tiltænkte.

“Vi ved, at folk har en helt særlig tillid til Google Earth som et pålideligt billede af verden. Vi har set fagfolk inden for geodata bruge funktionen til en række nyttige formål, men vi har også set folk dele skærmbilleder af genereret materiale, der ser ud til at overtræde vores politikker. Derfor ruller vi funktionen tilbage i Google Earth, mens vi arbejder på at indføre stærkere sikkerhedsforanstaltninger,” skriver Google i indlægget.

Dermed er en af verdens mest brugte og betroede korttjenester på under et døgn gået fra at lancere et nyt værktøj til at trække det tilbage i hast. Google har ikke meldt ud, hvornår – eller om – funktionen vender tilbage med de lovede sikkerhedsforanstaltninger på plads.