Google trakk KI-bildegenerator fra Google Earth etter under to døgn

Google har fjernet integrasjonen av bildegeneratoren Nano Banana 2 i Google Earth, under to døgn etter lansering. Funksjonen lot brukere generere KI-bilder oppe på satellittbildene og dele dem videre. Det tok timer før noen brukte den til å fabrikkere katastrofer.

Eiffeltårnet i ruiner

BBC Verify demonstrerte problemet først: et kollapset Eiffeltårn, et synkehull under pyramiden i Giza, russiske stridsvogner på vei inn i Kyiv. Faktasjekkeren Henk van Ess laget falske bilder av et iransk atomanlegg og en flyktningleir på grensen mellom USA og Mexico. Alt så ut som ekte satellittfoto, plassert i verktøyet folk bruker nettopp for å se hvordan verden faktisk ser ut.

Vannmerkene holdt ikke

Google viste til SynthID-vannmerking og til at Gemini og Lens kunne avsløre at bildene var genererte. BBC klarte å omgå kontrollene og fikk Gemini til å erklære falske Google Earth-bilder for ekte. Selskapet sier nå at funksjonen rulles tilbake mens det bygges sterkere sikringer, og viser til at folk stoler på Google Earth som et pålitelig bilde av verden.

Tilliten er produktet

Episoden føyer seg inn i et mønster der plattformene først slipper generativ KI løs og deretter bygger vernet, slik LinkedIn måtte lage egen knapp for å rapportere KI-slop og Wikipedia nå slåss mot KI-søkets uthuling av dugnadsmodellen. Forskjellen er at Google Earth ikke er en sosial feed. Kartet var selve referansen. Nå må også det faktasjekkes.