Google pustil AI do satelitních snímků a za den ji stáhl. Uživatelé vytvořili hořící elektrárnu i falešné uprchlické tábory

Google pustil AI do satelitních snímků a za den ji stáhl. Uživatelé vytvořili hořící elektrárnu i falešné uprchlické tábory

Google ve čtvrtek spustil funkci, která umožnila upravovat satelitní snímky v Google Earth pomocí AI modelu Nano Banana 2. Nepřežila ani 24 hodin. Uživatelé během pár hodin vytvořili fotorealistické deepfaky: falešné uprchlické tábory na americko-mexické hranici, jadernou elektrárnu v Íránu, neexistující povodně i útok ve stylu 11. září. Google funkci v pátek stáhl. Příběh je varováním pro celý byznys, který stojí na důvěře v obrazová data — od pojišťoven po média.

Málokterá technologická funkce měla tak krátký život. Google ve čtvrtek zpřístupnil v Google Earth novinku, která propojila obrazový AI model Nano Banana 2 ze systému Gemini přímo se satelitními snímky planety: stačilo napsat textový pokyn a AI přetvořila libovolné místo na Zemi podle zadání. Geoprofesionálové dostali nástroj na vizualizace zástavby, zeleně nebo následků povodní. Internet dostal hračku. A za méně než 24 hodin bylo po všem.

Funkce přitom na papíře dávala smysl. Google ji představil jako nástroj pro geoprofesionály: urbanisté si mohli vizualizovat, jak by čtvrť vypadala s novou zástavbou nebo více zelení, krizoví manažeři modelovat rozsah povodní, developeři ukazovat klientům budoucí podobu projektů. Nano Banana 2, aktuální generace obrazového modelu Googlu, patří k nejlepším nástrojům na úpravu fotografií na světě — a v kombinaci s nejpodrobnější databází satelitních snímků planety vznikl nástroj s obrovským užitečným potenciálem. A přesně tak obrovským potenciálem ke zneužití.

Výzkumník Henk van Ess, známý expert na ověřování informací z otevřených zdrojů, během pár hodin vytvořil sérii mimořádně realistických falešných satelitních snímků: uprchlické tábory podél americko-mexické hranice, které nikdy neexistovaly, nebo jadernou elektrárnu v Íránu. Další uživatelé přidali neexistující povodně, hořící jadernou elektrárnu a scénu připomínající útoky z 11. září — kaiju útočící na centrum Los Angeles bylo to nejnevinnější. Snímky se šířily po sociálních sítích a vypadaly jako pravé družicové záběry.

Google couvl za jediný den

V pátek Google oznámil, že funkci stahuje. „Viděli jsme geoprofesionály, kteří funkci využívali k řadě užitečných účelů. Zároveň jsme ale viděli, jak lidé sdílejí snímky vygenerovaných obrazů, které zjevně porušují naše zásady,“ uvedl mluvčí firmy s tím, že funkce se vrátí, až budou hotové „silnější mantinely“. Google zdůraznil, že vygenerované snímky nesly vodoznak a nikdy se nezobrazovaly ve veřejném Google Earth — upravené obrazy viděl jen jejich autor.

Rychlost, s jakou Google couvl, je sama o sobě pozoruhodná. Firma, která funkci vyvíjela měsíce, ji stáhla dřív, než stačila vydat tiskovou zprávu o jejím úspěchu. Rozhodnutí padlo poté, co se falešné snímky začaly virálně šířit na síti X a odborníci na dezinformace upozornili, že snímky „z družice“ mají v očích veřejnosti zvláštní autoritu — vypadají jako objektivní technický záznam, ne jako fotografie, u které jsme se manipulaci už naučili čekat.

https://noviny.ai/api/admin/images/f8ca4593-b9dc-419d-b089-7b2128bc2122/data

Jenže vodoznak, jak van Ess okamžitě předvedl, problém neřeší: stačí snímek ostříhnout, přefotit obrazovku nebo ho protáhnout jiným nástrojem a stopa mizí. A veřejnost si z celé epizody odnesla především důkaz, že fotorealistickou „družicovou fotografii“ čehokoli si dnes vyrobí kdokoli za pár vteřin zdarma.

Druhý podobný přešlap za měsíc

Google není sám, kdo letos v létě pustil AI funkci do světa a vzápětí ji honem stahoval. Meta 7. července spustila nástroj Muse Image, který uměl generovat obrázky z fotografií veřejných instagramových účtů dospělých uživatelů — bez jejich aktivního souhlasu, pouze s možností se dodatečně odhlásit. Po vlně kritiky Meta funkci do týdne stáhla s vyjádřením, že „minula cíl“. Vzorec se opakuje: závod o AI funkce je tak rychlý, že se mantinely řeší až po nárazu.

Oba případy mají společného jmenovatele: firmy testují hranice toho, co veřejnost přijme, přímo v provozu. Interní bezpečnostní týmy rizika zpravidla identifikují — podle informací amerických médií varování před zneužitím satelitních úprav zaznělo i uvnitř Googlu — ale konkurenční tlak vítězí. Když AI funkce nasazuje rychleji konkurent, čekání na dokonalé mantinely vypadá jako prohra. Výsledkem je rytmus, ve kterém uživatelé slouží jako bezplatní penetrační testeři.

Vzniká nový standard krizového řízení v AI éře: spustit, narazit, stáhnout. Otázka pro každou firmu zní, kolik takových nárazů si může dovolit její značka.

Pro Google je to zvlášť nepříjemné, protože satelitní snímky nejsou běžný obsah. Google Earth a Mapy jsou pro miliardy lidí faktická reprezentace světa — infrastruktura důvěry, na které stojí navigace, krizové řízení, novinařina i realitní byznys. Pustit do ní generativní model znamenalo zahrávat si s aktivem, které Google budoval dvacet let.

Proč se to týká i vaší firmy

Česká firma možná satelitní snímky neřeší. Důvěru v obrazová data ale řeší téměř každá. Pojišťovny vyřizují škody podle fotografií — a fotorealistický snímek zatopeného skladu nebo poškozené střechy je dnes otázkou jednoho promptu. Banky a leasingovky ověřují existenci majetku fotografiemi. E-shopy řeší reklamace podle snímků poškozeného zboží. Média a firemní komunikace stojí na tom, že záběr z místa události je záznam reality. Všechny tyto procesy byly navrženy ve světě, kde padělání fotografie vyžadovalo dovednosti a čas. Ten svět končí.

Čísla ukazují, že nejde o teoretické riziko. Podvody s AI generovanými či upravenými snímky u pojistných událostí rostou v Evropě i USA trojciferným tempem a pojišťovny začínají nasazovat detekční nástroje i měnit procesy — od povinného focení přes vlastní aplikaci s ověřenou polohou po namátkové fyzické kontroly. Kdo podobný proces řeší v Česku, měl by změny plánovat teď, ne až po první škodě.

Zaveďte u kritických procesů ověřování původu snímků — metadata, čas, polohu, ideálně standard C2PA (Content Credentials)|U škod a reklamací kombinujte fotografie s nezávislým ověřením: video hovorem, fyzickou kontrolou, daty ze senzorů|Počítejte s tím, že vodoznak není důkaz — lze ho odstranit ořezem či přefocením|Proškolte zaměstnance, že realistický obraz už není sám o sobě důkaz — platí to pro faktury, doklady i „fotky z místa“|Sledujte, jak funkci vracejí: mantinely, které Google doplní, se stanou vzorem pro celé odvětví

https://noviny.ai/api/admin/images/e3de0496-663a-464f-8ac4-85c04984a148/data

Závod mezi tvorbou a detekcí

Epizoda z Google Earth ilustruje širší asymetrii: generování falešných obrazů je dnes levné, okamžité a dostupné komukoli, zatímco detekce zůstává drahá, pomalá a nespolehlivá. Standard C2PA, který do snímků vkládá kryptograficky podepsanou historii vzniku, se prosazuje pomalu — podporují ho nové fotoaparáty a část platforem, ale drtivá většina obrázků na internetu žádný původ doložený nemá. A modely jako Nano Banana 2 se zlepšují každým čtvrtletím.

Evropská regulace na to částečně myslí: akt o umělé inteligenci vyžaduje označování AI generovaného obsahu a povinnosti dopadnou i na velké platformy. Jenže pravidla mají přirozené limity — vztahují se na firmy, které je chtějí dodržovat. Podvodník, který vyrábí falešný snímek škodní události, si s povinným vodoznakem hlavu lámat nebude. Právní rámec je nutná, ale ne postačující podmínka — rozhodovat bude, jak rychle si firmy vybudují vlastní ověřovací rutiny.

Právě proto je reakce Googlu — stáhnout funkci a přepracovat mantinely — pravděpodobně jen dočasná úleva. Technologie existuje, konkurenční modely nabízejí podobné schopnosti bez jakýchkoli omezení a open-source alternativy nelze stáhnout z oběhu vůbec. Břemeno ověřování se tak nevyhnutelně přesouvá z tvůrců nástrojů na příjemce obsahu: firmy, instituce a média.

Poučení pro český byznys je dvojí. To defenzivní: začněte u procesů, kde vás falešný obraz může stát peníze, a doplňte je o nezávislé ověření — dřív, než to za vás udělá první podvodník. A to ofenzivní: důvěra se stává vzácným zbožím, a kdo ji umí doložit — podepsanými snímky, transparentním původem dat, auditovatelnými procesy — získává konkurenční výhodu, která se s každým dalším deepfake skandálem zhodnocuje.