Google odhalil první zero-day exploit vytvořený umělou inteligencí. Hackerské útoky s pomocí AI narostly do průmyslových rozměrů
Za pouhé tři měsíce se hackování s pomocí umělé inteligence proměnilo z okrajového problému v průmyslovou hrozbu. Google poprvé identifikoval zero-day exploit, který s největší pravděpodobností vytvořil jazykový model. Kriminální skupiny i státní aktéři z Číny, Ruska a Severní Koreje běžně využívají komerční AI modely k útokům na firmy po celém světě.
Když Google v únoru letošního roku publikoval první zprávu o zneužívání umělé inteligence k hackerským útokům, šlo spíše o varování do budoucna. O tři měsíce později je situace zásadně jiná. Nová zpráva Google Threat Intelligence Group (GTIG) popisuje AI hackování jako průmyslovou hrozbu, která se už nedá ignorovat — a přináší dosud nejkonkrétnější důkaz: první zero-day exploit na světě, který podle všeho vytvořila umělá inteligence.
První AI exploit v historii: Python, docstringy a dva obejité faktory
Zero-day zranitelnost je bezpečnostní chyba, o které vývojář softwaru ještě neví — a tudíž pro ni neexistuje oprava. Google ve své zprávě popisuje, jak kriminální skupina připravovala masivní kampaň založenou na takovém exploitu. Cílem byl široce používaný open-source nástroj pro správu serverů a útok měl obejít dvoufaktorové ověření.
Co analytiky zarazilo nejvíc: samotný exploit, napsaný v Pythonu, nesl jasné známky výstupu z jazykového modelu. Obsahoval vzdělávací docstringy, strukturované formátování a logické komentáře typické pro kód generovaný AI. Google zasáhl včas a kampaň zastavil dříve, než mohla způsobit škody. Ale precedent byl vytvořen.
Čína, Rusko, Severní Korea: státní hackeři používají komerční AI
Zpráva GTIG odhaluje, že AI nástroje pro hackování nepoužívají jen amatéři. Státem podporovaní aktéři z Číny, Ruska a Severní Koreje běžně pracují s komerčními modely — včetně Gemini, Claude a nástrojů od OpenAI. Využívají je v celém životním cyklu kybernetického útoku: od průzkumu a hledání zranitelností přes tvorbu škodlivého kódu až po phishingové kampaně a aktivity po průniku do systému.
Existuje mylná představa, že závod o AI zranitelnosti teprve přijde. Realita je taková, že už začal, říká John Hultquist, hlavní analytik Google Threat Intelligence Group. Útočníci používají AI ke zvýšení rychlosti, rozsahu a sofistikovanosti svých útoků. Umožňuje jim testovat operace, vytrvale napadat cíle, vytvářet lepší malware a mnoho dalšího.
Závod o AI zranitelnosti teprve přijde? Mylná představa. Realita je taková, že už začal. — John Hultquist, hlavní analytik Google Threat Intelligence Group
Znepokojivým příkladem je PROMPTSPY — malware pro Android, který podle zprávy využívá přímo Gemini API od Googlu. Dokáže navigovat zařízení oběti, zachytávat biometrická data a blokovat vlastní odinstalaci. Jinými slovy: útočníci používají AI produkty samotného Googlu jako zbraně proti uživatelům.
Co to znamená pro české firmy
Pokud provozujete firmu s jakýmkoli IT systémem — a to dnes znamená prakticky každou firmu — zpráva Googlu přináší několik konkrétních poznatků:
- Rychlost útoků dramaticky roste. AI umožňuje hackerům automatizovat fáze, které dříve vyžadovaly týdny manuální práce. Skenování zranitelností, přizpůsobování exploitů i generování phishingových e-mailů nyní zvládnou za hodiny.
- Zero-day exploity přestávají být výsadou elitních skupin. Když jazykový model dokáže najít dosud neznámou chybu v populárním softwaru, dramaticky se rozšiřuje okruh potenciálních útočníků.
- Dvoufaktorové ověření nestačí. Konkrétní exploit popsaný ve zprávě cílil právě na obejití 2FA. Firmy potřebují vícevrstvou ochranu a pravidelný audit bezpečnostních postupů.
- Supply chain útoky míří na AI nástroje. Google varuje před kompromitací softwarových balíčků navázaných na populární AI vývojářské nástroje. Pokud vaši vývojáři používají AI knihovny, ověřte jejich integritu.
- AI pomáhá i obráncům. Steven Murdoch z University College London upozorňuje, že stejné nástroje mohou posílit i obrannou stranu. Doba ručního hledání chyb skončila — a firmy, které AI do bezpečnosti nezapojí, budou v nevýhodě.
Anthropic zadržel model Mythos kvůli bezpečnosti. Google říká, že problém je širší
Zpráva Googlu přichází v kontextu rostoucího napětí kolem bezpečnosti AI modelů. V dubnu Anthropic odmítl uvolnit svůj nejnovější model Mythos s odůvodněním, že našel zero-day zranitelnosti v každém hlavním operačním systému a každém hlavním webovém prohlížeči. Firma tehdy uvedla, že takové schopnosti vyžadují rozsáhlou koordinovanou obrannou akci napříč celým odvětvím.
Google ale upozorňuje, že kriminální skupina stojící za prvním AI exploitem nepoužívala Mythos. Použila jiný, komerčně dostupný jazykový model. To je možná nejznepokojivější zjištění celé zprávy: k vytvoření nebezpečného exploitu nepotřebujete špičkový výzkumný model. Stačí běžně dostupné nástroje.
Bílý dům na situaci reaguje posunem směrem k předběžnému prověřování AI modelů před jejich uvedením na trh — podobně jako u kritické infrastruktury. Microsoft a xAI údajně souhlasily s poskytnutím předběžného přístupu k modelům pro regulační kontrolu. Pro firmy to znamená, že regulace AI bezpečnosti se z akademické debaty stává realitou s konkrétními důsledky.
Praktické kroky pro podnikatele
Zpráva Googlu není důvodem k panice, ale je jasným signálem k akci. Bezpečnostní krajina se mění rychleji, než většina firem stíhá reagovat. Pravidelné aktualizace softwaru, vícevrstvá autentizace, audit AI nástrojů ve vývojářském stacku a investice do bezpečnostního monitoringu — to jsou minimum, které by dnes měla zvládnout každá firma bez ohledu na velikost.
Jak shrnuje profesor Murdoch: Starý způsob objevování chyb skončil. Od teď bude všechno s pomocí AI. Chvíli potrvá, než se dopady ustálí. Otázka není, jestli se AI stane standardním nástrojem kybernetické bezpečnosti — na obou stranách barikády. Otázka je, jestli bude vaše firma připravená.