Google vypustil AI, která hledá a sama zalátá díry v softwaru. Gemini 4 Carbon zatím dostanou jen prověření obránci
Nový model Gemini 4 Carbon umí najít chybu v programu, ověřit, že se dá zneužít, a rovnou napsat opravu. Google ho ale nepouští mezi veřejnost — nejdřív dostanou přístup jen prověření bezpečnostní experti. Co to znamená pro firmu, která žádný vlastní bezpečnostní tým nemá?
Představte si nástroj, který si projde celý váš firemní software, najde v něm skrytou bezpečnostní díru, sám ověří, že se přes ni dá skutečně dostat dovnitř — a pak napíše opravu. Ne za týdny práce dražšího specialisty, ale během jedné dlouhé úlohy, kterou běží na pozadí. Přesně tohle slibuje nejnovější model Googlu, který dostal jméno Gemini 4 Carbon. A je to jeden z prvních frontier modelů, který byl od začátku postaven kolem kyberbezpečnosti.
Zajímavé ovšem není jen to, co Carbon umí. Zajímavé je hlavně to, že ho Google nepustil ven. Na rozdíl od běžných novinek, které firma hned nabízí vývojářům i koncovým uživatelům, tenhle model dostala zatím jen úzká skupina prověřených bezpečnostních expertů. A právě v tom se skrývá příběh, který by měl zajímat každého majitele firmy, jež dnes stojí a padá se svým softwarem.
Co Carbon vlastně dělá jinak
Dosavadní jazykové modely uměly psát kód a najít v něm chybu, když jste je o to požádali. Carbon posouvá laťku jinam — má zvládat takzvané dlouhé agentní úlohy, tedy práci, která trvá klidně několik dní a vyžaduje stovky kroků. Google ho popisuje jako model stavěný na to, aby dohledal příčinu chyby napříč obrovským množstvím kódu a napsal opravu, která míří přímo na kořen problému, ne jen na jeho projev.
Celý proces Google rozděluje do tří provázaných fází: najít zranitelnost, ověřit, jestli se dá skutečně zneužít, a opravit ji v samotném jádru programu. Ten prostřední krok je přitom klíčový. Bezpečnostní týmy totiž běžně tonou v seznamech stovek nahlášených chyb a nemají jak poznat, které jsou reálně nebezpečné a které jen teoretické. Carbon má umět rozhodnout, na co se vrhnout první.
Proč je to tak zásadní posun? Dosud platilo, že čím složitější byl software, tím dráž vycházela jeho bezpečnostní prověrka. Specialista, který se umí probrat miliony řádků kódu a vystopovat chybu v nízkoúrovňových systémech, je vzácný a drahý. Model, který zvládá úlohy trvající dny a sám se dostane přes slepé uličky, tuhle rovnici mění. Nenahrazuje experta, ale dává mu do rukou nástroj, díky kterému zvládne za den práci, co dřív zabrala týden.
Na papíře to vypadá přesvědčivě. Google uvádí, že Carbon interně více než zdvojnásobil úspěšnost v psaní bezpečného kódu oproti předchozímu modelu Argon, který vyšel jen o dva týdny dřív. Tým prohlížeče Chrome podle firmy hlásí, že Carbon tvořil záplaty více než desetkrát kvalitnější než velký konkurenční model jiné laboratoře. Zádrhel? Google tu konkurenci nejmenoval, takže tvrzení se nedá nezávisle ověřit.
Čísla, která znějí skvěle — a jedno velké ale
Google se nechlubí jen slovy. Carbon se podle firmy umístil na prvním místě žebříčku Artificial Analysis Intelligence Index verze 5.0 se skóre 59 — ten měří schopnosti napříč programováním, vědou i obecnými znalostmi. V bezpečnostních testech pak Carbon zvládl:
- Hledání zranitelností (SEC-bench Pro): 88,2 % — podle Googlu výrazný náskok před konkurencí
- Zneužití chyb (ExploitGym): 54,8 % — nový rekord v oboru
- Opravy chyb (CWE-bench): 71,0 %
- Odolnost proti nepřímému vkládání příkazů (Gray Swan IPI): 0,0 % úspěšných útoků oproti 0,7 % u předchozího modelu
To velké ale se skrývá v jedné poznámce: tyto bezpečnostní testy Google provedl bez zapnutých pojistek (guardrails). Jinými slovy — výsledky ukazují, co model dokáže v laboratoři, kde mu nic nebrání. Nasazená verze, kterou by používala vaše firma, bude mít pojistky zapnuté, a reálné chování tak může být jiné. Je to rozdíl, který se v tiskové zprávě snadno přehlédne, ale pro praxi je zásadní.
Gemini 4 Carbon je náš nejsilnější model se špičkovými schopnostmi v kyberbezpečnosti a dlouhých úlohách.
Tak zní oficiální popis z pera Korayho Kavukcuoglua, který v Googlu vede DeepMind a šéfuje architektuře AI. Zní to jako standardní marketing, ale skrývá se za ním jedna méně nápadná věc: Google poprvé staví frontier model tak otevřeně kolem bezpečnosti. Dřív byla kyberbezpečnost spíš vedlejší schopnost. Teď je to hlavní prodejní argument.
Proč to Google nepustil mezi lidi
A tady přichází nejzajímavější část. Carbon zatím není k dispozici běžným vývojářům ani firmám. Google ho nabídl jen úzké skupině prověřených bezpečnostních obránců a dál ho bude postupně uvolňovat vybraným partnerům přes program s názvem Fairwind. Širší dostupnost firma slibuje „co nejdříve“, ale závisí na dalším ladění pojistek. Pevné datum neexistuje.
Důvod je prostý a trochu nepříjemný: nástroj, který umí najít díru v softwaru a ověřit, že se přes ni dá proniknout, je stejně užitečný pro obránce jako pro útočníka. Google tuhle dvojí použitelnost v oznámení přímo nerozebírá, ale celé opatrné uvolňování o ní vypovídá. Firma navíc dobrovolně posílá model na předběžné testování americké vládě, než ho nasadí naširoko.
Pro firmy to má praktický dopad hned ve dvou rovinách. Ta první je dobrá zpráva: pokud se takto silný nástroj dostane k těm hodným dřív než k útočníkům, může to na nějakou dobu zvýhodnit obránce. Ta druhá je varování — jakmile podobné schopnosti získají i volněji dostupné modely, poroste i kvalita automatizovaných útoků. Laťka pro zabezpečení vašeho softwaru se zvedne tak jako tak.
Co z toho plyne pro českou firmu
Většina českých malých a středních firem nemá vlastní bezpečnostní tým. Spoléhají na externí dodavatele softwaru, na automatické aktualizace a v lepším případě na jednoho IT člověka, který hasí, co hoří. Právě pro ně je Carbon — a nástroje, které po něm nevyhnutelně přijdou — zajímavý. Nemusíte ho totiž používat přímo. Stačí, že ho začnou používat vaši dodavatelé a poskytovatelé cloudu.
Co s tím můžete udělat už dnes, bez ohledu na to, kdy Google Carbon uvolní naširoko? Pár konkrétních kroků:
- Zeptejte se dodavatelů softwaru, jak a čím testují bezpečnost svého kódu — a jestli plánují nasadit AI nástroje pro hledání zranitelností.
- Nastavte si, jak rychle u vás proběhne nasazení bezpečnostní záplaty. Pokud AI zrychlí hledání chyb, zrychlí se i tempo, jakým je potřeba reagovat.
- Berte cenotvorbu vážně: úvodní cena Carbonu je 2 dolary za milion vstupních tokenů a 10 za milion výstupních, po úvodním období ale stoupne na 4, respektive 20 dolarů. Automatizovaná bezpečnost nebude zadarmo.
- Nespoléhejte na to, že vás malá velikost ochrání. Levnější a rychlejší automatizované hledání děr znamená, že se útočníkům vyplatí útočit i na menší cíle.
Stojí za to zmínit ještě jednu věc, která z oznámení vyplývá nepřímo. Google u Carbonu zdůrazňuje nejen to, co model umí, ale i to, jak se chová „zodpovědně“. Firma uvádí, že u nového modelu klesl počet závažných upozornění na nežádoucí chování v interním prostředí skoro o 80 procent a že model přestal podvádět v jednom z testovacích prostředí úplně. Pro firmu, která by AI pustila ke svému kódu, to není kosmetika — je to rozdíl mezi nástrojem, kterému můžete věřit, a nástrojem, který musíte neustále hlídat. A právě důvěryhodnost bude u bezpečnostních AI rozhodovat víc než samotné benchmarky.
Je dobré zůstat nohama na zemi. Část čísel pochází výhradně z Googlu a nebyla nezávisle ověřena. Testy bez pojistek nejsou totéž co nasazená realita. A model, který ještě není veřejně dostupný, vám dnes přímo nepomůže. Přesto je Gemini 4 Carbon jasný signál, kam se celý obor žene: k AI, která nejen píše kód, ale sama hlídá, aby byl bezpečný.
Pro majitele firmy je z toho jedno jednoduché poučení. Kyberbezpečnost přestává být jednorázovou položkou v rozpočtu a stává se závodem, ve kterém obě strany — obránci i útočníci — dostávají do rukou čím dál silnější automatické nástroje. Vyhraje ten, kdo si včas pohlídá, s kým a jak si svůj software hlídá. A to je rozhodnutí, které nepočká, až Google konečně stiskne tlačítko „zpřístupnit všem“.