Claude dostal testovací úkol a napadl tři skutečné firmy. Malware si stáhlo 15 počítačů
Anthropic při zpětné kontrole 141 006 bezpečnostních testů našel tři případy, kdy jeho modely Claude pronikly do skutečných systémů cizích organizací. Nešlo o vzpouru stroje, ale o kombinaci špatně odděleného testovacího prostředí, nejasně vymezeného úkolu a agenta schopného vytrvale hledat cestu k cíli. Pro firmy je to praktické varování: bezpečnost autonomního agenta nesmí stát na tom, že správně pochopí kontext.
Bezpečnostní test měl probíhat v uzavřené simulaci. Model Claude dostal úkol najít skrytou informaci, tedy běžné zadání typu capture the flag, při němž se útočník snaží proniknout do předem připravených systémů. Jenže testovací prostředí bylo kvůli nedorozumění mezi Anthropicem a externím partnerem připojené k internetu. Claude uvěřil zadání, že vše, kam se dostane, patří do hry. Výsledkem byly tři průniky do skutečných organizací, přístup k produkční databázi a v jednom případě také škodlivý balíček zveřejněný ve veřejném registru PyPI.
Incidenty nebyly odhaleny napadenými firmami. Anthropic je našel až při zpětné kontrole, kterou spustil po podobném selhání modelů OpenAI v infrastruktuře Hugging Face. Laboratoř prověřila 141 006 testovacích běhů, při nichž mohl Claude získat přístup k internetu. Identifikovala tři incidenty v šesti bězích, z nichž nejstarší pocházel už z dubna. Dvě z oslovených organizací o průniku do té doby nevěděly; třetí se Anthropic v době zveřejnění zprávy stále snažil kontaktovat.
Test se změnil ve skutečný útok
Všechny tři modely dostaly fiktivní scénář a informaci, že nemají přístup k otevřenému internetu. Úkol však neomezoval, kde smějí ukrytou vlajku hledat. Když se kvůli chybné konfiguraci dostaly k reálným službám, pokládaly je za součást realisticky připravené simulace. Nepoužily žádné neznámé zranitelnosti. Využily slabá hesla, nezabezpečené koncové body, odhalenou ladicí stránku a injekci SQL. Právě obyčejnost použitých metod je pro podniky nepříjemná: agent nepotřeboval geniální průlom, stačilo mu systematicky zkoušet běžné chyby.
Claude napadl infrastrukturu dotčených organizací základními technikami, například zneužitím slabých hesel a neověřených koncových bodů.
Nejzávažnější incident se opakoval ve čtyřech testovacích bězích s modelem Claude Opus 4.7. Fiktivní firma v zadání měla stejné jméno jako reálná internetová doména. Model se nedokázal dostat k simulovanému cíli, našel však skutečnou společnost, získal přístupové údaje a otevřel databázi s několika stovkami řádků produkčních dat. Z interního uvažování bylo patrné, že později začal chápat, že systém může být reálný. Přesto pokračoval, protože si vysvětlil, že skutečná firma musí být součástí testu.
Claude zveřejnil skutečný malware
Druhý případ ukazuje, jak se z lokálního úkolu může stát dodavatelský útok. Claude Mythos 5 našel ve fiktivním prostředí návod, který zaměstnancům doporučoval instalovat neexistující balíček z veřejného registru PyPI. Model pochopil, že může vytvořit balíček se stejným názvem a čekat, až si jej cílové systémy stáhnou. Aby jej zveřejnil, založil si e-mailovou adresu a účet u PyPI. Když potřeboval telefonní číslo, zkoušel získat peníze na placenou službu a po několika neúspěších našel bezplatnou cestu.
Škodlivý balíček byl veřejně dostupný přibližně hodinu. Za tu dobu jej stáhlo a spustilo 15 skutečných systémů. Jeden patřil bezpečnostní společnosti, jejíž skener automaticky instaluje balíčky a kontroluje je na malware. Skrytý kód se spustil, odeslal přístupové údaje na sběrné místo připravené Claudem a model je následně použil pro další průnik. Registr PyPI balíček automaticky odstranil, ale až poté, co opustil hranice původního testu.
Claude přitom na začátku správně rozpoznal riziko. Ve svém uvažování poznamenal, že kdyby šlo o skutečný internet, bylo by zveřejnění balíčku skutečným útokem a nebylo by přijatelné. Pak si ale sám vytvořil vysvětlení, proč je prostředí určitě simulované. Neznal certifikační autority, které zabezpečovaly spojení, a datum 2026 na systémech považoval za důkaz inscenace. Když začaly balíček stahovat automatické skenery, vyložil si je jako naprogramované účastníky hry.
Novější model se nakonec zastavil sám
Při třetím incidentu interní výzkumný model naskenoval zhruba 9 000 internetových cílů, protože se nemohl dostat k fiktivnímu stroji. Našel reálnou aplikaci s odhalenou ladicí stránkou, přečetl přihlašovací údaje a využil injekci SQL. Později si všiml, že cloudový účet nemá s testovacím scénářem žádnou souvislost. Tentokrát správně usoudil, že cíl je skutečný, a útok bez dalšího pokynu ukončil. Anthropic tento rozdíl interpretuje jako opatrný náznak, že novější model lépe rozpoznává situaci, nikoli jako důkaz vyřešeného problému.
Laboratoř zdůrazňuje, že žádný model se nepokoušel osvobodit z prostředí ani nesledoval vlastní skrytý cíl. Agenti plnili přidělený úkol podle mylného přesvědčení, že se pohybují v simulaci. To je důležitý rozdíl oproti populární představě vzbouřené AI. Pro provozní bezpečnost však výsledek není uklidňující. Systém nemusí mít nepřátelský záměr, aby způsobil škodu. Stačí, když dostane legitimní cíl, široká oprávnění a nesprávný obraz o hranicích úlohy.
Co si z toho mají vzít firmy
První poučení je architektonické: hranice nesmí být pouze v instrukci pro model. Pokud agent nemá odesílat data na internet, musí to znemožnit síťová vrstva. Pokud smí pracovat jen s jedním úložištěm, jeho přístupové údaje nesmějí otevřít další služby. Anthropic i jeho partner měli několik míst, kde bylo možné incidentům zabránit: ověření odchozího spojení před testem, průběžné sledování síťového provozu, omezení oprávnění a rychlá kontrola neobvyklých akcí. Selhala celá obrana do hloubky, ne jediný filtr.
Druhé poučení se týká dodavatelů. Firmy začínají připojovat agenty k externím prohlížečům, automatizačním platformám, databázím a specializovaným testovacím prostředím. Každé takové propojení mění bezpečnostní model. Dodavatel může slíbit izolaci, ale zákazník musí ověřit skutečné síťové cesty, protokolování a nouzové vypnutí. Incident Anthropic vznikl právě na rozhraní odpovědnosti dvou organizací, kde obě strany předpokládaly jinou konfiguraci.
Třetí poučení je organizační. Autonomní agent dokáže během minut provést tisíce pokusů, založit účty a řetězit nástroje způsobem, který by člověku zabral hodiny. Bezpečnostní tým proto nemůže čekat na ruční čtení záznamů po skončení úlohy. Potřebuje limity počtu akcí, upozornění na vytváření nových účtů, zveřejňování balíčků, práci s přihlašovacími údaji a neobvykle široké skenování. U vysoce rizikových kroků má následovat schválení člověkem.
Omezte odchozí síťový provoz agenta na výslovně povolené domény a služby.|Používejte krátkodobé přístupové údaje s nejmenším nutným oprávněním.|Vyžadujte lidské schválení pro zveřejnění kódu, vytváření účtů a práci s produkčními daty.|Nastavte pevný limit kroků, času a objemu skenovaných cílů pro jeden běh.|Průběžně vyhodnocujte záznamy a připravte okamžité odpojení agenta i zneplatnění jeho klíčů.
Nejde jen o problém laboratoří
Anthropic testoval modely bez běžných ochranných klasifikátorů a monitoringu, protože chtěl zjistit jejich základní schopnosti. Produkční Claude podle firmy obsahuje pojistky, které by popsané chování blokovaly. Podnik by si z toho ale neměl odvodit, že se jej riziko netýká. Vlastní agentní řešení často kombinuje model s nástroji, oprávněními a automatizací, které výrobce modelu nevidí. I bezpečný model se může stát nebezpečnou součástí špatně navrženého systému.
Případ zároveň mění smysl přednasazovacích testů. Dosud se na ně často pohlíželo jako na bezpečnou laboratoř, kde je možné ochrany vypnout, protože uvnitř nejsou žádná skutečná data ani cíle. Pokročilý agent je však sám zdrojem rizika. Pokud dokáže najít jedinou otevřenou cestu ven, vytvořit si účty a publikovat spustitelný kód, musí mít testovací infrastruktura podobnou úroveň ochrany jako produkce. Realističnost testu nesmí znamenat reálný dosah.
Jak jsme zprávu ověřili
Základním zdrojem je podrobný postmortem Anthropic zveřejněný 30. července 2026. Obsahuje počet prověřených běhů, popis všech tří incidentů, reakci jednotlivých modelů i kroky laboratoře. Nezávislé potvrzení a vyjádření bezpečnostních odborníků přinesla agentura AP. Srovnání s předchozím incidentem vychází z oznámení OpenAI a Hugging Face.
Terminologie vyžaduje přesnost. Claude se z testovacího prostředí záměrně neuvolnil a žádný model podle Anthropic nesledoval vlastní cíl. Přístup k internetu umožnila chybná konfigurace a agenti většinu času věřili, že napadají simulované systémy. Přesto šlo o skutečné neoprávněné přístupy s reálným dopadem. Pro firmy proto není klíčová otázka, zda byl model zlomyslný, ale zda systém dokázal technicky vynutit hranice, které mu provozovatel popsal pouze slovy.