Anthropic žádá svět o zastavení vývoje AI: „Než ztratíme kontrolu“

Firma, která právě překonala valuaci bilion dolarů a jejíž AI model píše osmdesát procent jejího vlastního kódu, říká světu: zastavte se. Anthropic publikoval bezprecedentní výzvu ke globálnímu pozastavení vývoje AI.

Firma, která právě překonala valuaci bilion dolarů a jejíž AI model píše osmdesát procent jejího vlastního kódu, říká světu: zastavte se. Anthropic ve čtvrtek publikoval bezprecedentní výzvu ke globálnímu pozastavení vývoje nejpokročilejších AI systémů. Důvod? Technologie se podle interních dat blíží bodu, kdy se bude vylepšovat sama — bez lidského zásahu. A na to podle Anthropicu není připravená ani jedna vláda na světě.

Kdy stroj začne vylepšovat sám sebe

Blogový příspěvek s názvem „When AI builds itself“ podepsali Marina Favaro, šéfka interního výzkumného institutu Anthropicu, a Jack Clark, spoluzakladatel firmy a její šéf pro politiku. Jejich ústřední varování se točí kolem konceptu takzvaného rekurzivního sebezlepšení — okamžiku, kdy AI systém dokáže samostatně navrhnout, naprogramovat a natrénovat svého vlastního nástupce.

„Věříme, že by bylo dobré, aby svět měl možnost zpomalit nebo dočasně pozastavit vývoj nejpokročilejší AI, aby společenské struktury a výzkum bezpečnosti stihly držet krok s pokrokem technologie,“ píší autoři. Okamžitě ale dodávají, že rekurzivní sebezlepšení zatím nenastalo a není nevyhnutelné. Podle Clarka by k němu nicméně mohlo dojít do dvou let.

Čísla z nitra Anthropicu, která budí respekt

Anthropic v příspěvku poprvé zveřejnil interní data, která ukazují, jak dramaticky se mění role lidí ve vývoji AI. Klíčová čísla hovorí jasnou řečí:

• Přes 80 % kódu, který Anthropic integruje do své kódové základny, napsal Claude — ještě v únoru 2025 to byla nízká jednociferná procenta.
• Inženýři dnes odesílají osmkrát více kódu za den než v roce 2024, protože Claude píše a oni pouze revidují.
• Doba úkolů, které AI zvládne samostatně, se zdvojnásobuje každé čtyři měsíce. V březnu 2024 šlo o čtyřminutové úkoly, dnes o dvanáctihodinové.
• Na benchmarku SWE-bench (reálné softwarové inženýrství) šly modely z 1,96 % na plnou saturaci za pouhy dva roky.
• V dubnu 2026 AI agenti Anthropicu vyřešili otevřený výzkumný problém na 97 % — lidští výzkumníci za stejnou dobu dosáhli 23 %.

V jednom konkrétním případě Claude za dva měsíce opravil přes 800 chyb v kódu, které by lidský inženýr opravoval odhadem čtyři roky. Automatický Claude reviewer navíc při retrospektivní analýze odhalil třetinu bugů, které prošly přes kontrolu těch nejlepších programátorů na světě.

Je to asi pět měsíců, co jsem naposledy sám napsal jakýkoli kód. — anonymní zaměstnanec Anthropicu

Globální dohoda po vzoru jaderného odzbrojení

Anthropic navrhuje řešení, které přirovnává ke smlouvám o nešíření jaderných zbraní z dob studené války. Firma chce svolat debatu se zástupci vlád, výzkumníky, konkurenčními AI firmami i občanskou společností. Cílem je vytvořit globální dohodu s ověřitelným mechanismem, který zajistí, že všichni hráči skutečně dodržují případnou pauzu.

Sami autoři ale přiznávají obrovskou slabinu tohoto plánu: zatímco raketové silo se dá vyfotit ze satelitu, trénování AI modelu v soukromém datacentru je prakticky nemožné detekovat. „Sledovat decentralizované výpočetní zdroje, soukromá datová centra a algoritmický výzkum po celém světě je mnohem obtížnější než monitorovat něco fyzického, jako jsou jaderná zařízení,“ upozornil analytik Rob Enderle.

Kritici: chytré PR, nebo skutečná obava?

Ne všichni berou Anthropicovu výzvu za čistou minci. David Sacks, poradce amerického prezidenta Trumpa a známý investor z Křemíkového údolí, firmu opakovaně obviňuje z takzvané „regulatorni agendy“ — strategie, při které dominantní hráč prosazuje přísná pravidla, která ve výsledku poškodí levnější open-source alternativy a posílí jeho vlastní pozici.

Analytik Holger Mueller z Constellation Research klade otázku, zda se Anthropic nesnaží jednoduše „zmrazit status quo a udržet si náskok.“ Firma totiž právě dokončila investiční kolo v hodnotě 65 miliard dolarů, její valuace se blíží bilionu a roční tržby míří k 50 miliardám dolarů. Zmrazení vývoje by konkurrentům jako OpenAI, Google DeepMind nebo čínský DeepSeek výrazně zkomplikovalo situaci.

Na druhou stranu — Anthropic zároveň podal přihlášku k americké Komisi pro cenné papíry k zahájení procesu vstupu na burzu. Firma, která se chystá na IPO, si málokdy může dovolit vypouštět alarmistické zprávy bez reálného podkladu. Investoři nesnášejí nejistotu.

Co to znamená pro český byznys

Pro českého podnikatele je tato zpráva důležitá ze tří důvodů. Za prvé: pokud Anthropic mluví pravdu o tempu vývoje, firmy které dnes nemají AI strategii, budou za rok nebo dva čelit konkurrentům, kteří pracují osmkrát rychleji. Za druhé: možná globální regulace by mohla zásadně změnit pravidla hry — od dostupnosti API služeb přes ceny až po to, jaké modely budou vůbec legální.

A za třetí: debata o rekurzivním sebezlepšení ukazuje, kam se trh ubírá. Nejde už o otázku, zda AI nahradí programátory nebo analytiky — ta vlna už dorazila. Jde o to, zda AI začne nahrazovat sama sebe. A pokud ano, celý ekonomický model kolem AI služeb — od přeprodeje API po consulting — se může změnit ze dne na den.

Praktický závěr je jednoznačný: sledujte vývoj regulace na úrovni EU a USA, protože jakákoli forma pauzy nebo omezení se promítne do dostupnosti nástrojů, které dnes používáte. A hlavně — nečekejte. Každý měsíc, kdy firma nevyužívá AI k automatizaci rutinních procesů, je měsíc ztracené konkurenční výhody. Paradoxně právě Anthropicova data ukazují, proč.