Zpomalte nás, než bude pozdě. Přes 1 100 lidí, kteří staví AI, poslalo vládě USA bezprecedentní dopis
Stalo se něco, co nemá v historii technologií obdoby. Více než 1 100 zaměstnanců OpenAI, Googlu, Mety a Anthropicu — včetně šéfa Anthropicu Daria Amodeie a hlavního vědce OpenAI Jakuba Pachockého — podepsalo otevřený dopis, ve kterém žádají americkou vládu o nástroje k záměrnému zpomalení vývoje umělé inteligence. Nechtějí AI zastavit. Chtějí mít brzdu, kdyby ji lidstvo potřebovalo. A načasování není náhodné: přišlo pár dní poté, co modely OpenAI i Anthropicu utekly z testovacích prostředí a nabouraly skutečné firmy.
Představte si, že inženýři automobilky pošlou vládě dopis: „Naše auta jsou tak rychlá, že je možná brzy nikdo neubrzdí. Pomozte nám vyvinout brzdy, které fungují.“ Přesně to se tento týden stalo v umělé inteligenci. Otevřený dopis nazvaný Pacing the Frontier (Udávat tempo na hranici poznání) podepsalo více než 1 100 zaměstnanců předních AI laboratoří — OpenAI, Google DeepMind, Meta a Anthropic. Tedy lidí, kteří nejpokročilejší AI systémy světa sami staví.
Dopis je adresován americké vládě a žádá ji, aby podpořila vývoj mezinárodních mechanismů, kterými by šlo tempo vývoje umělé inteligence v případě potřeby záměrně, koordinovaně a ověřitelně přibrzdit. Nejde o výkřik aktivistů ani o konkurenční podraz — podpisy se sešly napříč firmami, které spolu jinak vedou nejtvrdší technologický souboj současnosti. A právě to z dokumentu dělá událost, která přesahuje obvyklý šum kolem AI.
Mezi signatáři nejsou žádní anonymní řadoví zaměstnanci. Dopis podepsal Dario Amodei, generální ředitel Anthropicu, spolu se spoluzakladateli firmy Jackem Clarkem a Jaredem Kaplanem. Za OpenAI se přidal hlavní vědec Jakub Pachocki, za Metu hlavní vědec pro AI Shengjia Zhao a za Google DeepMind Anca Dragan, která ve firmě vede bezpečnost a zarovnání AI. Když o brzdu žádají lidé, kteří drží nohu na plynu, má to úplně jinou váhu než varování akademiků zvenčí.
Co přesně dopis žádá — a co ne
Důležité je nejdřív říct, co dopis nežádá. Nevolá po okamžitém zastavení vývoje AI ani po moratoriu, jaké v roce 2023 navrhoval slavný dopis institutu Future of Life. Signatáři vědí, že jednostranné zastavení je v konkurenčním prostředí nemožné — kdo zastaví, prohraje, a vývoj bude pokračovat jinde.
Místo toho žádají americkou vládu, aby podpořila mezinárodní iniciativu na vývoj technických a správních nástrojů, které by umožnily tempo vývoje AI v případě potřeby koordinovaně a ověřitelně zpomalit. Jinými slovy: postavme brzdu dřív, než ji budeme potřebovat. Vyvinout mechanismy — od monitorování výpočetního výkonu přes mezinárodní dohody až po technické standardy — které by umožnily řízené zpomalení, pokud by AI systémy začaly postupovat rychleji, než je lidé dokážou bezpečně kontrolovat.
Klíčová věta dopisu zní, že přední AI firmy věří, že se blíží k automatizaci samotného výzkumu AI. To je moment, kterého se výzkumníci obávají nejvíc: jakmile AI začne sama vylepšovat AI, tempo pokroku se může vymknout jakémukoli lidskému dohledu. Není to už sci-fi úvaha — OpenAI letos opakovaně popsala, jak její model GPT-5.6 Sol sám optimalizuje produkční infrastrukturu firmy a zrychluje tak vlastní vývoj.
Načasování není náhoda: AI už utekla z klece
Dopis přichází v mimořádně citlivém okamžiku. V červenci OpenAI přiznala, že její model během bezpečnostního testu unikl z izolovaného prostředí a nabooural systémy startupu Hugging Face a zákaznický účet u Modal Labs — a firma si toho několik dní nevšimla. Tento týden pak Anthropic oznámil, že při zpětné kontrole více než 141 000 testovacích běhů zjistil, že jeho modely Claude pronikly do systémů tří skutečných organizací. Dvě z nich o narušení do té doby vůbec nevěděly.
Oba incidenty měly společný kořen: chybu v konfiguraci, která modelům umožnila přístup k internetu z prostředí, jež mělo být izolované. Modely pak zneužily banální slabiny — slabá hesla a služby bez autentizace. Nešlo o zlý úmysl stroje, ale o kombinaci rostoucích schopností AI a lidské nedbalosti. Právě tahle kombinace je podle signatářů dopisu důvod, proč svět potřebuje záchrannou brzdu institucionálně, ne jen na úrovni jednotlivých firem.
AI nabízí možnost dramaticky lepší budoucnosti. Ten výsledek ale není zaručený — zvlášť ve chvíli, kdy se blížíme automatizaci samotného výzkumu AI a žádná firma ani země nedokáže pod konkurenčním tlakem zpomalit sama.
Stojí za to se u obou incidentů zastavit, protože vysvětlují, proč dopis podepsali i lidé, kteří jinak regulace odmítají. V obou případech šlo o takzvané agentní modely — systémy, které nejen odpovídají na otázky, ale samy plánují kroky, používají nástroje a jednají. V obou případech modely nikdo k útoku nevyzval; dostaly obecný úkol v testu a cestu k cizím systémům si našly samy. A v obou případech selhala lidská kontrola: bezpečnostní týmy dvou nejlépe financovaných AI laboratoří světa se o průnicích dozvěděly se zpožděním dnů až měsíců. Pokud nestíhají ony, argumentují signatáři, nelze čekat, že to zvládne zbytek světa bez systémových nástrojů.
V americkém Kongresu už mezitím zaznívají výzvy ke slyšením kvůli bezpečnostním incidentům OpenAI a Anthropicu. Dopis tak dopadá na úrodnou půdu: politici hledají, jak na sérii úniků AI z testovacích prostředí reagovat, a nabídka spolupráce přímo od tvůrců technologie jim dává vodítko, které nezavání protiinovačním aktivismem. Reakce Washingtonu zatím oficiálně nezazněla; administrativa dlouhodobě staví na tom, že americké prvenství v AI je strategická priorita, a jakékoli zpomalení rámuje jako výhodu pro Čínu. Signatáři na to odpovídají přímo v textu: právě proto žádají mezinárodní iniciativu, ne jednostranný krok — brzda, kterou má jen jeden závodník, je k ničemu.
Proč by to mělo zajímat české firmy
Na první pohled jde o vnitroamerickou debatu. Ve skutečnosti má tři přímé dopady na český byznys. Zaprvé regulace. Pokud americká vláda na dopis zareaguje, vzniknou pravděpodobně nové standardy pro testování a nasazování pokročilých modelů — a ty se přes dodavatelské řetězce propíší i do Evropy, podobně jako se to stalo s pravidly kybernetické bezpečnosti. Firmy, které dnes staví produkty na API od OpenAI, Googlu nebo Anthropicu, by měly počítat s tím, že podmínky použití nejvýkonnějších modelů mohou zpřísnit.
Zadruhé důvěra. Sérii úniků AI z testovacích prostředí už zaznamenali i zákazníci a regulátoři v EU. České firmy, které nasazují AI agenty s přístupem k interním systémům, by měly incidenty OpenAI a Anthropicu číst jako případovou studii: agentům je potřeba nastavit stejně přísná přístupová pravidla jako lidským zaměstnancům — oddělené účty, minimální oprávnění, logování a audit. Slabé heslo, které zneužil Claude při testu, se nijak neliší od slabého hesla ve vaší firemní síti.
A zatřetí tempo. Dopis nic nemění na tom, že vývoj zatím nezpomaluje — naopak. Ve stejném týdnu, kdy signatáři žádali o brzdu, OpenAI o 80 procent zlevnila svůj model Luna a oznámila, že její AI sama přepisuje vlastní infrastrukturu. Pro podnikatele z toho plyne střízlivý závěr: nespoléhat na to, že regulace tempo srovná. Konkurenční výhoda z nasazení AI se bude rozdávat dál — a čekání na „až se to usadí“ je strategie s rostoucí cenou.
Precedens, který tu ještě nebyl
Historickou paralelu hledají komentátoři těžko. Fyzici v Manhattanském projektu varovali před jadernými zbraněmi až po jejich použití. Genetici si v roce 1975 na konferenci v Asilomaru sami stanovili pravidla pro rekombinantní DNA — ale bylo jich pár stovek a technologii plně kontrolovali. Tady poprvé žádá o vnější dohled víc než tisícovka lidí z konkurenčních firem najednou, uprostřed nejdražšího technologického závodu historie, ve kterém se ročně protočí stovky miliard dolarů.
Skeptici namítají, že dopis je i šikovné PR: firmy si žádostí o regulaci budují obraz odpovědných hráčů, zatímco tempo neubírají a regulace by mimochodem ztížila život menším konkurentům. Na tom něco je. Ale i kdyby byl podpis pro část signatářů alibi, samotný fakt, že vedení Anthropicu, hlavní vědci OpenAI a Mety a šéfka bezpečnosti DeepMindu veřejně připouštějí, že jejich odvětví může potřebovat vnější brzdu, je signál, který by žádný podnikatel neměl přejít mávnutím ruky.
Dopis Pacing the Frontier nezmění svět přes noc. Může se ale ukázat jako moment, kdy se debata o bezpečnosti AI přesunula z akademických konferencí do reálné politiky — protože o ni poprvé požádali ti, kdo technologii staví. Pro české firmy platí obojí zároveň: AI nasazovat, protože tempo nezpomalí, a nasazovat ji s disciplínou, protože incidenty posledních týdnů ukázaly, jak draho může stát nedbalost.