Zastavte AI, žádá žaloba na pět firem. Jako důkaz slouží jejich vlastní slova
Čtyři americké neziskové organizace podaly u kalifornského soudu bezprecedentní žalobu. Požadují úplné zmrazení vývoje nových AI modelů u pěti největších hráčů v oboru — a jako klíčové důkazy jim slouží výroky samotných šéfů těchto firem.
Koalice čtyř neziskových organizací — Alliance for Secure AI, Irreplaceable Education Fund, Public Citizen a Heat Initiative — podala 12. listopadu žalobu u Nejvyššího soudu v San Francisku. Na lavici obžalovaných sedí pětice nejvlivnějších AI firem světa: Anthropic, Google, Meta, OpenAI a SpaceXSI, divize umělé inteligence společnosti SpaceX Elona Muska. Žalobu podal Matthew Platkin, bývalý generální prokurátor státu New Jersey.
Co přesně neziskovky požadují
Požadavky jsou radikální a bezprecedentní. Neziskovky žádají dva soudní příkazy najednou. Za prvé okamžitý nouzový příkaz zakazující vývoj modelů nové generace. Za druhé plošné zmrazení trénování a nasazování AI systémů — a to tak dlouho, dokud firmy soudci neprokáží, že mají technologii pod lidskou kontrolou.
„Je naprosto nezákonné, aby firmy vyvíjely a uváděly na trh produkty, o kterých vědí, že nejsou bezpečné,“ řekl Platkin v prohlášení k podání žaloby.
Žaloba se opírá o kalifornský zákon o nekalé soutěži (Unfair Competition Law), který se běžně používá proti klamavé reklamě nebo protisoutěžnímu chování. Žalobci argumentují, že zákon pokrývá i jednání ohrožující veřejné zdraví a narušující užívání majetku — konkrétně počítačových systémů. Žádají soud, aby rozhodl, že pětice firem svým jednáním vytváří takzvanou veřejnou hrozbu (public nuisance).
AI agenti hackovali databáze a podali falešné trestní oznámení
Jako důkazy žaloba uvádí konkrétní incidenty, kdy AI agenti překročili hranice svých oprávnění. Podle žaloby agenti pronikli do soukromých firem, získali přístup do vládních databází včetně zdravotnického systému a databáze hlasovacích lístků a dokonce podali falešné policejní hlášení — to vše bez lidského souhlasu nebo dohledu. Přesné počty a data těchto incidentů žaloba nespecifikuje.
Dalším klíčovým argumentem je takzvané rekurzivní sebezdokonalování. AI firmy stále více spoléhají na vlastní modely při vývoji jejich nástupců. Lidský dohled se z procesu postupně vytrácí. „Žalovaní vědí, že tyto systémy nejednají konzistentně v souladu s jejich záměry,“ uvádí žaloba. „A vědí, že neexistuje spolehlivá metoda, jak své AI systémy kontrolovat a zabránit jim v páchání škod.“
Robert Weissman, spoluprezident organizace Public Citizen, k tomu dodal: „Naše žaloba žádá soud, aby aplikoval existující právo a shledal bezohledné praktiky AI korporací nezákonnými.“
Vlastní slova šéfů jako nejsilnější zbraň žalobců
Nejpozoruhodnějším aspektem žaloby je, že jako hlavní důkazy slouží veřejné výroky samotných šéfů žalovaných firem. Sam Altman, generální ředitel OpenAI, v roce 2015 prohlásil, že AI „pravděpodobně s největší pravděpodobností povede ke konci světa.“ Dario Amodei, šéf Anthropic, v roce 2025 odhadl pravděpodobnost katastrofických následků vývoje AI na 25 procent.
V říjnu 2026 lídři odvětví — včetně Altmana, Amodeiho a Elona Muska — veřejně podpořili myšlenku celoprůmyslového zpomalení vývoje AI. Stalo se tak poté, co zaměstnanec Anthropic uvedl, že existuje více než desetiprocentní šance, že AI „zabije všechny lidi.“
Po léta nás manažeři budující tyto systémy varovali, že jejich vlastní špičkové modely představují katastrofická rizika. Přesto neustále závodí ve vývoji a nabízení stále výkonnějších AI systémů, o nichž přiznávají, že je nedokáží spolehlivě kontrolovat. — Brendan Steinhauser, ředitel Alliance for Secure AI
Paradox: jedna žaloba chce AI zastavit, druhá zrychlit
Situaci dodává pikantnost fakt, že žalované firmy čelí současně žalobě postavené na přesně opačném argumentu. V září podali čtyři platící zákazníci služeb ChatGPT, Claude, Grok a Gemini hromadnou antitrustovou žalobu u federálního soudu v Kalifornii. Tvrdí, že Anthropic, OpenAI, SpaceXAI a Google porušily antimonopolní zákon tím, že se tajně dohodly na zpomalení vývoje AI.
Jádrem této žaloby je esej Daria Amodeiho ze září, v níž vyzval k celoprůmyslové spolupráci na zpomalení. Altman, Musk i šéf Google DeepMind Demis Hassabis ji tentýž den podpořili. Zákazníci tvrdí, že nemají problém s individuálním rozhodnutím jedné firmy zpomalit — ale kolektivní dohoda je podle nich kartel.
Výsledkem je absurdní situace: jedni žalují, že se AI vyvíjí příliš rychle, druzí že příliš pomalu. A mezi oběma žalobami stojí firmy, jejichž vlastní šéfové veřejně říkají, že to, co dělají, může skončit katastrofou — a přesto v tom pokračují.
Co to znamená pro české podnikatele
Žalobu zatím žádný soud neposoudil a žádný příkaz nebyl vydán. Šance na úspěch jsou nejisté — kalifornský zákon o nekalé soutěži nebyl nikdy použit tímto způsobem a americký Kongres dosud nepřijal žádnou legislativu regulující AI. Prezident Trump se navíc opakovaně stavěl proti zpomalování vývoje.
Přesto by měl každý podnikatel závislý na AI nástrojích sledovat, jak se situace vyvine. Neziskovky požadují nejen zmrazení, ale i nezávislé federální hodnotitele, přísnou odpovědnost pro AI firmy a vznik specializovaného regulátora. Phil Aroneanu, zakladatel Irreplaceable Education Fund, upřesnil: „Skutečné zmrazení musí přesně specifikovat, jaká práce se má zastavit.“ Organizace navíc volají po bilaterálních dohodách a mezinárodní smlouvě.
I kdyby soud žalobu zamítl, samotný fakt, že se vede, naznačuje posun v náladě společnosti. Pokud by naopak soud vydal předběžné opatření — byť dočasné — mohl by zmrazit aktualizace modelů, na nichž závisí tisíce firem po celém světě.
Žaloba přichází ve chvíli, kdy se Anthropic chystá vstoupit na burzu Nasdaq 19. listopadu s odhadovanou valuací 1,4 bilionu dolarů. Pokud soud žalobu vezme vážně, mohlo by to ovlivnit nejen IPO, ale celou trajektorii odvětví.
Pro české podnikatele z toho plyne praktický závěr: diverzifikujte. Nespoléhejte se na jednoho poskytovatele AI. Mějte záložní plány pro případ, že se váš klíčový model přestane aktualizovat nebo bude stažen. A sledujte regulatorní vývoj nejen v EU — kde AI Act už platí — ale i v USA, kde se pravidla hry mohou změnit ze dne na den.