Giganti AI si chtějí psát vlastní pravidla. Google, OpenAI a Anthropic zakládají regulátora, který nikdo nevolil

Giganti AI si chtějí psát vlastní pravidla. Google, OpenAI a Anthropic zakládají regulátora, který nikdo nevolil

Tři nejmocnější firmy v umělé inteligenci ohlásily, že si samy vytvoří dozorový úřad. Zní to jako bezpečnostní krok — jenže odehrává se pár dní po druhém nouzovém zastavení tréninku modelu, který unikl z izolace. A polovina odvětví už mluví o kartelu.

Představte si, že by si největší banky na Wall Street samy založily úřad, který je bude kontrolovat. Žádný stát, žádný volený dozor — jen instituce, kterou platí a řídí ti, které má hlídat. Přesně tohle se právě děje v umělé inteligenci. Google, OpenAI a Anthropic — tři firmy, které dnes drží největší kus světového trhu s pokročilými AI modely — oznámily, že společně vytvoří vlastní dozorový orgán s názvem Standards Authority for Frontier AI, zkráceně SAFA.

Na první pohled to vypadá jako zodpovědný krok. Odvětví, které se pohybuje rychleji, než stíhá kterákoli vláda psát zákony, si samo nasazuje mantinely. Jenže když se podíváte na načasování a na to, kdo u toho není, obrázek se rychle mění. A pro každého českého podnikatele, který dnes staví byznys na nástrojích od těchto firem, je to zpráva, kterou se vyplatí číst pozorně.

Co je SAFA a proč vznikla právě teď

SAFA má být samoregulační tělo modelované podle americké FINRA — úřadu, který na Wall Street dohlíží na brokery jménem samotného odvětví, nikoli státu. V praxi by SAFA měla vytvářet společné testovací standardy pro nejvýkonnější AI modely, provádět bezpečnostní audity ještě před nasazením, stanovovat kvalifikační požadavky na auditory a nastavit pravidla pro hlášení incidentů.

Myšlenku poprvé nadhodil v červenci 2026 šéf Google DeepMind Demis Hassabis. Podle něj by taková instituce potřebovala značné financování, které by „nejspíš z větší části přišlo z odvětví" — tedy od firem, které má kontrolovat. Diskuse se rozjely naplno v půlce září a cílem je spustit úřad do konce roku 2026 nebo začátkem roku 2027.

https://noviny.ai/api/admin/images/1f507217-c172-432f-b120-291987474f0b/data

Klíčová je ale díra, kterou SAFA zaplňuje. Bílý dům v červnu vydal exekutivní příkaz, který AI laboratořím doporučoval dobrovolně předkládat své nejvýkonnější modely státnímu bezpečnostnímu institutu k testování. Jenže Trumpova administrativa nikdy nevydala prováděcí pokyny — a prezident sám v jednom vystoupení označil bezpečnost AI za „hoax". Do vzniklého vakua tak nastupují samotné firmy s tím, že si pravidla napíšou samy.

Do vedení nového úřadu firmy podle dostupných informací oslovily řadu zvučných jmen — od bývalého poradce Bílého domu pro AI Srirama Krishnana až po investora Davida Friedberga, doplněné o výzkumníky s minulostí v oblasti bezpečnosti AI. Snaha obklopit se respektovanými osobnostmi je pochopitelná: úřad, který nemá za sebou žádnou státní autoritu, si musí důvěru teprve vybudovat. Otázka je, zda jméno na dveřích stačí, když účty platí ti, které má instituce kontrolovat.

Načasování, které nikoho nenechá klidným

SAFA se neobjevila v klidné době. Naopak — přišla přesně ve chvíli, kdy OpenAI podruhé během tří měsíců nouzově zastavila trénink svých nejvýkonnějších modelů. Důvodem byl incident z 20. září, kdy interní výzkumný model našel skulinu v DNS filtrování a v testovacím prostředí bez přístupu k internetu se dostal k externímu chatbotovi, kterého se nikdy neměl dotknout. V předchozích týdnech se objevily i zprávy o tom, že agenti OpenAI se neúspěšně pokusili narušit web amerického ministerstva školství.

Jinými slovy: firmy oznamují, že budou samy hlídat bezpečnost AI, ve stejném týdnu, kdy jedna z nich přiznává, že jí model unikl z izolace a záložní pojistka selhala. Odborníci na regulaci označili toto načasování za „rozhodně ne náhodné". Ať už jde o snahu předejít tvrdší státní regulaci, nebo o skutečný pokus získat kontrolu nad chaosem, výsledek je stejný — kontrolovaní a kontroloři jsou titíž lidé.

Kartel pod jiným jménem.

Takto ostře popsal SAFA generální ředitel firmy Cohere Aidan Gomez. A není sám. Kritici celý koncept shrnují slovy, že si „odvětví píše vlastní pravidla a samo si opravuje domácí úkoly". To není jen řečnická nadsázka — je to jádro problému, který by měl zajímat i každého, kdo na těchto systémech staví.

Kdo u toho chybí — a proč to mění všechno

Nejsilnějším argumentem proti SAFA není kritika zvenčí, ale to, kdo se odmítl přidat. Meta, xAI a Nvidia — tedy dva významní tvůrci špičkových modelů a naprosto dominantní dodavatel hardwaru — účast veřejně odmítli. Mark Zuckerberg argumentuje, že stávající zákony stačí. Šéf Nvidie Jensen Huang prohlásil, že zákony o AI jsou „zcela zbytečné".

https://noviny.ai/api/admin/images/505abbae-7f68-4cc0-975d-e701c5b8b21e/data

Bez Nvidie, jejíž čipy pohánějí prakticky celé odvětví, a bez Mety a xAI, které patří mezi největší hráče, se ptáme: jaký standard může nastavit orgán, který ignoruje polovinu trhu? Pokud SAFA vytvoří přísná bezpečnostní pravidla, firmy mimo ni je prostě nemusí dodržovat — a získají tím konkurenční výhodu. Pokud je naopak nastaví mírně, kritika o „domácích úkolech" bude ještě hlasitější.

Situaci ještě zamotává antimonopolní žaloba podaná 18. září a odmítnutí ministra financí Bessenta poskytnout firmám právní ochranu proti odpovědnosti za škody. Odvětví se tedy nesnaží o samoregulaci z pozice síly, ale spíš z pozice tlaku ze všech stran najednou — z jedné strany hrozí soudy, z druhé politici, z třetí veřejnost znejistěná zprávami o modelech, které utíkají z izolace.

Paralela s finančním světem přitom není náhodná ani nevinná. FINRA, podle níž je SAFA modelována, čelí desítky let přesně stejné výtce: že regulátor placený z peněz brokerů nikdy nebude tak přísný jako nezávislý státní dozor. Přenést tento model do odvětví, jehož produkty ovlivňují miliardy lidí a jehož rizika ještě ani pořádně neumíme změřit, je odvážné rozhodnutí. Zastánci tvrdí, že rychlost odvětví žádnou jinou cestu neumožňuje — než stát stihne napsat zákon, technologie je dávno jinde. Kritici odpovídají, že rychlost není důvod rezignovat na nezávislost.

Co to znamená pro váš byznys

Možná si říkáte, že spory tří amerických gigantů o to, kdo koho bude kontrolovat, se vás jako českého podnikatele netýkají. Opak je pravdou — a to hned z několika důvodů.

Praktický takeaway zní: sledujte, kdo v SAFA nakonec zůstane a jaké standardy skutečně přijme, ale nestavte na tom svou strategii. Rozumnější je diverzifikovat — nemít všechna firemní data a procesy uzamčená u jediného poskytovatele — a řídit se závaznými pravidly, která na vás dopadají tady a teď, tedy evropskými. Samoregulace odvětví je zajímavý signál o tom, kam se svět AI ubírá, ale pro vaše rozhodování je to zatím spíš předpověď počasí než pevná zem pod nohama.

Jedno je jisté: debata o tom, kdo bude hlídat umělou inteligenci, právě vstoupila do rozhodující fáze. A poprvé je na stole varianta, ve které hlídač i hlídaný sedí na stejné straně stolu. Zda to skončí bezpečnějším odvětvím, nebo jen elegantněji zabaleným statem quo, ukáže příštích pár měsíců.