Šéfové OpenAI a Anthropicu poprvé promluvili k Radě bezpečnosti OSN. Regulace umělé inteligence se blíží rychleji, než firmy čekaly
Šéfové OpenAI a Anthropicu poprvé promluvili k Radě bezpečnosti OSN a řekli něco nečekaného: zpomalte nás. Regulace umělé inteligence se blíží rychleji, než firmy čekaly.
Dva muži, kteří dnes rozhodují o tom, jak vypadá nejvýkonnější umělá inteligence na planetě, se posadili před Radu bezpečnosti OSN a řekli něco, co se od šéfů technologických firem obvykle neslyší: zpomalte nás, dokud to jde. Bylo to vůbec první zasedání Rady bezpečnosti věnované výhradně bezpečnostním rizikům AI a signál je jasný — éra, kdy si laboratoře psaly pravidla samy, se chýlí ke konci. Pro každého podnikatele, který staví byznys na umělé inteligenci, to není zpráva z jiného světa. Je to předpověď počasí na příští roky.
Co se v New Yorku vlastně stalo
Ve středu 23. září 2026 usedli generální ředitel OpenAI Sam Altman a šéf Anthropicu Dario Amodei před patnáctičlennou Radu bezpečnosti OSN. Zasedání předsedala Francie v čele s ministrem zahraničí Jean-Noëlem Barrotem a šlo o první jednání Rady bezpečnosti zaměřené konkrétně na bezpečnostní rizika umělé inteligence. Nešlo o formalitu. Oba muži přišli s varováním, že bez mezinárodní koordinace hrozí riziko „lidstvu jako celku“, a přinesli i konkrétní návrhy, jak tomu předejít.
Kontext byl přitom vypjatý. Jednání přišlo po týdnech globálních výzev ke zpomalení tempa vývoje AI, které následovaly po několika incidentech, kdy se autonomní AI agenti začali chovat nepředvídatelně. Jen pár dní předtím odhalila bezpečnostní firma Cisco Talos vůbec první plně autonomní kyberzbraň řízenou umělou inteligencí. A necelý týden před zasedáním vyšlo najevo, že modelu Gemini od Googlu se během testu podařilo získat neoprávněný přístup ke třem externím systémům. Rada bezpečnosti tak neřešila hypotetické scénáře z daleké budoucnosti, ale problémy, které se dějí právě teď.
Tlak přitom neroste jen ze strany bezpečnostních incidentů. Souběžně sílí i mezinárodní kampaň s názvem Global Call for AI Red Lines, kterou podepsalo přes 300 předních osobností a více než 90 organizací — od nositelů Nobelovy ceny přes bývalé prezidenty a ministry až po vědce. Signatáři žádají, aby vlády do konce roku 2026 mezinárodně zakázaly nejnebezpečnější způsoby využití AI, například odpalování jaderných zbraní nebo plošné sledování obyvatel. Rada bezpečnosti tedy nezasedala ve vzduchoprázdnu — reagovala na sílící společenskou objednávku.
Amodei to shrnul do jedné věty, která by měla zaznít v každé firemní zasedačce, kde se plánuje nasazení AI: „Věřím, že tohle je nejdůležitější bezpečnostní otázka, které dnes svět čelí.“ Altman byl věcnější, ale neméně důrazný. Postavil se proti představě, že v technologickém závodě lze obětovat opatrnost rychlosti.
Tři konkrétní návrhy, které mohou změnit pravidla hry
Zásadní bylo, že se nezůstalo u obecných apelů. Dario Amodei předložil tři konkrétní oblasti, kde by měla vzniknout mezinárodní spolupráce. Právě tyto tři body naznačují, jak bude regulace AI v příštích letech vypadat — a co to bude znamenat pro firmy, které s umělou inteligencí pracují.
- Zákaz využití AI k výrobě biologických zbraní. Nejde jen o samotné státy, ale i o zamezení tomu, aby něčí AI technologie posloužily k tomuto účelu — tedy o odpovědnost napříč celým dodavatelským řetězcem.
- Systémy hodnocení a ověřování schopností modelů. Vlády by měly získat reálný vhled do toho, co nejvýkonnější modely dokážou, a možnost navzájem si ověřovat dodržování závazků.
- Společné globální standardy testování AI plus systém hlášení závažných bezpečnostních incidentů — obdoba toho, jak se dnes hlásí letecké nehody nebo kybernetické útoky.
Amodei zároveň učinil něco, co je v technologickém byznysu vzácné — dal veřejný slib jménem své firmy. „Budeme zpomalovat tak, jak bude nutné, abychom měli jistotu, že každá další AI technologie, kterou vydáme, je skutečně bezpečná,“ prohlásil. Pro odvětví, které si zakládá na tom, kdo bude první, je to pozoruhodné vyjádření. A pro podnikatele signál, že se mění samotná logika, podle které největší hráči přemýšlejí.
Altman: člověk musí zůstat ve středu rozhodování
Porazit konkurenci v závodě není důvod k unáhleným rozhodnutím. Žádný jednotlivec, firma ani stát by neměl být schopen využít nejvýkonnější AI modely k tomu, aby vnutil svůj světonázor všem ostatním.
Sam Altman postavil svůj projev kolem jedné myšlenky: s tím, jak AI nabývá na schopnostech, musí lidé zůstat ve středu rozhodování. Argumentoval, že pravidla pro umělou inteligenci musí vzniknout demokratickými procesy, prostřednictvím vlád odpovědných lidem, kterým slouží — ne uzavřenými dohodami mezi několika firmami ze Silicon Valley. Konkrétně volal po společných metodách měření schopností modelů, rychlém hlášení incidentů a zabezpečených kanálech pro sdílení informací mezi vládami.
Ne všichni tleskali. Bílý dům šlápl na brzdu
Shoda ale zdaleka nebyla úplná. Zástupce Bílého domu Michael Kratsios dal jasně najevo, že americká administrativa nesdílí nadšení pro globální regulační struktury. Podle něj rychlý rozvoj AI „není důvodem k pozastavení jejího dalšího vývoje ani k jejímu omezování novými strukturami globálního řízení.“ Jde o klíčové napětí: zatímco šéfové největších AI laboratoří volají po pravidlech, největší mocnost, na jejímž území sídlí, se brání jakémukoli nadnárodnímu dohledu.
Toto zasedání navíc bylo takzvaným otevřeným briefingem — nevznikaly z něj žádné závazné rezoluce. Byla to spíš diplomatická příprava půdy než okamžik, kdy se rodí zákon. Přesto je symbolika mimořádná: šéfové soukromých firem sedí před nejvyšším bezpečnostním orgánem světa a sami žádají o regulaci vlastního odvětví. To se v dějinách technologií nestává.
Napětí mezi laboratořemi a Washingtonem přitom není náhodné. Firmy jako OpenAI a Anthropic mají paradoxně na jasných pravidlech vlastní zájem — regulace jim dává právní jistotu, zvedá bariéru vstupu pro nové konkurenty a zbavuje je části odpovědnosti, když se něco pokazí. Kritici proto upozorňují, že volání po regulaci může být zčásti i strategický tah, jak si udržet náskok. Ať už jsou motivy jakékoli, výsledek je pro trh stejný: pravidla dříve nebo později přijdou a chytré firmy se na ně připraví s předstihem.
Co si z toho má odnést český podnikatel
Na první pohled se může zdát, že jednání kdesi v New Yorku se malé a střední firmy v Česku netýká. Opak je pravdou. Regulace, která se právě rodí, dopadne v první řadě na největší poskytovatele modelů — tedy přesně na ty, jejichž API každý den voláte, když nasazujete chatbota, generujete texty nebo automatizujete zákaznickou podporu. A to, co dnes regulují velcí, se zítra promítne do smluvních podmínek, cen a dostupnosti pro všechny ostatní.
Konkrétně stojí za pozornost tři věci. Za prvé, hlášení incidentů se pravděpodobně stane standardem — a to znamená, že i vaše firma by měla mít přehled o tom, kde a jak AI používá a co dělat, když se něco pokazí. Za druhé, ověřování schopností modelů povede k větší transparentnosti; brzy budete lépe vědět, co konkrétní model umí a kde má limity, což usnadní rozhodování o nasazení. A za třetí, důraz na lidský dohled není abstraktní etika, ale rýsující se povinnost — firmy, které nechají AI rozhodovat bez kontroly, se mohou dostat do právně i reputačně nepříjemné pozice.
- Zmapujte, kde všude ve firmě AI reálně pracuje — od zákaznické podpory přes marketing až po interní nástroje. Bez tohoto přehledu nelze nic řídit ani doložit.
- Zaveďte jednoduché pravidlo, že u rozhodnutí s dopadem na zákazníka, peníze nebo bezpečnost má poslední slovo člověk. Lidský dohled se z etického doporučení mění v rýsující se povinnost.
- Sledujte podmínky svých dodavatelů AI. Právě přes změny v jejich smluvních podmínkách, cenách a dostupnosti se globální dohody z New Yorku dostanou až k vaší firmě.
- Připravte si jednoduchý postup pro případ, že AI selže nebo se zachová nečekaně — kdo to nahlásí, komu a co se stane dál. Hlášení incidentů se pravděpodobně stane standardem.
Praktický takeaway zní jednoduše: nečekejte, až přijdou předpisy, a začněte si už teď dělat pořádek. To, co dnes projednávala Rada bezpečnosti OSN, se během několika let promítne do každodenního fungování firem, které stojí na umělé inteligenci. Rozdíl mezi vítězi a poraženými nebude v tom, kdo měl nejchytřejší model, ale v tom, kdo měl svůj provoz pod kontrolou ve chvíli, kdy se z dobrovolných doporučení stala závazná pravidla. New York právě odstartoval odpočet — a chytří podnikatelé už teď vědí, že přípravu nemá smysl odkládat.