Bílý dům dopsal pravidla pro nejsilnější AI. Vláda dostane modely k prohlídce 30 dní před vydáním

Bílý dům dopsal pravidla pro nejsilnější AI. Vláda dostane modely k prohlídce 30 dní před vydáním

Americká administrativa finalizovala dobrovolný rámec pro testování nejvýkonnějších AI modelů. Firmy jako OpenAI, Anthropic, Google, Meta a Microsoft mají vládě nabídnout přístup k novým modelům až 30 dní před uvedením na trh kvůli bezpečnostní prověrce. Otevřené modely jsou z pravidel vyňaty a klíčové pojmy zůstávají nedefinované. Co nová pravidla znamenají pro globální trh s AI a nepřímo i pro české firmy?

Americká administrativa dokončila dlouho očekávaný rámec pro bezpečnostní testování nejvýkonnějších modelů umělé inteligence. Podle informací amerických médií byla pravidla finalizována na začátku srpna a hned poté se v Bílém domě sešli zástupci zhruba tuctu předních AI firem — mimo jiné OpenAI, Anthropic, Google a Meta —, aby si rámec s vládními úředníky prošli. Krátká, zhruba půlhodinová schůzka uzavřela zhruba dva měsíce jednání, která začala poté, co americký prezident v červnu podepsal exekutivní příkaz vyzývající k vytvoření dobrovolného rámce pro pokročilé AI modely.

Jádro celého mechanismu je jednoduché. Vláda má získat možnost prohlédnout si nejsilnější modely až 30 dní před jejich veřejným vydáním, a to kvůli vyhodnocení kybernetických a bezpečnostních rizik. Rámec je výslovně dobrovolný — nejde o povinné licencování ani o systém předběžného schvalování, který by firmám bránil model vypustit. Je to spíš nabídka na včasné nahlédnutí než regulační brzda.

Na koho pravidla dopadají

Rámec se týká takzvaných frontier modelů — tedy těch s nejpokročilejšími schopnostmi, u nichž hrozí rizika pro národní bezpečnost. Zásadní je ale jedno omezení: pravidla platí výhradně pro uzavřené modely velkých firem jako OpenAI, Anthropic, Google, Meta a Microsoft. Modely s otevřenými vahami, které si kdokoli může stáhnout a provozovat sám, jsou z federálního dohledu vyňaty.

Právě toto rozhodnutí vyvolává nejvíc debat. Vytváří totiž nápadnou asymetrii: zatímco vývojáři uzavřených modelů se mají podřídit 30denní prohlídce, tvůrci otevřených modelů mohou iterovat, vydávat a nasazovat bez jakékoli srovnatelné zátěže. Kritici upozorňují, že to může paradoxně motivovat firmy k tomu, aby své nejsilnější modely uvolňovaly jako otevřené — a vyhnuly se tak dohledu úplně.

https://noviny.ai/api/admin/images/06db2549-6e9a-40f6-a54f-72733df79b0b/data

Mnoho otázek zůstává bez odpovědi

Rámec sice definuje pojem „frontier model" jako uzavřený model se špičkovými schopnostmi a riziky pro národní bezpečnost, jenže nikde jasně nevymezuje, co přesně znamená „špičkové schopnosti" nebo „riziko pro národní bezpečnost". Tato neurčitost dává administrativě velký prostor pro uvážení — a firmám nejistotu, zda konkrétní model pod pravidla spadá, nebo ne.

Přidává se k tomu i kritika ohledně transparentnosti. Rámec byl dokončen za zavřenými dveřmi a jeho úplné znění nebylo dosud veřejně zpřístupněno. Odborníci na správu AI upozorňují, že veřejnost i menší firmy tak nemají možnost posoudit, jaké přesně kroky se od velkých laboratoří očekávají a podle jakých kritérií vláda modely hodnotí. Dobrovolnost navíc znamená, že celý systém stojí na ochotě firem spolupracovat — a na tom, že mezi nimi a administrativou panuje důvěra.

Zajímavá je i samotná podstata 30denní lhůty. Nejde o klasické schvalování, kdy by úřad rozhodoval, zda model smí na trh. Vláda má model dostat k prohlídce hlavně proto, aby stihla vyhodnotit kybernetická rizika — například zda by nový model nemohl výrazně usnadnit útoky na kritickou infrastrukturu nebo vývoj nebezpečných technologií. Firmy si přitom zachovávají poslední slovo: rámec výslovně nesmí sloužit k tomu, aby z něj vznikl povinný licenční či předschvalovací systém. Je to tedy spíš pojistka pro sdílení informací než regulační brzda.

Americká a evropská cesta se rozcházejí

Nový americký přístup je zajímavý především kontrastem s Evropou. Zatímco EU vsadila na závazný, právně vymahatelný AI Act s jasně definovanými kategoriemi rizik a povinnostmi, USA volí opačnou filozofii: lehký, dobrovolný a flexibilní rámec, který nechce brzdit inovace a spoléhá na spolupráci s průmyslem. Obě cesty mají své zastánce i kritiky.

Zastánci amerického modelu tvrdí, že rychlý a nezávazný přístup udrží USA v čele AI závodu a nezatíží firmy byrokracií. Kritici namítají, že dobrovolná pravidla bez jasných definic a bez vymahatelnosti jsou spíš gesto než skutečná pojistka. Pro globální firmy to každopádně znamená, že se budou muset orientovat ve dvou odlišných regulačních světech naráz — a přizpůsobit jim vývoj i nasazení svých produktů.

USA: dobrovolný rámec, 30denní prohlídka před vydáním, jen uzavřené frontier modely, žádné povinné licencování|EU: závazný AI Act, kategorie rizik, povinnosti podle míry rizika, sankce za nedodržení|Otevřené modely: v USA mimo dohled, v EU stále podléhají pravidlům podle způsobu použití

https://noviny.ai/api/admin/images/1fc1a78e-7830-4635-b221-9b10a1045bcf/data

Co to znamená pro české firmy

Na první pohled se americký rámec českých podnikatelů netýká — jde o pravidla platná v USA a mířící na hrstku největších laboratoří. Ve skutečnosti ale nepřímé dopady existují a stojí za pozornost. Tím prvním je časování nových modelů. Pokud se vydávání nejsilnějších amerických modelů kvůli 30denní prohlídce mírně zpozdí nebo zpřísní, může se to promítnout do toho, kdy budou dané modely dostupné i pro evropské zákazníky přes API.

Druhým dopadem je posílení role otevřených modelů. Pokud americká regulace zvýhodní modely s otevřenými vahami, urychlí to jejich vývoj a zpřístupnění. Pro české firmy je to spíš dobrá zpráva — otevřené modely lze provozovat na vlastní infrastruktuře, drží data doma a nabízejí větší kontrolu i lepší soulad s evropskými požadavky na ochranu dat. Kdo řeší citlivá data, měl by otevřené modely mít na radaru.

Třetím a nejdůležitějším dopadem je regulační realita. Česká firma působící na evropském trhu se bude řídit primárně evropským AI Actem, ne americkým rámcem. Rozdíl mezi oběma přístupy ale ukazuje, že regulace AI se globálně teprve usazuje a bude se dál měnit. Rozumné je nastavit si interní pravidla pro nasazení AI — evidenci toho, které modely firma používá, k čemu a s jakými daty — tak, aby obstála v přísnějším i mírnějším režimu. Kdo má tenhle přehled hotový, nebude muset panikařit, ať se pravidla pohnou kterýmkoli směrem.

Zdroj: CNBC, Axios a další americká média informující o finalizaci dobrovolného federálního rámce pro testování frontier AI modelů. Úplné znění rámce nebylo v době vydání článku veřejně zpřístupněno.