Kdo zaplatí, když váš AI agent udělá chybu? Pojišťovny se začínají stahovat

Velké pojišťovny jedna po druhé vylučují škody způsobené umělou inteligencí ze svých smluv. Mezitím zákonodárci chystají zákony, které hodí odpovědnost na výrobce i provozovatele. Pro českého podnikatele, který nasazuje AI agenty, to znamená jediné: riziko se přesouvá na vás.

Ještě loni byla umělá inteligence hlavně nástroj, který něco říkal — chatbot, co napíše e-mail nebo shrne dokument. Dnes je to nástroj, který něco dělá. Autonomní AI agenti rezervují, nakupují, komunikují s úřady, sahají do firemních systémů a rozhodují bez toho, aby se někdo díval každému kroku pod ruce. A právě tady vzniká otázka, kterou si zatím málokdo položil nahlas: když takový agent udělá chybu nebo způsobí škodu, kdo za to zaplatí?

Odpověď, která se rýsuje na trhu i v legislativě, není příjemná. Velké pojišťovny se od AI rizik odvracejí, specializovaní pojistitelé nabízejí jen zlomek potřebného krytí a zákonodárci v USA připravují normy, které míří přímo na výrobce a provozovatele modelů. Pro firmu, která AI reálně nasazuje do provozu, to má jeden konkrétní dopad — a vyplatí se mu rozumět dřív, než přijde první problém.

Pojišťovny tiše zavírají dveře

Nejtišší, ale možná nejdůležitější signál posledních týdnů přišel z pojišťovnictví. Standardní firemní pojistky — odpovědnostní i kybernetické — nebyly psané pro svět, v němž za vás jedná autonomní software. A pojistitelé to vědí. Americká ratingová a produktová organizace Verisk (ISO) zavedla výluky pro generativní AI a podle dostupných údajů už více než 60 pojišťoven v segmentu majetku a odpovědnosti podalo žádosti o zařazení AI výluk do svých smluv. Regulátoři přitom schválili více než 80 procent těchto žádostí.

Ještě výmluvnější je odhad poradenské firmy Aon: přes 90 procent AI rizik krytých pojištěním je dnes takzvaně „tichých" (silent) — tedy takových, kde běžná pojistka ani jasně nekryje, ani výslovně nevylučuje škodu způsobenou umělou inteligencí. Jinými slovy: spousta firem si myslí, že jsou pojištěné, ale ve skutečnosti stojí na nejisté půdě. Když dojde na spor, pojistitel se bude ptát, jestli škodu zavinil člověk, nebo algoritmus — a odpověď rozhodne, jestli vám vůbec někdo plní.

Nový trh, který nestačí pokrýt riziko

Do mezery, kterou po sobě zanechávají tradiční pojistitelé, vstupuje nová generace specializovaných hráčů. Firmy jako Munich Re, Armilla nebo Testudo nabízejí krytí přímo pro AI chyby, halucinace modelů nebo útoky typu prompt injection — obvykle až poté, co klientovy systémy otestují. Problém je v číslech. Limity těchto specializovaných pojistek se pohybují zhruba od 9 milionů dolarů (Testudo) přes 25 milionů (Armilla) až po 50 milionů dolarů (Munich Re). U největších firem je krytí vyšší — u OpenAI se mluví o částce kolem 300 milionů dolarů.

To zní jako hodně peněz. Jenže potenciální odpovědnost největších AI firem odhadují pojistitelé citovaní deníkem The Wall Street Journal na desítky až stovky miliard dolarů. Jen pro srovnání: Anthropic letos uzavřel urovnání v autorskoprávním sporu za 1,5 miliardy dolarů. Mezi dostupným krytím a reálným rizikem tak zeje propast, kterou žádná pojistka zatím nezaplní. A historie napovídá, že to chvíli potrvá — kybernetickému pojištění trvalo podle think-tanku CSIS zhruba dvacet let, než dozrálo.

• Standardní odpovědnostní a kyberpojistky mohou škody z AI výslovně vylučovat — zkontrolujte si výluky.
• Specializované AI pojistky mají nízké limity vzhledem k možným nárokům a vyžadují testování.
• Velké firmy s pevnou rozvahou se mohou pojistit samy; startupy a menší nasazovatelé tuto možnost nemají.
• Pojistitelnost se může stát podmínkou kontraktu — stejně jako se jí dřív stalo kyberpojištění.

Zákonodárci míří na výrobce. A možná i na vás

Zatímco pojišťovny počítají rizika, politici hledají viníka. V USA představili senátoři Josh Hawley a Chris Murphy napříč stranami zákon, který by činil provozovatele i vývojáře AI agentů občanskoprávně i trestně odpovědnými ve chvíli, kdy jejich pokročilé modely proniknou do cizích systémů nebo sítí. Hawley to shrnul jednoduše:

Když se to stane, pak jsou to lidé, kteří to vyrobili, kdo by měl nést odpovědnost. Na konci dne je to produkt.

To je klíčový posun v myšlení. Na internetu platformy desítky let chránil americký paragraf 230, podle kterého nenesou odpovědnost za obsah, který vytvořil někdo jiný. Jenže AI si obsah i akce generuje sama — a soudy proto začínají dovozovat, že tahle ochrana pro umělou inteligenci neplatí. Výchozím režimem se tak stává odpovědnost za produkt, deliktní právo a ochrana spotřebitele. A trend je jednoznačný: víc odpovědnosti pro vývojáře, ne méně.

Pro české firmy je důležité, že slovo „provozovatel" v těchto návrzích nemusí znamenat jen tvůrce modelu. Pokud nasadíte AI agenta do svého provozu, dáte mu přístup k zákaznickým datům a necháte ho jednat jménem firmy, můžete se v očích práva stát právě tím provozovatelem. V EU navíc platí vlastní rámec — nařízení o umělé inteligenci (AI Act) a připravovaná pravidla odpovědnosti —, která kladou povinnosti i na toho, kdo systém používá, nejen na toho, kdo ho vyrobil.

Pojištění jako první skutečný regulátor

Z celé situace vyplývá něco nečekaného: prvním reálným pravidlem pro AI nemusí být zákon, ale pojistná smlouva. Specializovaní pojistitelé totiž předtím, než vám krytí poskytnou, vyžadují simulační testy a audity chybovosti. Fakticky tak nastavují bezpečnostní standardy — podobně jako kdysi laboratoře Underwriters Laboratories určovaly, co je bezpečný elektrický spotřebič. Kdo projde jejich testem, dostane krytí. Kdo ne, zůstane bez něj. A bez krytí dnes stále častěji není byznys.

Objevují se i systémovější návrhy. Právník Ben Gil Friedman navrhuje v analýze pro Lawfare takzvanou sdílenou zbytkovou odpovědnost: pokud by katastrofa přesáhla možnosti jedné firmy, ostatní hráči v odvětví by museli společně pokrýt zbytek — podobně jako přispívají banky do pojištění vkladů. Argument stojí na jednoduché premise:

Žádná jednotlivá firma není finančně schopná pokrýt plné škody dostatečně katastrofické události.

Ať už převáží kterýkoli model, výsledek je stejný: éra, kdy se dalo AI nasadit a doufat, že případné škody „nějak vyřeší pojišťovna", končí. Odpovědnost se vyjasňuje — a míří směrem k tomu, kdo z nasazení AI těží.

Co s tím má dělat český podnikatel

Nejde o důvod k panice, ale o důvod k pořádku. Firmy, které dnes jasně zdokumentují, k čemu má jejich AI agent přístup, kdo ho kontroluje, jaká je jeho chybovost a jak jsou nastavené odpovědnostní podmínky ve smlouvách s dodavateli, budou moci nasazovat rychleji a s menším rizikem než konkurence, která to řeší až po první škodě.

• Projděte si stávající pojistky a aktivně se ptejte pojišťovny na výluky týkající se AI.
• U každého AI agenta si pojmenujte, k jakým datům a systémům reálně má přístup a kdo nese odpovědnost za dohled.
• V smlouvách s dodavateli AI řešte, kdo platí případnou škodu a jaké jsou záruky — nespoléhejte na mlčení.
• Veďte záznam o testování a chybovosti nasazených modelů; bude se hodit u pojistitele i u případného sporu.
• Sledujte vývoj EU AI Actu — povinnosti dopadají i na provozovatele, ne jen na tvůrce modelů.

Umělá inteligence firmám dává bezprecedentní páku. Ale páka funguje na obě strany. Čím víc rozhodnutí svěříte agentovi, tím důležitější je vědět, kdo v případě problému sáhne do kapsy. Dnes je ještě čas si to ujasnit v klidu — zítra už to může řešit soud, pojišťovna, nebo oboje.