Firmy spálené chybou AI odstraňují lidi, kteří by zachytili tu příští

Firmy spálené chybou AI odstraňují lidi, kteří by zachytili tu příští

Nová studie mezi 108 podniky odhalila znepokojivý paradox: firmy, které zažily selhání svého AI agenta u zákazníka, nejagresivněji odstraňují lidský dohled z nasazování. Proč to dělají a co to znamená pro váš byznys?

Téměř polovina velkých firem zažila situaci, kdy jejich AI agent prošel interním testováním — a pak způsobil problém viditelný pro zákazníky. Logická reakce by byla zpřísnit kontrolu a přidat víc lidských pojistek. Jenže přesný opak se děje. Podle čerstvé studie VentureBeat Intelligence z srpna 2026 právě ty firmy, které si prošly selháním, nejagresivněji odstraňují lidi z rozhodování o nasazení AI do provozu.

Výzkum, který oslovil 108 podniků s minimálně stem zaměstnanců, odhalil jeden z nejznepokojivějších paradoxů současné vlny podnikové AI. A pro českého podnikatele, který právě zvažuje nasazení AI agentů ve své firmě, přináší varování, které stojí za pozornost.

Paradox spálených prstů: čím horší zkušenost, tím méně kontroly

Čísla mluví jasně. Z firem, jejichž AI agent prošel testy a následně zklamal zákazníka, 85 procent nyní usiluje o model nasazování bez lidského schválení. U firem, které podobný problém nezažily, je to jen 61 procent. Pouze 11 procent spálených firem odmítá plnou automatizaci nasazování — oproti 24 procentům u těch nespálených.

Na první pohled to vypadá jako šílenství. Firma zažije selhání AI, a místo aby přidala pojistky, odstraní ty stávající? Studie ale nabízí jemnější vysvětlení: organizace, které provozují více AI agentů na náročnějších úlohách, mají statisticky vyšší šanci narazit na problém. Zároveň ale disponují vyspělejší inženýrskou infrastrukturou pro automatizované nasazování. Jinak řečeno — nejsou bezohledné, jsou zkušenější.

https://noviny.ai/api/admin/images/3c2b70b5-9a9d-44ef-9012-0f09051fe42f/data

Jenže toto vysvětlení má háček. Pokud míra selhání na jedno nasazení zůstane konstantní a objem nasazení roste, celkový počet incidentů poroste — i když se procentuální podíl postižených firem nezmění. Studie tento objem neměří, ale identifikuje ho jako reálné riziko vyplývající z pozorovaného vzorce.

Polovina firem nesleduje, zda AI odpovídá správně

Studie odhalila ještě znepokojivější mezeru. Zatímco předprodukční testování se zlepšuje — 13 procent firem nyní důvěřuje automatizovanému hodnocení, oproti 5 procentům o měsíc dříve — monitoring v produkci zaostává.

Z 106 oslovených firem sleduje jen 26 procent kvalitu výstupů AI v reálném čase pomocí automatizovaných kontrol správnosti. Dalších 26 procent se soustředí na transakční záznamy jako spotřebu tokenů, vstupy a výstupy. A 24 procent sleduje pouze infrastrukturní metriky jako latenci, chybovost a náklady.

Problém? Infrastrukturní data dokážou odhalit výpadky a zpomalení. Ale nezachytí odpověď, která je plynulá, rychlá, sebejistá — a špatná. Mezi firmami, které už povolují nasazení AI bez lidského schválení, kontroluje správnost živých odpovědí pouhých 28 procent. Většina firem, které odstranily člověka z rozhodování o nasazení, nezavedla automatický sémantický monitoring jako záchrannou síť.

Jsme svědky velkého úpadku evaluací, jak je známe. Firmy z Fortune 100 čím dál víc redukují testovací sady a přestávají je udržovat. Jak systémy rostou, je nemožné vyjmenovat všechny možné chyby. Místo toho se spoléhají na detekci anomálií před i po nasazení do provozu.

Automatizace s lidskou záchrannou sítí

Data ale ukazují, že firmy problém vidí — a reagují, i když ne vždy intuitivně. Investice do lidských revizních procesů se těsně dostaly na první místo v žebříčku priorit s 31 procenty, těsně před produkční observabilitou s 30 procenty. Automatizované testovací pipeline skončily na třetím místě s 19 procenty.

https://noviny.ai/api/admin/images/1e839942-961c-4d92-bd9c-7e691ded6b2c/data

Mezi spálenými firmami chce 38 procent investovat nejrychleji právě do lidských revizí — oproti 24 procentům u nespálených firem. Vzniká tak zdánlivý paradox: spálené firmy nejagresivněji odstraňují lidi z rozhodování o nasazení a zároveň nejagresivněji investují do lidí jinde v procesu.

Strategie se rýsuje jasně: automatizace s lidskou záchrannou sítí. Nechat AI agenty jednat rychleji, ale přidat revizory, kteří zachytí to, co automatické testy propustí. Otázka ale zní, zda tento model škáluje. Nasazení AI a automatické kontroly rostou s objemem softwaru. Lidské hodiny ne.

Co to znamená pro české firmy

Studie přináší několik praktických poučení pro každého, kdo nasazuje nebo plánuje nasadit AI agenty:

Červencová data neukazují, že by podnikové hodnocení AI selhávalo všude. Ukazují něco přesnějšího: důvěra v automatické kontroly roste rychleji, než se zlepšují jejich výsledky. To je mezera, která se může kdykoli proměnit v problém — zvlášť pokud vaše firma právě přemýšlí, kolik autonomie svým AI agentům dá.