Firmy spálené chybou AI odstraňují lidi, kteří by zachytili tu příští
Nová studie mezi 108 podniky odhalila znepokojivý paradox: firmy, které zažily selhání svého AI agenta u zákazníka, nejagresivněji odstraňují lidský dohled z nasazování. Proč to dělají a co to znamená pro váš byznys?
Téměř polovina velkých firem zažila situaci, kdy jejich AI agent prošel interním testováním — a pak způsobil problém viditelný pro zákazníky. Logická reakce by byla zpřísnit kontrolu a přidat víc lidských pojistek. Jenže přesný opak se děje. Podle čerstvé studie VentureBeat Intelligence z srpna 2026 právě ty firmy, které si prošly selháním, nejagresivněji odstraňují lidi z rozhodování o nasazení AI do provozu.
Výzkum, který oslovil 108 podniků s minimálně stem zaměstnanců, odhalil jeden z nejznepokojivějších paradoxů současné vlny podnikové AI. A pro českého podnikatele, který právě zvažuje nasazení AI agentů ve své firmě, přináší varování, které stojí za pozornost.
Paradox spálených prstů: čím horší zkušenost, tím méně kontroly
Čísla mluví jasně. Z firem, jejichž AI agent prošel testy a následně zklamal zákazníka, 85 procent nyní usiluje o model nasazování bez lidského schválení. U firem, které podobný problém nezažily, je to jen 61 procent. Pouze 11 procent spálených firem odmítá plnou automatizaci nasazování — oproti 24 procentům u těch nespálených.
Na první pohled to vypadá jako šílenství. Firma zažije selhání AI, a místo aby přidala pojistky, odstraní ty stávající? Studie ale nabízí jemnější vysvětlení: organizace, které provozují více AI agentů na náročnějších úlohách, mají statisticky vyšší šanci narazit na problém. Zároveň ale disponují vyspělejší inženýrskou infrastrukturou pro automatizované nasazování. Jinak řečeno — nejsou bezohledné, jsou zkušenější.
Jenže toto vysvětlení má háček. Pokud míra selhání na jedno nasazení zůstane konstantní a objem nasazení roste, celkový počet incidentů poroste — i když se procentuální podíl postižených firem nezmění. Studie tento objem neměří, ale identifikuje ho jako reálné riziko vyplývající z pozorovaného vzorce.
Polovina firem nesleduje, zda AI odpovídá správně
Studie odhalila ještě znepokojivější mezeru. Zatímco předprodukční testování se zlepšuje — 13 procent firem nyní důvěřuje automatizovanému hodnocení, oproti 5 procentům o měsíc dříve — monitoring v produkci zaostává.
Z 106 oslovených firem sleduje jen 26 procent kvalitu výstupů AI v reálném čase pomocí automatizovaných kontrol správnosti. Dalších 26 procent se soustředí na transakční záznamy jako spotřebu tokenů, vstupy a výstupy. A 24 procent sleduje pouze infrastrukturní metriky jako latenci, chybovost a náklady.
Problém? Infrastrukturní data dokážou odhalit výpadky a zpomalení. Ale nezachytí odpověď, která je plynulá, rychlá, sebejistá — a špatná. Mezi firmami, které už povolují nasazení AI bez lidského schválení, kontroluje správnost živých odpovědí pouhých 28 procent. Většina firem, které odstranily člověka z rozhodování o nasazení, nezavedla automatický sémantický monitoring jako záchrannou síť.
Jsme svědky velkého úpadku evaluací, jak je známe. Firmy z Fortune 100 čím dál víc redukují testovací sady a přestávají je udržovat. Jak systémy rostou, je nemožné vyjmenovat všechny možné chyby. Místo toho se spoléhají na detekci anomálií před i po nasazení do provozu.
Automatizace s lidskou záchrannou sítí
Data ale ukazují, že firmy problém vidí — a reagují, i když ne vždy intuitivně. Investice do lidských revizních procesů se těsně dostaly na první místo v žebříčku priorit s 31 procenty, těsně před produkční observabilitou s 30 procenty. Automatizované testovací pipeline skončily na třetím místě s 19 procenty.
Mezi spálenými firmami chce 38 procent investovat nejrychleji právě do lidských revizí — oproti 24 procentům u nespálených firem. Vzniká tak zdánlivý paradox: spálené firmy nejagresivněji odstraňují lidi z rozhodování o nasazení a zároveň nejagresivněji investují do lidí jinde v procesu.
Strategie se rýsuje jasně: automatizace s lidskou záchrannou sítí. Nechat AI agenty jednat rychleji, ale přidat revizory, kteří zachytí to, co automatické testy propustí. Otázka ale zní, zda tento model škáluje. Nasazení AI a automatické kontroly rostou s objemem softwaru. Lidské hodiny ne.
Co to znamená pro české firmy
Studie přináší několik praktických poučení pro každého, kdo nasazuje nebo plánuje nasadit AI agenty:
- Předprodukční testy nestačí. Polovina firem zažila situaci, kdy agent prošel testy a pak selhal. Investujte do monitoringu v produkci, ne jen do testování před nasazením.
- Sledujte správnost, ne jen funkčnost. Většina firem sleduje, zda AI funguje. Málokterá sleduje, zda odpovídá správně. To je zásadní rozdíl.
- Nechte AI jednat, ale mějte plán B. Model automatizace s lidskou záchrannou sítí se ukazuje jako rozumný kompromis, ale vyžaduje investice do revizních procesů.
- Nekopírujte slepě velké firmy. To, že firma z Fortune 100 odstraňuje lidský dohled, neznamená, že je to správné pro firmu s 50 zaměstnanci.
- Trh s evaluačními nástroji roste. Braintrust, DeepEval a další specializované platformy nabírají na významu. Zvažte je jako součást svého AI zásobníku.
Červencová data neukazují, že by podnikové hodnocení AI selhávalo všude. Ukazují něco přesnějšího: důvěra v automatické kontroly roste rychleji, než se zlepšují jejich výsledky. To je mezera, která se může kdykoli proměnit v problém — zvlášť pokud vaše firma právě přemýšlí, kolik autonomie svým AI agentům dá.