85 % firem spálených chybou AI odstraňuje lidskou kontrolu. A nasazuje ještě víc automatizace
Firmy, které zažily selhání umělé inteligence přímo před zákazníky, nesnižují nasazení AI agentů. Naopak — podle čerstvého průzkumu VentureBeat Intelligence je 85 % z nich na cestě k úplnému odstranění lidského schvalování z procesu nasazení. Paradox, který by měl znepokojit každého podnikatele.
Představte si, že váš nový zaměstnanec projde přijímacím pohovorem na výbornou, ale v prvním týdnu práce pošle zákazníkovi fatálně chybnou nabídku. Co uděláte? Zpřísníte kontrolu, nebo naopak řeknete: „Příště už ho nekontrolujte vůbec“? Přesně to druhé teď dělá většina firem s umělou inteligencí — a data z čerstvého průzkumu VentureBeat Intelligence za červenec 2026 ukazují, jak hluboce iracionální tento trend může být.
Průzkum mezi 108 podniky s více než stem zaměstnanců přinesl znepokojivé zjištění: 49 % firem přiznalo, že jejich AI agent nebo funkce poháněná velkým jazykovým modelem prošla interním testováním, a přesto následně způsobila problém viditelný pro zákazníky. Téměř čtvrtina dotázaných — 24 % — uvedla, že se to stalo opakovaně. A tady začíná paradox.
Čím víc chyb, tím míň kontroly
Logika říká, že firma, která zažila selhání AI v produkci, bude opatrnější. Data říkají pravý opak. Mezi podniky, kde testovaný AI systém zklamal zákazníka, 85 % aktivně směřuje k modelu nasazení bez lidského schválení. Pro srovnání: ve skupině firem, které žádný takový incident nezaznamenaly, je to jen 61 %.
Pouze 11 % spálených firem odmítá plnou automatizaci nasazení AI do budoucna, zatímco u nespálených je to 24 %. Jinými slovy — firmy s přímou zkušeností, že jejich testy nedokážou odhalit chyby, nejvíce urychlují přechod k modelu, kde tyto testy rozhodují o nasazení bez jakéhokoliv lidského dohledu.
Průzkum nabízí dvě možná vysvětlení. Tím méně znepokojivým je vyspělost nasazení: organizace, které provozují více AI agentů ve větším objemu a napříč náročnějšími pracovními postupy, mají statisticky vyšší šanci narazit na selhání — a zároveň disponují sofistikovanější infrastrukturou pro automatizované nasazení. Tím znepokojivějším je systémová slepota: firmy zvyšují sebedůvěru v automatické testy rychleji, než se tyto testy reálně zlepšují.
Důvěra roste, ale výsledky stojí na místě
V červenci 2026 uvedlo 13 % podniků, že plně důvěřují automatizovanému hodnocení AI, oproti pouhým 5 % v červnu. Obavy z nedostatečného souladu mezi testy a reálným provozem klesly z 29 % na 19 %. To zní jako pokrok — jenže míra skutečných selhání se prakticky nezměnila: z 50 % v červnu klesla na 49 % v červenci.
Průzkum VentureBeat tento jev označuje jako mezeru v hodnocení (evaluation gap): firmy přiznávají AI agentům stále větší pravomoci rychleji, než jsou schopny vyvinout spolehlivé způsoby jejich ověřování. Klíčové přitom je, co přesně firmy po nasazení monitorují.
- 26 % firem sleduje kvalitu odpovědí AI v reálném čase pomocí automatických kontrol
- 26 % se zaměřuje na transakční záznamy — spotřebu tokenů, vstupy a výstupy
- 24 % monitoruje pouze infrastrukturní metriky — latenci, chybovost a náklady
- Polovina firem tedy sleduje, zda AI systém funguje, ale ne zda odpovídá správně
U firem, které již nasazují AI bez lidského schválení, je situace ještě horší: pouze 28 % z nich automaticky kontroluje smysl a správnost odpovědí v produkci. Většina podniků, které odstranily člověka z rozhodování o nasazení, dosud neinstalovala automatický systém kontroly kvality jako záchrannou brzdu.
Automatizace s lidskou záchrannou sítí — ale škáluje se to?
Data o rozpočtech odhalují další paradox. Investice do lidských kontrolních procesů se staly nejčastěji zmiňovanou oblastí zvýšených výdajů — 31 % firem je označilo za prioritu, těsně před monitoringem v produkci (30 %). Automatizované testovací pipeline skončily až třetí s 19 %.
U spálených firem je kontrast ještě ostřejší: 38 % z nich plánuje nejrychleji zvýšit investice právě do lidské kontroly, oproti 24 % u nespálených podniků. Výsledná strategie vypadá takto: automatizovat nasazení, ale zároveň přidat víc lidí na kontrolu po nasazení.
Sledujeme velký úpadek evaluací, jak je známe. Fortune 100 stále častěji redukují testovací sady a snižují prioritu jejich údržby. S rostoucí složitostí systémů — MCP, subagenti — je nemožné plně vyjmenovat všechny možnosti selhání. Místo toho se spoléhají na detekci anomálií a problémů, jak před nasazením, tak po něm.
Otázkou je, zda tento model škáluje. Nasazení AI agentů a automatizované testy mohou růst s objemem softwaru. Hodiny lidských kontrolorů ale neklesají stejným tempem. Firmy tak ve skutečnosti neodstraňují lidský dohled — přesouvají ho z brány nasazení do mnohem nákladnějšího procesu následné kontroly.
Co to znamená pro české firmy
Průzkum VentureBeat se sice zaměřuje na americké a mezinárodní podniky, ale jeho závěry platí univerzálně. Pokud vaše firma nasazuje AI agenty — ať už pro zákaznický servis, generování obsahu, analýzu dat nebo automatizaci kódu — měli byste si položit tři otázky:
- Sledujete kvalitu, nebo jen funkčnost? Monitoring latence a chybovosti nestačí. Potřebujete automatickou kontrolu, zda AI odpovídá správně — nejen zda odpovídá vůbec.
- Máte plán pro případ selhání v produkci? Téměř polovina firem v průzkumu zažila situaci, kdy AI prošla testy a přesto zklamala zákazníka. Pokud nemáte postup pro rychlou detekci a nápravu, riskujete reputační škodu.
- Nenahrazujete levnou prevenci drahou léčbou? Odstranit člověka z brány nasazení je lákavé — ale přidat ho zpět jako kontrolora po nasazení může být výrazně nákladnější a méně efektivní.
Trh s nástroji pro hodnocení AI agentů přitom rychle roste. Mezi nejpoužívanější platformy patří OpenAI native evals (18 % podniků jako primární nástroj), DeepEval (17 %) a Braintrust (15 %, s nejvyšším měsíčním nárůstem z 8 %). Nákupní priority se přitom posunuly: 39 % firem teď při výběru upřednostňuje snadnost integrace, zatímco cena klesla z 28 % na 23 %.
Data z července 2026 neukazují, že by testování AI všude selhávalo. Ukazují něco přesnějšího a nebezpečnějšího: důvěra roste rychleji než měřitelné zlepšení. Firmy investují do nových nástrojů, specializované platformy získávají tržní podíl a podniky se zkušeností se selháním zvyšují výdaje na lidskou kontrolu. Trh problém rozpoznal a snaží se ho řešit.
Ale centrální výsledek — že téměř polovina dotázaných firem zažila selhání AI v produkci poté, co systém prošel interními testy — zůstává tvrdošíjně neměnný. A firmy, které mají z první ruky důkaz, že testy mohou selhat, nejrychleji směřují k nasazení bez lidského souhlasu. Průzkum to shrnuje jednou větou: úspěšné projití testem před nasazením je začátek monitoringu, ne jeho konec. Pro většinu podniků ale kontroly kvality v produkci, které by tuto mezeru uzavřely, dosud nejsou na místě.