85 % firem spálených chybou AI odstraňuje lidskou kontrolu. A nasazuje ještě víc automatizace

85 % firem spálených chybou AI odstraňuje lidskou kontrolu. A nasazuje ještě víc automatizace

Firmy, které zažily selhání umělé inteligence přímo před zákazníky, nesnižují nasazení AI agentů. Naopak — podle čerstvého průzkumu VentureBeat Intelligence je 85 % z nich na cestě k úplnému odstranění lidského schvalování z procesu nasazení. Paradox, který by měl znepokojit každého podnikatele.

Představte si, že váš nový zaměstnanec projde přijímacím pohovorem na výbornou, ale v prvním týdnu práce pošle zákazníkovi fatálně chybnou nabídku. Co uděláte? Zpřísníte kontrolu, nebo naopak řeknete: „Příště už ho nekontrolujte vůbec“? Přesně to druhé teď dělá většina firem s umělou inteligencí — a data z čerstvého průzkumu VentureBeat Intelligence za červenec 2026 ukazují, jak hluboce iracionální tento trend může být.

Průzkum mezi 108 podniky s více než stem zaměstnanců přinesl znepokojivé zjištění: 49 % firem přiznalo, že jejich AI agent nebo funkce poháněná velkým jazykovým modelem prošla interním testováním, a přesto následně způsobila problém viditelný pro zákazníky. Téměř čtvrtina dotázaných — 24 % — uvedla, že se to stalo opakovaně. A tady začíná paradox.

Čím víc chyb, tím míň kontroly

Logika říká, že firma, která zažila selhání AI v produkci, bude opatrnější. Data říkají pravý opak. Mezi podniky, kde testovaný AI systém zklamal zákazníka, 85 % aktivně směřuje k modelu nasazení bez lidského schválení. Pro srovnání: ve skupině firem, které žádný takový incident nezaznamenaly, je to jen 61 %.

Pouze 11 % spálených firem odmítá plnou automatizaci nasazení AI do budoucna, zatímco u nespálených je to 24 %. Jinými slovy — firmy s přímou zkušeností, že jejich testy nedokážou odhalit chyby, nejvíce urychlují přechod k modelu, kde tyto testy rozhodují o nasazení bez jakéhokoliv lidského dohledu.

https://noviny.ai/api/admin/images/758dbb69-c9e9-427c-9e7e-33de3ba5ceea/data

Průzkum nabízí dvě možná vysvětlení. Tím méně znepokojivým je vyspělost nasazení: organizace, které provozují více AI agentů ve větším objemu a napříč náročnějšími pracovními postupy, mají statisticky vyšší šanci narazit na selhání — a zároveň disponují sofistikovanější infrastrukturou pro automatizované nasazení. Tím znepokojivějším je systémová slepota: firmy zvyšují sebedůvěru v automatické testy rychleji, než se tyto testy reálně zlepšují.

Důvěra roste, ale výsledky stojí na místě

V červenci 2026 uvedlo 13 % podniků, že plně důvěřují automatizovanému hodnocení AI, oproti pouhým 5 % v červnu. Obavy z nedostatečného souladu mezi testy a reálným provozem klesly z 29 % na 19 %. To zní jako pokrok — jenže míra skutečných selhání se prakticky nezměnila: z 50 % v červnu klesla na 49 % v červenci.

Průzkum VentureBeat tento jev označuje jako mezeru v hodnocení (evaluation gap): firmy přiznávají AI agentům stále větší pravomoci rychleji, než jsou schopny vyvinout spolehlivé způsoby jejich ověřování. Klíčové přitom je, co přesně firmy po nasazení monitorují.

U firem, které již nasazují AI bez lidského schválení, je situace ještě horší: pouze 28 % z nich automaticky kontroluje smysl a správnost odpovědí v produkci. Většina podniků, které odstranily člověka z rozhodování o nasazení, dosud neinstalovala automatický systém kontroly kvality jako záchrannou brzdu.

https://noviny.ai/api/admin/images/29996ec0-0f25-4463-8e2f-e763a154b6f8/data

Automatizace s lidskou záchrannou sítí — ale škáluje se to?

Data o rozpočtech odhalují další paradox. Investice do lidských kontrolních procesů se staly nejčastěji zmiňovanou oblastí zvýšených výdajů — 31 % firem je označilo za prioritu, těsně před monitoringem v produkci (30 %). Automatizované testovací pipeline skončily až třetí s 19 %.

U spálených firem je kontrast ještě ostřejší: 38 % z nich plánuje nejrychleji zvýšit investice právě do lidské kontroly, oproti 24 % u nespálených podniků. Výsledná strategie vypadá takto: automatizovat nasazení, ale zároveň přidat víc lidí na kontrolu po nasazení.

Sledujeme velký úpadek evaluací, jak je známe. Fortune 100 stále častěji redukují testovací sady a snižují prioritu jejich údržby. S rostoucí složitostí systémů — MCP, subagenti — je nemožné plně vyjmenovat všechny možnosti selhání. Místo toho se spoléhají na detekci anomálií a problémů, jak před nasazením, tak po něm.

Otázkou je, zda tento model škáluje. Nasazení AI agentů a automatizované testy mohou růst s objemem softwaru. Hodiny lidských kontrolorů ale neklesají stejným tempem. Firmy tak ve skutečnosti neodstraňují lidský dohled — přesouvají ho z brány nasazení do mnohem nákladnějšího procesu následné kontroly.

https://noviny.ai/api/admin/images/3d79c58d-145b-4ee1-8b1f-1ca53a16cf33/data

Co to znamená pro české firmy

Průzkum VentureBeat se sice zaměřuje na americké a mezinárodní podniky, ale jeho závěry platí univerzálně. Pokud vaše firma nasazuje AI agenty — ať už pro zákaznický servis, generování obsahu, analýzu dat nebo automatizaci kódu — měli byste si položit tři otázky:

Trh s nástroji pro hodnocení AI agentů přitom rychle roste. Mezi nejpoužívanější platformy patří OpenAI native evals (18 % podniků jako primární nástroj), DeepEval (17 %) a Braintrust (15 %, s nejvyšším měsíčním nárůstem z 8 %). Nákupní priority se přitom posunuly: 39 % firem teď při výběru upřednostňuje snadnost integrace, zatímco cena klesla z 28 % na 23 %.

Data z července 2026 neukazují, že by testování AI všude selhávalo. Ukazují něco přesnějšího a nebezpečnějšího: důvěra roste rychleji než měřitelné zlepšení. Firmy investují do nových nástrojů, specializované platformy získávají tržní podíl a podniky se zkušeností se selháním zvyšují výdaje na lidskou kontrolu. Trh problém rozpoznal a snaží se ho řešit.

Ale centrální výsledek — že téměř polovina dotázaných firem zažila selhání AI v produkci poté, co systém prošel interními testy — zůstává tvrdošíjně neměnný. A firmy, které mají z první ruky důkaz, že testy mohou selhat, nejrychleji směřují k nasazení bez lidského souhlasu. Průzkum to shrnuje jednou větou: úspěšné projití testem před nasazením je začátek monitoringu, ne jeho konec. Pro většinu podniků ale kontroly kvality v produkci, které by tuto mezeru uzavřely, dosud nejsou na místě.