Firmy nasazují AI agenty sedmkrát rychleji, než stíhají hlídat. Gartner varuje před vlnou selhání
Podle Gartneru bude mít do konce roku 2026 čtyřicet procent firemních aplikací zabudované AI agenty — proti méně než pěti procentům před rokem. Jenže agenti vstupují do provozu zhruba sedmkrát rychleji, než kolem nich firmy stíhají budovat pravidla. A analytici varují, že řadu z nich to brzy položí.
AI agenti se z laboratorní kuriozity stali standardní výbavou firemního softwaru rychleji, než kdokoli čekal. Podle analytické společnosti Gartner bude do konce roku 2026 obsahovat AI agenty zaměřené na konkrétní úlohy zhruba 40 procent firemních aplikací — oproti méně než pěti procentům ještě před rokem. Problém není v tempu nasazování. Problém je v tom, že správa a dohled nad těmito agenty za nasazováním dramaticky zaostávají.
Sedmkrát rychleji, než firmy stíhají
Gartner odhaduje, že agenti vstupují do produkce zhruba sedmkrát až osmkrát rychleji, než kolem nich organizace budují governance — tedy pravidla, kontroly a dohled. Vzniká tak nebezpečná mezera mezi tím, co agenti ve firmách reálně dělají, a tím, co o jejich činnosti někdo skutečně ví a dokáže ohlídat.
Následky jsou podle analytiků předvídatelné. Gartner předpovídá, že do roku 2027 čtyřicet procent firem sníží pravomoci nebo úplně vyřadí své autonomní AI agenty kvůli mezerám ve správě, které se odhalí až po incidentu v ostrém provozu. Jinými slovy: firmy nasadí agenta, ten způsobí problém, a teprve pak se zjistí, že chyběla základní pravidla.
Největší riziko: únik dat
Nejčastěji zmiňovaným rizikem je únik citlivých dat. Autonomní agent, který má přístup k firemním systémům, může nepozorovaně provést akci, kterou nikdo nesledoval, nebo vystavit citlivé informace tam, kam nepatří. Bezpečnostní experti varují před třemi hlavními hrozbami — takzvaným prompt injection, kdy útočník podstrčí agentovi škodlivý pokyn, únikem dat a takzvanými rogue akcemi, tedy nekontrolovaným jednáním agenta.
K tomu se přidává lidský faktor. Riziko úniku dat se dnes projevuje prakticky v každé firmě, kde zaměstnanci vkládají zákaznická data, finanční výkazy nebo smlouvy do volně dostupných veřejných AI nástrojů. Kombinace neopatrných lidí a nedohlédnutých agentů vytváří přesně to prostředí, před kterým Gartner varuje.
Firmy přistupují ke správě agentů binárně — buď je úplně zamknou, nebo jim naprosto důvěřují. A právě to je hlavní příčina selhání.
Zajímavé je, že Gartner varuje i před opačným extrémem. Podle analytika Shivy Varmy vede k selhání i snaha uplatnit na všechny agenty jednotnou, uniformní správu. Agent, který jen třídí e-maily, potřebuje jiná pravidla než agent s přístupem k platebnímu systému. Zamknout všechny stejně přísně zabije užitečnost, důvěřovat všem stejně slepě zabije bezpečnost. Správná cesta vede středem — a vyžaduje promyšlení.
Utrácíme za AI, ale ne za její bezpečnost
Mezera ve správě má i finanční rozměr. Podle Gartneru dnes firmy utrácejí za samotné AI nástroje zhruba sedmnáctkrát víc než za jejich zabezpečení. Peníze tečou do nasazování nových schopností, zatímco dohled, audit a kontrola zůstávají popelkou rozpočtu. Přitom právě tento nepoměr stojí za většinou incidentů — ne proto, že by agenti byli nebezpeční sami o sobě, ale proto, že je nikdo nesleduje. Náprava přitom nebývá drahá: často stačí základní logování, jasné rozdělení pravomocí a jeden člověk, který za dohled odpovídá.
Co to znamená pro vaši firmu
Pro české firmy je varování Gartneru praktickým vodítkem, ne důvodem k odmítnutí agentů. Governance nemusí znamenat těžkopádný proces — v malé firmě může jít o jasně sepsaná pravidla a přehled o tom, co který agent smí. Klíčové je začít dřív, než přijde první incident.
- Udělejte si inventuru agentů. Víte přesně, kolik AI agentů ve firmě běží, k čemu mají přístup a kdo je za ně odpovědný? Bez tohoto přehledu nelze nic ohlídat.
- Odstupňujte pravidla podle rizika. Agent s přístupem k penězům nebo osobním údajům potřebuje přísnější dohled než ten, který jen sumarizuje interní dokumenty. Jednotná pravidla pro všechny jsou past.
- Logujte, co agenti dělají. Bez záznamu o akcích agenta nepoznáte, co se pokazilo, dokud nebude pozdě. Auditní stopa je základ, ne luxus.
- Poučte zaměstnance o veřejných nástrojích. Zakázat vkládání citlivých dat do volných AI služeb je jednodušší a levnější než řešit únik. Jasná politika ušetří spoustu problémů.
- Počítejte s tím, že něco selže. Mějte plán, jak agenta rychle vypnout nebo omezit, když se začne chovat nečekaně. Schopnost zasáhnout je důležitější než víra, že se nic nestane.
Vlna nasazování AI agentů je nezvratná a pro firmy představuje reálnou příležitost. Rozdíl mezi těmi, které z ní vytěží, a těmi, které na ni doplatí, nebude ve výběru modelu ani dodavatele — ale v tom, zda si k nasazeným agentům včas nastaví dohled. Gartner v podstatě říká jediné: nasazujte agenty, ale ne naslepo. Ta firma, která ví, co její agenti dělají, spí klidně. Ta, která to neví, jen zatím neměla smůlu.