Firmy nasazují AI agenty sedmkrát rychleji, než stíhají hlídat. Gartner varuje před vlnou selhání

Firmy nasazují AI agenty sedmkrát rychleji, než stíhají hlídat. Gartner varuje před vlnou selhání

Podle Gartneru bude mít do konce roku 2026 čtyřicet procent firemních aplikací zabudované AI agenty — proti méně než pěti procentům před rokem. Jenže agenti vstupují do provozu zhruba sedmkrát rychleji, než kolem nich firmy stíhají budovat pravidla. A analytici varují, že řadu z nich to brzy položí.

AI agenti se z laboratorní kuriozity stali standardní výbavou firemního softwaru rychleji, než kdokoli čekal. Podle analytické společnosti Gartner bude do konce roku 2026 obsahovat AI agenty zaměřené na konkrétní úlohy zhruba 40 procent firemních aplikací — oproti méně než pěti procentům ještě před rokem. Problém není v tempu nasazování. Problém je v tom, že správa a dohled nad těmito agenty za nasazováním dramaticky zaostávají.

Sedmkrát rychleji, než firmy stíhají

Gartner odhaduje, že agenti vstupují do produkce zhruba sedmkrát až osmkrát rychleji, než kolem nich organizace budují governance — tedy pravidla, kontroly a dohled. Vzniká tak nebezpečná mezera mezi tím, co agenti ve firmách reálně dělají, a tím, co o jejich činnosti někdo skutečně ví a dokáže ohlídat.

Následky jsou podle analytiků předvídatelné. Gartner předpovídá, že do roku 2027 čtyřicet procent firem sníží pravomoci nebo úplně vyřadí své autonomní AI agenty kvůli mezerám ve správě, které se odhalí až po incidentu v ostrém provozu. Jinými slovy: firmy nasadí agenta, ten způsobí problém, a teprve pak se zjistí, že chyběla základní pravidla.

https://noviny.ai/api/admin/images/a39ec01e-6969-42e6-be28-fb11dabec97d/data

Největší riziko: únik dat

Nejčastěji zmiňovaným rizikem je únik citlivých dat. Autonomní agent, který má přístup k firemním systémům, může nepozorovaně provést akci, kterou nikdo nesledoval, nebo vystavit citlivé informace tam, kam nepatří. Bezpečnostní experti varují před třemi hlavními hrozbami — takzvaným prompt injection, kdy útočník podstrčí agentovi škodlivý pokyn, únikem dat a takzvanými rogue akcemi, tedy nekontrolovaným jednáním agenta.

K tomu se přidává lidský faktor. Riziko úniku dat se dnes projevuje prakticky v každé firmě, kde zaměstnanci vkládají zákaznická data, finanční výkazy nebo smlouvy do volně dostupných veřejných AI nástrojů. Kombinace neopatrných lidí a nedohlédnutých agentů vytváří přesně to prostředí, před kterým Gartner varuje.

Firmy přistupují ke správě agentů binárně — buď je úplně zamknou, nebo jim naprosto důvěřují. A právě to je hlavní příčina selhání.

Zajímavé je, že Gartner varuje i před opačným extrémem. Podle analytika Shivy Varmy vede k selhání i snaha uplatnit na všechny agenty jednotnou, uniformní správu. Agent, který jen třídí e-maily, potřebuje jiná pravidla než agent s přístupem k platebnímu systému. Zamknout všechny stejně přísně zabije užitečnost, důvěřovat všem stejně slepě zabije bezpečnost. Správná cesta vede středem — a vyžaduje promyšlení.

https://noviny.ai/api/admin/images/7daa2104-c804-469a-8dc3-2762b74ea4dc/data

Utrácíme za AI, ale ne za její bezpečnost

Mezera ve správě má i finanční rozměr. Podle Gartneru dnes firmy utrácejí za samotné AI nástroje zhruba sedmnáctkrát víc než za jejich zabezpečení. Peníze tečou do nasazování nových schopností, zatímco dohled, audit a kontrola zůstávají popelkou rozpočtu. Přitom právě tento nepoměr stojí za většinou incidentů — ne proto, že by agenti byli nebezpeční sami o sobě, ale proto, že je nikdo nesleduje. Náprava přitom nebývá drahá: často stačí základní logování, jasné rozdělení pravomocí a jeden člověk, který za dohled odpovídá.

Co to znamená pro vaši firmu

Pro české firmy je varování Gartneru praktickým vodítkem, ne důvodem k odmítnutí agentů. Governance nemusí znamenat těžkopádný proces — v malé firmě může jít o jasně sepsaná pravidla a přehled o tom, co který agent smí. Klíčové je začít dřív, než přijde první incident.

Vlna nasazování AI agentů je nezvratná a pro firmy představuje reálnou příležitost. Rozdíl mezi těmi, které z ní vytěží, a těmi, které na ni doplatí, nebude ve výběru modelu ani dodavatele — ale v tom, zda si k nasazeným agentům včas nastaví dohled. Gartner v podstatě říká jediné: nasazujte agenty, ale ne naslepo. Ta firma, která ví, co její agenti dělají, spí klidně. Ta, která to neví, jen zatím neměla smůlu.