Gartner: náklady na AI agenty vzrostou pětinásobně. Levnější tokeny vám účet nesníží

Ceny za jednotlivý token padají, ale firemní účty za umělou inteligenci porostou. Gartner předpovídá, že náklady na jeden agentní úkol se do roku 2028 zvednou více než pětinásobně. Vysvětlujeme, proč se to děje, a hlavně co s tím může udělat každá firma už teď.

Pokud sledujete ceníky poskytovatelů umělé inteligence, mohli jste nabýt dojmu, že vám AI bude každým rokem levnější. Cena za jeden token – základní jednotku, kterou modely zpracovávají – skutečně dlouhodobě klesá. Analytická společnost Gartner ale přichází s varováním, které jde proti tomuto intuitivnímu očekávání: firemní účty za umělou inteligenci v příštích letech výrazně porostou. Konkrétně Gartner předpovídá, že náklady na jeden takzvaný agentní úkol se do roku 2028 zvednou více než pětinásobně, a to i přesto, že samotné tokeny budou levnější.

Pro českého podnikatele, který právě zvažuje nebo rozjíždí nasazení AI, je to zásadní signál. Rozpočet, který si dnes nastavíte podle aktuálních cen tokenů, může za rok vypadat úplně jinak. Pojďme si rozebrat, proč se to děje, a hlavně – co s tím můžete udělat ještě dřív, než vám náklady utečou.

Paradox levnějších tokenů

Gartner pro tento jev razí termín „inferenční paradox“. Jeho podstata je jednoduchá: cena za jednotku práce padá, ale množství práce, kterou firmy od AI požadují, roste mnohem rychleji. Will Sommer, senior director analytik Gartneru, to shrnuje jedním obratem – náklady na tokeny podle něj ve skutečnosti neklesají, pouze se „rozevírají“.

Klíčový rozdíl je v tom, co od AI chcete. Dřívější vlna umělé inteligence byla hlavně o chatbotech: položíte otázku, dostanete odpověď, zaplatíte za relativně malý počet tokenů. Nová vlna je ale o agentech – systémech, které samostatně plní složitější úkoly, rozkládají je na kroky, vyhledávají informace, volají nástroje a kontrolují vlastní práci. A to spotřebuje úplně jiné množství výpočetního výkonu.

Podle Sommerova odhadu potřebuje AI agent na stejné zadání 5 až 30násobně více tokenů než obyčejný chatbot. Samotné směrování úkolu na agentní „uvažovací“ model zvedá náklady na inferenci u poskytovatele minimálně pětinásobně oproti základní konverzaci – a s rostoucí složitostí úkolu to bývá mnohem víc.

Proč laboratoře nenechají ceny spadnout

Mohli byste namítnout: dobře, agenti spotřebují víc tokenů, ale když každý token zlevňuje, nemělo by se to časem vyrovnat? Problém je, že vývojáři velkých modelů efektivitu, kterou získají, okamžitě investují zpět do výkonnějších – a dražších – modelů.

Sommer uvádí konkrétní příklad: nejnovější model Fable od společnosti Anthropic stojí za token více než jeho předchůdce Opus. Jinak řečeno, laboratoře berou úspory z optimalizací a přetavují je do nové generace modelů, které vyžadují ještě větší výpočetní výkon. Pro zákazníka to znamená, že horní hranice cen se posouvá nahoru stejně rychle, jako spodní hranice klesá.

K tomu se přidává konkurenční tlak. Firmy nenasazují pokročilé AI úkoly proto, že by chtěly utrácet, ale proto, že nechtějí zaostat za konkurencí. A pokročilejší scénáře znamenají dražší modely a mnohonásobně víc tokenů, než spotřebovávaly starší systémy.

Náklady na tokeny neklesají, ony se rozevírají. Firmy nedokážou optimalizovat to, co nevidí.

Gartner zároveň upozorňuje, že růst nebude lineární, ale proběhne ve vlnách. Na jaře náklady prudce vyskočily, mimo jiné kvůli módě maximalizace spotřeby tokenů, kterou Sommer označuje jako „tokenmaxxing“. Teď přichází fáze utahování opasků. Analytik ale očekává další vlny, jak budou dozrávat uvažovací agenti a takzvané světové modely.

Většina firem nemá brzdu

Nejznepokojivější číslo z Gartneru se netýká budoucnosti, ale současnosti. Z průzkumu provedeného v září mezi 109 respondenty vyplynulo, že 21 procent firem používajících orchestrační platformy pro AI nemá nic, co by automaticky zastavilo utrácení tokenů agenty. Jinými slovy, pětina organizací nechává agenty utrácet bez jakékoli pojistky.

Jen 31 procent firem přitom směruje rutinní, vysokoobjemové úkoly na levnější modely. Většina tedy posílá i triviální dotazy na ty nejdražší špičkové modely – zbytečně platí prémiovou cenu za práci, kterou by zvládl levnější nástroj. Právě tady se skrývá největší prostor pro okamžitou úsporu.

Pět kroků, jak účet udržet pod kontrolou

Gartner nabízí pět konkrétních opatření. Pro menší a střední firmy, které nemají celé finanční oddělení na hlídání AI, je přitom většina z nich dostupná i bez velkých investic:

• Získejte přehled o spotřebě. Zaveďte sledování nákladů na AI (takzvaný AI FinOps). Platí jednoduché pravidlo: co nevidíte, nemůžete optimalizovat. Bez měření netušíte, který úkol nebo která funkce vám požírá rozpočet.
• Přiřaďte každé AI funkci hodnotu. Ke každému nasazení si definujte metriku hodnoty na výsledek – kolik vám daná funkce skutečně přináší. Podceňující scénáře opravte, nebo rovnou vyřaďte.
• Automaticky rozdělujte úkoly podle náročnosti. Rutinní dotazy posílejte na levnější modely a zablokujte výchozí používání nejdražších špičkových modelů na jednoduché úkoly.
• Testujte odolnost rozpočtu. Než schválíte nové nasazení, stanovte si prahy úspěšnosti a prověřte, jak se náklady změní při výkyvu cen tokenů nebo při růstu nákladů na dodržování předpisů.
• Vsaďte na vlastní data. Modely doladěné na vašich firemních datech a zpětnovazebních smyčkách bývají u konkrétních úkolů spolehlivější než obecné špičkové modely – a zpravidla i levnější.

Co si z toho odnést

Hlavní poučení pro české firmy je jasné: neplánujte rozpočet na AI podle ceny tokenu. Ten je sice nejviditelnějším číslem, ale zavádějícím. Skutečným hybatelem nákladů je to, kolik a jakých úkolů necháte agenty vykonávat – a jak dobře to kontrolujete.

Dobrá zpráva je, že řada obranných opatření nestojí prakticky nic. Nasměrovat rutinní dotazy na levnější model, zapnout si přehled o spotřebě a nastavit strop útraty jsou kroky, které zvládne i malá firma během několika dní. Pětina organizací, které podle Gartneru nemají žádnou brzdu, by měla začít právě tady.

Umělá inteligence se nestává dražší náhodou. Stává se dražší proto, že od ní chceme čím dál víc – a to je samo o sobě dobrá zpráva o tom, jak užitečnou se stává. Otázka pro každého podnikatele proto nezní, jestli AI nasadit, ale jak u ní od začátku hlídat návratnost. Firmy, které si tuhle disciplínu osvojí teď, získají náskok ve chvíli, kdy pětinásobný růst nákladů dožene ty, které účet nikdy nehlídaly.