Alibaba vyvinula SkillWeaver: AI agenti ušetří 99 % tokenů a konečně se vyznají ve svých nástrojích

Alibaba vyvinula SkillWeaver: AI agenti ušetří 99 % tokenů a konečně se vyznají ve svých nástrojích

Výzkumníci z Alibaby představili framework SkillWeaver, který řeší jeden z největších problémů podnikových AI agentů — chaotické vybírání nástrojů. Místo toho, aby agent dostal seznam stovek nástrojů najednou, SkillWeaver úlohu rozloží na kroky a ke každému přiřadí ten správný nástroj. Výsledek? O 99,9 % méně spotřebovaných tokenů a výrazně přesnější práce.

Pokud dnes provozujete AI agenta v podnikovém prostředí, pravděpodobně znáte tenhle problém: agent má k dispozici desítky až stovky nástrojů, ale když má vybrat ten správný pro konkrétní úkol, tápá. Výsledkem jsou vysoké náklady na tokeny, pomalé odpovědi a nepřesné výstupy. Výzkumníci z Alibaby právě představili řešení, které tuhle situaci mění od základů.

Framework s názvem SkillWeaver dokáže snížit spotřebu tokenů AI agenta o 99,9 % — z téměř 884 000 tokenů na pouhých 1 160 na dotaz. A přitom dosahuje výrazně vyšší přesnosti než dosavadní přístupy. Pro firmy, které AI agenty nasazují v produkci, to může znamenat řádový pokles provozních nákladů.

Proč mají AI agenti problém s výběrem nástrojů

Moderní podnikoví AI agenti pracují s rozsáhlými knihovnami nástrojů. Představte si agenta, který má k dispozici 2 209 různých nástrojů — od API klientů přes databázové konektory až po vizualizační nástroje. Dosavadní přístup byl jednoduchý: celý seznam nástrojů se nacpal do kontextového okna jazykového modelu a ten si měl vybrat.

Problém je, že tohle nefunguje. Velké jazykové modely se v záplavě nástrojů ztrácejí. V testech výzkumníků z Alibaby dokázal i ten největší model správně vybrat kategorii nástroje jen ve 21,1 % případů, když dostal celý katalog najednou. A spotřeboval při tom skoro milion tokenů na jediný dotaz.

https://noviny.ai/api/admin/images/1a25e4b2-1b23-4824-a3ef-9058c116b3ab/data

Pro firmy to znamenalo dvojí problém: vysoké náklady na API volání a nespolehlivé výsledky. Agent, který měl automatizovat složitý pracovní postup — třeba stažení datasetu, jeho transformaci a vytvoření vizuální zprávy — často selhal už při výběru prvního nástroje.

Jak SkillWeaver řeší problém ve třech krocích

SkillWeaver přistupuje k problému zásadně jinak. Místo toho, aby agentovi hodil celou knihovnu nástrojů, rozdělí úlohu na tři fáze: rozložení (Decompose), vyhledání (Retrieve) a sestavení (Compose).

V první fázi jazykový model rozloží složitý požadavek uživatele na sekvenci jednoduchých kroků. Každý krok vyžaduje právě jeden nástroj. Ve druhé fázi systém pomocí embeddingového modelu porovná popis každého kroku s knihovnou nástrojů a vytáhne krátký seznam kandidátů. Ve třetí fázi plánovač vyhodnotí kompatibilitu vybraných nástrojů — zkontroluje, jestli výstup jednoho nástroje může být vstupem dalšího — a vytvoří konečný plán jako řízený acyklický graf.

Klíčovou inovací je technika nazvaná Skill-Aware Decomposition (SAD). Jde o zpětnou vazbu: model nejdřív navrhne hrubý plán, systém k němu najde přibližně odpovídající nástroje, a ty pak vrátí modelu jako nápovědu. Model díky tomu přepíše svůj plán tak, aby přesně odpovídal skutečně dostupným nástrojům. Bez této zpětné vazby model často popisoval kroky příliš obecně a systém pak nenašel správný nástroj.

Čísla, která mluví za vše

Výzkumníci otestovali SkillWeaver na vlastním benchmarku CompSkillBench, který obsahuje 300 vícekrokových dotazů různé obtížnosti a knihovnu 2 209 reálných nástrojů z ekosystému MCP pokrývajících 24 funkčních kategorií.

https://noviny.ai/api/admin/images/d5d05cf9-f241-4fe0-bf54-e3973028373f/data

Zajímavé je, že větší model může bez vedení fungovat hůř než menší. Čtrnáctimiliardový model bez SAD zpětné vazby dosáhl nižší přesnosti než sedmimiliardový, protože měl tendenci úlohy rozložit na příliš mnoho zbytečně drobných kroků. Teprve když dostal nápovědu v podobě reálných nástrojů, jeho přesnost výrazně vzrostla.

Sladění agenta s konkrétním slovníkem dostupných nástrojů je často důležitější než investice do většího a dražšího jazykového modelu. — Výzkumný tým Alibaba, arXiv 2606.18051

Co to znamená pro vaši firmu

Pokud ve firmě nasazujete nebo plánujete nasadit AI agenty, SkillWeaver přináší několik praktických poznatků. Zaprvé, náklady na tokeny nejsou nevyhnutelné. Dosavadní přístup — dej agentovi všechno a on si poradí — je nejen drahý, ale i méně přesný. Chytřejší směrování nástrojů dokáže snížit provozní náklady o dva řády.

Zadruhé, nemusíte platit za největší model. Sedmimiliardový model s dobře nastaveným směrováním překonal mnohem větší model, který dostal celou knihovnu nástrojů. To je důležité pro firmy, které chtějí AI agenty provozovat i na vlastní infrastruktuře místo drahých cloudových API.

Zatřetí, implementace není složitá. SkillWeaver využívá běžně dostupné open-source komponenty — embeddingový model all-MiniLM-L6-v2 a vektorový index FAISS. Klíčovou inovaci SAD lze implementovat jako prompt-engineering smyčku pomocí standardních knihoven jako LangChain nebo LlamaIndex. Autoři navíc sdílejí šablony promptů ve svém článku na arXiv.

Framework má i svá omezení. Chybí mu mechanismus obnovy po chybách — pokud API volání v druhém kroku selže, celý řetězec se zastaví. Pro produkční nasazení je proto nutné doplnit vlastní logiku opakování a záložních postupů. Zdrojový kód zatím nebyl zveřejněn, ale všechny komponenty jsou reprodukovatelné z veřejně dostupných nástrojů.

V době, kdy firmy přecházejí od experimentů s AI k reálnému nasazení, je SkillWeaver důkazem, že chytřejší architektura poráží hrubou sílu. Místo nekonečného škálování kontextových oken a platby za miliony tokenů stačí naučit agenta, jak si správně vybrat nástroj. A to je lekce, která platí daleko za hranice jednoho frameworku.