AI, kterou hostujete sami a je až 100× levnější. Abacus.AI ukázal, jak firmy uniknou z klece cizích modelů

AI, kterou hostujete sami a je až 100× levnější. Abacus.AI ukázal, jak firmy uniknou z klece cizích modelů

Startup Abacus.AI vypustil trojici otevřených AI modelů, které si firma stáhne zdarma, nasadí na vlastní servery a provozuje řádově levněji než ChatGPT či Claude. Pro české podnikatele je to signál, že drahé předplatné frontier modelů přestává být jediná cesta k AI agentům.

Většina firem, které dnes staví AI agenty, platí za každé zavolání modelu někomu jinému — OpenAI, Anthropicu nebo Googlu. Faktura roste s každým dalším procesem, který agent zvládne, a data odcházejí na cizí servery. Americký startup Abacus.AI právě ukázal, že to jde i jinak: vydal tři takzvané open-weight modely, které si firma stáhne zdarma, spustí ve vlastní infrastruktuře a podle výrobce provozuje 10 až 100× levněji než uzavřené frontier modely.

Novinku sledujeme, protože se týká přesně toho místa, kde se dnes rozhoduje o návratnosti investic do AI — nákladů na provoz a kontroly nad daty. Není to další chatbot, ale posun v tom, kdo vlastní mozek, který ve firmě pracuje.

Co Abacus.AI vlastně vydal

Nová řada nese jméno Smaug a skládá se ze tří modelů, z nichž každý cílí na jiný typ nasazení. Nejde přitom o modely postavené od nuly — Abacus.AI vzal už existující silné otevřené modely a doladil je speciálně pro dlouhé, autonomní řetězce úkolů, kterým se v oboru říká agentní smyčky.

https://noviny.ai/api/admin/images/a5092d94-3805-4aab-98b4-e9431fb0dc55/data

Všechny tři modely jsou volně ke stažení na platformě Hugging Face a firma je může provozovat uvnitř vlastního cloudového prostředí (VPC) nebo na privátním GPU klastru. To znamená, že citlivá firemní data z modelu neodcházejí ven — což je pro řadu oborů, od financí po zdravotnictví, zásadní rozdíl.

Proč to není jen technický detail

Klíč celé zprávy neleží v tom, že vznikly další tři modely. Otevřených modelů jsou dnes desítky. Podstatné je, na co Abacus.AI míří: na slabé místo, kvůli kterému firmy dosud sahaly po drahých uzavřených modelech.

Otevřené modely totiž dlouho zaostávaly právě v dlouhých agentních smyčkách — tam, kde agent nemá jen odpovědět na jeden dotaz, ale postupně splnit vícekrokový úkol: prohledat data, zavolat nástroj, vyhodnotit výsledek a pokračovat dál. Přesně na tohle je Smaug doladěný. Podle Abacus.AI přináší jeho technika ladění zlepšení výkonu v agentních smyčkách o 15 až 20 %, aniž by úměrně rostly náklady.

Otevřené modely rychle dotahují náskok uzavřených frontier modelů, ale stále zaostávají v dlouhotrvajících agentních smyčkách. Řada Smaug tento problém řeší.

Čísla z benchmarků tomu odpovídají. Smaug Flash si oproti základnímu modelu polepšil o 14,3 bodu v testu agentního programování LiveBench a o 13,7 bodu v testu automatizace. Smaug Mini vyskočil na testu pracovních úloh JobBench o 17,1 bodu. Nejde tedy o kosmetické vylepšení, ale o měřitelný posun právě v tom typu práce, který firmy od agentů reálně chtějí.

Co to znamená pro vaši firmu

Pro českého podnikatele, který zvažuje nebo už provozuje AI agenty, otevírá tenhle trend tři konkrétní úvahy.

Za prvé, náklady. Pokud vám agenti běží nepřetržitě — vyřizují dotazy, zpracovávají objednávky, hlídají data — platíte za každý token. U uzavřených modelů se to při větším objemu prodraží. Vlastní nasazení otevřeného modelu znamená jednorázovou investici do hardwaru nebo pronájmu GPU, ale provoz už neškáluje s cenou za volání. Rozdíl v řádu desítek násobků, o kterém Abacus.AI mluví, může u firmy s intenzivním provozem rozhodnout o tom, jestli je agent vůbec rentabilní.

https://noviny.ai/api/admin/images/9457d25b-4377-4c82-bc91-ff217d4417df/data

Za druhé, kontrola nad daty. Když model běží ve vašem cloudu, firemní a zákaznická data z něj neodcházejí k poskytovateli. To zjednodušuje soulad s GDPR, snižuje riziko úniku a odpadá závislost na tom, jak s daty naloží někdo jiný. Pro obory, kde je důvěrnost klíčová — advokacie, účetnictví, zdravotnictví — je to často rozhodující argument.

Za třetí, nezávislost. Kdo staví byznys na jednom uzavřeném modelu, je vydaný napospas jeho cenové politice, změnám podmínek i výpadkům. Otevřené modely, které si firma hostuje sama, tuhle závislost lámou. Můžete model doladit na svých datech, upravit ho podle svých potřeb a nikdo vám ho ze dne na den nezdraží ani nevypne.

Háček tu samozřejmě je. Provoz vlastní AI infrastruktury vyžaduje know-how — někoho, kdo modely nasadí, udrží v chodu a pořídí patřičný hardware. Pro malou firmu bez technického týmu je uzavřený model s jednoduchým API pořád nejsnazší start. Smaug ale ukazuje směr, kterým se trh vydává: čím dál silnější otevřené modely, které se blíží špičce, a přitom je lze provozovat pod vlastní střechou.

Praktický takeaway

Nemusíte hned stahovat dvoubilionový model a stavět datové centrum. Ale pokud AI agenty používáte nebo plánujete, vyplatí se položit si dvě otázky: Kolik nás provoz stojí dnes a jak poroste faktura, až agenty nasadíme na plno? A kam odtékají naše data? Právě na tyhle dvě otázky nabízejí otevřené modely typu Smaug jinou odpověď než dosavadní předplatné frontier modelů.