Perplexity a Nvidia spouští lokálního AI agenta s nulovými náklady na tokeny

Firmy po celém světě spalují miliony dolarů za AI tokeny. Perplexity ve spolupráci s Nvidií nabízí řešení: plnohodnotný AI agent běžící celý na vašem počítači s nulovými náklady na tokeny.

Firmy po celém světě spalují miliony dolarů za AI tokeny. Uber vyčerpal roční rozpočet za čtyři měsíce, zaměstnanec fintechu spálil 81 tisíc dolarů za jediný týden a Gartner varuje, že náklady na AI kódování brzy přesáhnou plat průměrného vývojáře. A teď přichází řešení, které tuto rovnici obrací vzhůru nohama: Perplexity ve spolupráci s Nvidií spustilo Portable Computer — plnohodnotného AI agenta, který běží celý na vašem počítači. Účet za tokeny? Přesně nula.

Celý AI agent v jedné aplikaci, bez cloudu

Portable Computer není jen další chatbot stažený do počítače. Je to kompletní agentní platforma — stejná, jakou Perplexity provozuje v cloudu pod názvem Computer — zabalená do jediné lokální aplikace. Obsahuje AI model, inferenční engine, nástroje pro práci se soubory, konektory k aplikacím jako Gmail, Google Drive, GitHub nebo Slack a bezpečnostní sandbox. Vše běží přímo na vašem hardware.

Při spuštění systém používá 27miliardový model Qwen 3.8 optimalizovaný přímo pro agentní úlohy. Perplexity navíc nabízí vlastní variantu PPLX 27B, kterou dotrénovalo na svém agentním frameworku. V blízké době přibude i Nvidia Nemotron 3.5 Lightning. Každý úkol začíná na lokálním zařízení a teprve když lokální model narazí na své limity, systém požádá uživatele o svolení odeslat konkrétní krok do cloudového modelu.

"Historicky bylo nesmírně bolestivé zprovoznit lokální AI stack," řekl Nate, viceprezident Perplexity pro infrastrukturu a enterprise. "S Portable Computer jsme se zaměřili na to, aby to byla skutečně jednoduchá zkušenost, kdy se rozjedete velmi rychle." A přesně v tom spočívá hlavní rozdíl oproti existujícím řešením jako Ollama nebo vLLM — ty vyřeší inferenci, ale uživatel si musí sám stáhnout modely, propojit nástroje, nastavit orchestraci a vyladit výkon. Portable Computer tohle všechno dodává jako hotový balíček.

Ekonomika tokenů: proč lokální AI mění pravidla hry

Chatbot je jednoduchý — otázka, odpověď, hotovo. AI agent je něco úplně jiného. Pracuje hodiny, prochází desítky dokumentů, ověřuje vlastní výstupy, iteruje analýzy. A každý tento krok spotřebuje tokeny. V cloudu to znamená narůstající účet. Na vlastním počítači je marginální náklad za token prakticky nulový.

"S agenty chcete, aby byli neustále aktivní. Chcete, aby spotřebovali co nejvíce tokenů," vysvětlil Nader, ředitel developerských technologií v Nvidii. "Vidíme nenasytnou poptávku po tokenech, a právě proto je lokální AI tak skvělá. Jak jste viděli v ukázkách — nebyli jste měřeni tokenem. Neplatili jste za token. Pro agenty je to naprosto přelomové."

Čísla z benchmarků Perplexity tento argument podtrhují. Na náročném kódovacím benchmarku Terminal Bench 2.1 dosáhl plně lokální model Qwen skóre 59,6 % při nulových marginálních nákladech. Když mu systém dovolil eskalovat na cloudový model Claude Opus 5 jako poradce, skóre vyskočilo na 73 % za cenu pouhých 0,415 dolaru na úlohu. Samotný cloudový model dosáhl 82,4 % za 0,65 dolaru na úlohu. Jinými slovy — hybridní režim získá zpět tři pětiny výkonnostní mezery za dvě třetiny ceny.

Citlivá data nikdy neopustí váš počítač

Druhý klíčový argument pro lokální AI je soukromí dat. V jedné z ukázek systém fungoval jako finanční analytik procházející složku s daňovými přiznáními a investičními dokumenty — typ citlivých materiálů, které by většina uživatelů váhala nahrát do cloudové služby. Agent běžel na plný výkon grafické karty, analyzoval každý dokument a upozorňoval na případy, kde investora stály zbytečné poplatky. Ukazatel cloudových kreditů přitom zůstal zaparkovaný na nule, protože veškeré zpracování probíhalo na zařízení.

Před každým případným voláním do cloudu systém navíc spustí klasifikátor osobních údajů a uživateli přesně ukáže, co by opustilo jeho zařízení. Vzdálený model vrací pouze textové doporučení — nikdy se nedotkne lokálních souborů ani nástrojů. A pokud bezpečnostní sandbox není k dispozici, celý agentní systém se raději sám vypne, než aby spouštěl nástroje bez ochrany. To je zásadní rozdíl oproti open-source frameworkům, které standardně spouštějí příkazy s plnými oprávněními uživatele.

Lokální AI dosáhla bodu zlomu. Dlouho to byli nadšenci a hobíci, kteří spouštěli kvantizované modely zmenšené na minimum. To je fajn, ale není to praktické. Všechno se ale změnilo s novými open-source modely, které jsou skutečně užitečné. — Nader, ředitel developerských technologií v Nvidii

Kdo to může využít a co potřebujete

Portable Computer je dostupný od včerejška pro předplatitele Perplexity Pro, Max, Enterprise Pro a Enterprise Max na Linuxu. Podpora pro Windows přijde v září. Hardwarový požadavek je grafická karta s alespoň 24 GB VRAM — to odpovídá přibližně GeForce RTX 3090 nebo novější. Prémiová varianta běží na Nvidia DGX Spark, desktopovém superpočítači navrženém přímo pro lokální AI.

Pro české podnikatele to znamená zásadní posun. Dosud byla volba jednoduchá: buď platíte za cloudové API a riskujete, že vaše citlivá data projdou servery v USA, nebo investujete týdny do sestavování vlastního lokálního AI stacku. Portable Computer nabízí třetí cestu — hotové řešení z krabice, které běží na hardware, který možná už máte ve firmě.

Praktický závěr pro firmy

Spuštění Portable Computer signalizuje, že lokální AI přechází z kategorie experiment pro nadšence do kategorie praktický nástroj pro firmy. A je to logické — když agenti pracují hodiny, procházejí stovky dokumentů a iterují analýzy, cloudové náklady rostou exponenciálně. Lokální provoz tyto náklady eliminuje.

• Pokud vaše firma už investovala do výkonného hardware s Nvidia GPU, můžete začít provozovat AI agenty s nulovými marginálními náklady na tokeny.
• Citlivá data — finanční dokumenty, smlouvy, interní analýzy — zůstanou na vašem počítači. Žádné odesílání do cloudu.
• Hybridní režim umožňuje kombinovat lokální a cloudové zpracování podle potřeby. Vy rozhodujete, kdy se vyplatí zaplatit za výkon cloudu.
• Hardwarový požadavek (RTX 3090+) je reálný — tuto kartu má řada firem zabývajících se vývojem, designem nebo analýzou dat.
• Sledujte i alternativy: Ollama, vLLM a další open-source nástroje nabízejí podobnou funkcionalitu, ale vyžadují více technické práce na nastavení.

Perplexity odhaduje, že s rostoucím počtem AI agentů ve firmách se budou náklady na tokeny a pohyb dat stále obtížněji řídit. Lokální provoz řeší obojí naráz — náklady, protože inference je zdarma, a soukromí, protože citlivé tokeny nikdy neopustí hranici zařízení. Pro české podnikatele, kteří řeší GDPR a rostoucí účty za AI služby, je to argument, který stojí za pozornost.