Perplexity spouští lokální AI agenty s nulovými náklady na tokeny. Ve spolupráci s Nvidií

Perplexity představilo Portable Computer — platformu, která přesouvá AI agenty z cloudu přímo na váš počítač. Žádné tokeny, žádné měsíční účty za inference. Stačí grafická karta s 24 GB paměti a všechno běží lokálně. Pro firmy, které spalují tisíce dolarů měsíčně za cloudové AI, to může být zlomový okamžik.

Představte si, že vaši AI agenti pracují celý den — analyzují dokumenty, připravují reporty, prohledávají databáze — a na konci měsíce vám za to nepřijde žádná faktura. Žádné tokeny. Žádné API poplatky. Žádné překvapení v podobě účtu za desítky tisíc dolarů, jako to zažily firmy typu Uber nebo fintech Slash. Přesně tohle slibuje Perplexity se svým novým produktem Portable Computer, který představilo v pondělí ve spolupráci s Nvidií.

Portable Computer je verze Perplexity Computer — agentické platformy pro komplexní pracovní úlohy — která běží celá na hardware, který už vlastníte. Model, vaše soubory, veškerá práce zůstávají na vašem stroji. Počítadlo cloudových kreditů, které se normálně neúnavně točí, je tady trvale na nule.

Konec éry drahých tokenů?

Aby bylo jasno, co to v praxi znamená: chatbot je jednoduchá výměna — otázka, odpověď, hotovo. AI agent je něco zásadně jiného. Agent běží hodiny. Prochází složky dokumentů, ověřuje si vlastní práci, iteruje analýzy, posílá výsledky do firemních systémů. Každý takový krok spotřebovává tokeny — a v cloudu se to rychle sčítá.

Nader, ředitel developerských technologií v Nvidii, to popsal přímo: „U agentů chcete, aby běželi pořád, pokud je to možné. Chcete, aby spotřebovávali co nejvíc tokenů. A právě proto je lokální AI tak skvělá — nikdo vám tokeny neměří, nikdo vám za ně neúčtuje. Pro agenty je to zabijácká kombinace.“

V praxi to vypadá takto: na jedné demo ukázce agent v roli retailového investora prošel složku daňových dokumentů 1099 a investičních výpisů — typ citlivého finančního materiálu, který by většina lidí váhala nahrát do cloudu. Agent běžel na 27miliardovém modelu Qwen při plném vytížení GPU na stolním superpočítači Nvidia DGX Spark. Identifikoval případy, kde investor platil zbytečné poplatky. Počítadlo kreditů? Celou dobu na nule.

Celý AI stack v jedné aplikaci

Dosavadní problém lokální AI byl v tom, že jste museli být skoro systémový inženýr. Stáhnout váhy modelu, postavit inferenční server, napojit nástroje, vyladit výkon. Portable Computer to balí do jednoho celku — lokální modely, agentický harness, inferenční engine, nástroje, konektory k aplikacím a bezpečnostní sandbox. Vše pohromadě, připravené k použití.

„Historicky bylo opravdu bolestivé rozjet lokální AI stack,“ přiznal Nate, viceprezident Perplexity pro infrastrukturu. „S Portable Computer jsme se zaměřili na to, aby to byl jednoduchý zážitek, kde se rozjedete velmi rychle.“

Klíčové je, že Perplexity nepřišlo jen s hotovým balíčkem — firma zároveň publikovala výzkumnou práci, která vysvětluje, proč obecné frameworky pro lokální AI agenty nefungují. Problém: univerzální harnessy předpokládají frontier model, který zvládne obrovské kontexty a spoustu nástrojů najednou. Malé lokální modely pod takovým náporem selhávají.

Perplexity proto vyvinulo minimalistický harness: stručný systémový prompt, malá sada základních nástrojů a schopnosti, které se načítají a odebírají jako dovednosti na vyžádání — místo aby trvale zabíraly kontextové okno. Populární konektory jako Gmail a GitHub přeměnili z tokenově náročných MCP serverů na kompaktní příkazové řádky.

Čísla, která mluví za sebe

Výsledky, které Perplexity prezentuje, jsou pozoruhodné — i když pocházejí z firemních vlastních benchmarků. Na interním testu Local Knowledge Work Bench (53 úloh zahrnujících hloubkový výzkum, finanční analýzu a tvorbu dokumentů) dosáhl Portable Computer s modelem Qwen 3.8 27B skóre 82,6 %. Konkurenční open-source harness Pi dosáhl 77,6 % a Hermes 74,0 % — se stejným modelem.

U těžších úloh se propast rozšiřuje dramaticky. Na benchmarku BrowseComp (webový výzkum) dosáhl Portable Computer přesnosti 66,7 % oproti 50,2 % u Pi a 43,9 % u Hermes. Přitom spotřeboval o 51 % méně času a o 70 % méně tokenů než Pi.

Vlastní post-trénovaný model PPLX 27B posunul skóre na 85,4 %. Na multimodálním porozumění dokumentům dosáhl Portable Computer 65,1 % oproti 34,6 % u Hermes a pouhých 13,9 % u Pi.

Hybridní režim: to nejlepší z obou světů

Portable Computer ale neznamená úplné odpojení od cloudu. Systém nabízí hybridní režim, který je možná komerčně nejzajímavějším aspektem celého produktu. Na náročném kódovacím benchmarku Terminal Bench 2.1 dosáhl plně lokální model Qwen skóre 59,6 % — při v podstatě nulových nákladech.

Když mu systém dovolil eskalovat k cloudovému modelu Claude Opus 5 jako poradci, skóre vzrostlo na 73,0 % za odhadovaných 0,415 dolaru na úlohu. Spuštění frontier modelu samotného přineslo 82,4 % za 0,65 dolaru na úlohu. Eskalace tedy pokryla zhruba tři pětiny rozdílu k frontier výkonu za dvě třetiny ceny.

Důležitý detail: před každým odesláním dat do cloudu harness spustí klasifikátor osobních údajů a ukáže uživateli přesně, co opustí jeho zařízení. Vzdálený model vrací pouze textové pokyny — nikdy se nedotýká lokálních souborů ani nástrojů. Rozhodnutí, kdy je tento kompromis za to, zůstává vždy na uživateli.

Lokální AI dosáhla bodu zlomu. Dlouho to byli nadšenci a hobbyisté, kteří pouštěli kvantizované modely zmenšené na minimum. To bylo zajímavé, ale nepraktické. Vše se změnilo s novými open-source modely, které jsou opravdu užitečné. — Nader, ředitel developerských technologií v Nvidii

Co to znamená pro váš byznys

Pro českého podnikatele, který zvažuje nasazení AI agentů, přináší Portable Computer tři zásadní poselství.

• Náklady na AI tokeny nemusí být nevyhnutelné. Pokud vaši agenti zpracovávají interní dokumenty, analyzují data nebo připravují reporty, velkou část této práce může zvládnout lokální model zcela zdarma. Cloudové modely nasadíte pouze tam, kde lokální kapacita nestačí.
• Soukromí dat není kompromis, ale výchozí stav. Citlivé finanční dokumenty, smlouvy, interní komunikace — nic z toho nemusí opustit vaši síť. V době zpřísňující se regulace (GDPR, AI Act) je to argument, kterému rozumí každý compliance officer.
• Vstupní bariéra dramaticky klesla. Portable Computer běží na jakékoliv grafické kartě Nvidia RTX s alespoň 24 GB VRAM — tedy zhruba od GeForce RTX 3090 výše. To je hardware, který si můžete koupit za cenu jednoho měsíčního účtu za cloudové API tokeny u větší firmy.

Portable Computer je k dispozici od dnešního dne pro předplatitele Perplexity Pro, Max, Enterprise Pro a Enterprise Max na Linuxu. Podpora Windows přijde v září. Na spuštění jsou připraveny modely Qwen 3.8 27B a PPLX 27B, brzy se přidá i Nvidia Nemotron 3.5 Lightning.

Trend je jasný: AI přestává být jen cloudová služba s nekonečně rostoucím účtem. Stává se infrastrukturou, kterou vlastníte a provozujete na svém hardware. A první velký hráč právě ukázal, jak na to.