Google otevřel dveře od AI hardwaru. Jedním řádkem kódu a bez Nvidie

Nový open source nástroj TorchTPU umožňuje spouštět modely umělé inteligence na Googlových čipech bez drahého přepisování kódu. Pro firmy to může znamenat konec závislosti na jediném dodavateli — a nižší účty za AI.

Google právě otevřel jednu z posledních dveří, které držely vývojáře umělé inteligence pevně v náručí jediného dodavatele hardwaru. Nový nástroj TorchTPU umožňuje spouštět modely napsané v PyTorchi přímo na čipech TPU od Googlu — a to prý se změnou jediného řádku kódu. Pro firmy, které platí účty za trénování a provoz AI, to může znamenat konec drahé závislosti na jednom výrobci.

Oznámení padlo 20. října na konferenci PyTorch Conference 2026 a během následujících hodin se stalo jednou z nejdiskutovanějších technologických zpráv týdne. Důvod je prostý: drtivá většina dnešní AI běží na grafických kartách Nvidie, a to díky softwarové vrstvě CUDA, kterou Nvidia desetiletí budovala jako nepřekonatelný příkop okolo svého byznysu. TorchTPU tenhle příkop nezasypává, ale staví přes něj první použitelný most.

Proč je závislost na jednom hardwaru problém pro váš rozpočet

Pokud vaše firma — nebo dodavatel vašeho softwaru — provozuje jakýkoliv model umělé inteligence, téměř jistě za tím stojí čipy Nvidie. Ne proto, že by neexistovala alternativa, ale proto, že přepsat celý software na jiný hardware bylo dosud tak náročné, že se to většině týmů nevyplatilo. Tomuhle stavu se v oboru říká vendor lock-in — uzamčení u jednoho dodavatele.

Výsledek znáte z každé faktury za cloud: když má dodavatel jistotu, že jinam stejně neodejdete, nemá velký důvod tlačit ceny dolů. Poptávka po výpočetním výkonu pro AI přitom poslední dva roky výrazně předbíhá nabídku, takže ceny grafických karet a jejich pronájmu v cloudu zůstávají vysoké. Pro menší a střední firmy, které chtějí AI nasadit do produktu, je právě tohle často největší položka v rozpočtu.

Kořeny téhle závislosti sahají hluboko. Nvidia neprodává jen čipy — prodává celý ekosystém. Jeho srdcem je už téměř dvacet let software CUDA, sada nástrojů a knihoven, které z grafických karet dělají univerzální výpočetní stroje. Vývojáři se na CUDA naučili, firmy do ní investovaly roky práce a většina otevřených AI knihoven s ní počítá jako se samozřejmostí. Právě tahle softwarová setrvačnost, ne nutně lepší křemík, drží Nvidii na špici. Odhady jí přisuzují naprostou většinu trhu s akcelerátory pro umělou inteligenci a její tržní hodnota se stala jedním ze symbolů celého AI boomu.

Googlu patří vlastní řada čipů TPU (Tensor Processing Units), které si firma navrhuje už deset let a na kterých běží i její vlastní modely Gemini. Dlouho ale platilo, že využít TPU znamenalo přepsat software do Googlem preferovaného frameworku nebo bojovat s nemotornými překladovými vrstvami. Většina vývojářů přitom píše v PyTorchi — otevřeném frameworku, který spravuje nadace kolem firmy Meta a který se stal de facto standardem pro vývoj AI.

Co TorchTPU přesně dělá

TorchTPU dělá z TPU plnohodnotný cíl pro PyTorch — stejně jako doteď existovaly grafické karty a procesory. V praxi to znamená, že existující kód se podle Googlu přesune na TPU s minimem úprav. V knihovně Transformers od Hugging Face, kterou používají tisíce vývojářů, stačí přidat jediný parametr `device_map="tpu"` a model poběží na Googlových čipech.

Pod kapotou nástroj nabízí dva režimy. V takzvaném eager módu vývojář ladí a hledá chyby v reálném čase, přesně jak je zvyklý. Když je kód hotový, přepne jej přes `torch.compile` do produkčního režimu, který lépe využívá hardware a šetří paměť. Google zdůrazňuje, že knihovnu vyvíjel společně s inženýry PyTorche z Mety — což dává projektu důvěryhodnost, jakou by samotný Google těžko získal.

Nemůžeme být svázáni s jedinou hardwarovou architekturou. TorchTPU je obrovský krok vpřed.

Meta podle vlastního vyjádření už na TPU přes TorchTPU provozuje část svých velkých jazykových modelů i systémů pro reklamu a doporučování obsahu. To je důležitý signál: nejde o experiment pro hobbyisty, ale o nástroj nasazený v produkci jednou z největších technologických firem světa. Zapojení Mety navíc znamená, že podpora TPU míří přímo do jádra PyTorche — nezůstane jen Googlovým doplňkem, o který by se musel starat sám.

Technicky stojí celý trik na mechanismu, který PyTorch nabízí pro přidání nového typu hardwaru. Framework neví a nepotřebuje vědět, jestli pod ním běží grafická karta, procesor, nebo Googlův TPU — příkazy jen předá příslušnému backendu. TorchTPU je přesně takový backend. Z pohledu vývojáře se tím mění jediná věc: kam se úloha pošle. Všechno ostatní — jak se model zapisuje, jak se ladí, jak se trénuje — zůstává stejné. A právě tahle neviditelnost je důvod, proč je nástroj potenciálně tak zásadní.

Čísla, ekosystém a co zůstává v nedohlednu

Google doložil výkon konkrétními čísly. U modelu Qwen 3 s 8 miliardami parametrů dosáhl nástroj až 52procentního využití teoretického výpočetního výkonu čipu (tzv. MFU) a škáloval téměř lineárně napříč až 8 192 čipy Ironwood nejnovější generace. Jeden z prvních zákazníků, firma Zenteiq, uvádí, že přechodem na tento ekosystém zvýšila denní výstup ze 1,47 miliardy na 5,97 miliardy vygenerovaných tokenů na tisíc čipů — tedy zhruba čtyřnásobně.

• TorchTPU je k dispozici jako open source na GitHubu pod licencí Apache 2.0 — tedy volně i pro komerční použití.
• Podporuje klíčové nástroje pro provoz modelů: vLLM, SGLang, llm-d, dále Ray a Hugging Face pro trénování a nasazení.
• Pro nasazení přímo do zařízení nabízí převod přes LiteRT.
• Dvě součásti — backend pro trénování metodou VeRL a sada agentů pro ladění — zatím běží v režimu náhledu (preview).

Opatrnost je ale na místě. Všechna uvedená čísla pocházejí od Googlu a jeho partnerů a nebyla nezávisle ověřena. Slib o „minimu úprav" platí hlavně pro kód, který se drží standardních knihoven. Jakmile projekt obsahuje specializované komponenty napsané přímo pro Nvidii, přenos na TPU vyžaduje skutečnou práci — a kolik přesně, zatím nikdo nezměřil. Google také mlčí o cenách; samotný software je sice zdarma, ale TPU si stejně pronajmete jen v cloudu od Googlu.

Co si z toho má odnést český podnikatel

Pro většinu firem není TorchTPU věc, kterou nasadíte příští týden. Je to spíš posun vyjednávací síly — a ten se časem promítne do cen, které platíte. Čím snáz může váš dodavatel přesunout AI z jednoho hardwaru na druhý, tím tvrději může smlouvat o ceně výpočetního výkonu. A tlak na jednu dominantní platformu obvykle znamená, že se nůžky mezi nabídkou a poptávkou začnou pomalu svírat.

Praktický krok je proto jednoduchý: pokud platíte za provoz AI — ať už přímo, nebo skrze softwarového dodavatele — zeptejte se, na jakém hardwaru vaše řešení běží a zda by šlo přenést jinam. Odpověď vám napoví, jak moc jste uzamčeni a jak velký prostor máte příště při vyjednávání o ceně. Firmy, které staví vlastní AI produkty ve velkém, by zase měly TorchTPU zařadit do testů alternativ — i kdyby jen proto, aby měly páku v jednání se současným dodavatelem.

• Zjistěte, na jakém hardwaru běží vaše AI řešení — u vlastní infrastruktury i u externího dodavatele.
• Pokud je provoz AI významnou položkou rozpočtu, nechte si spočítat, kolik by stálo přenesení na alternativní čipy.
• Při obnově smluv na cloud využijte rostoucí konkurenci jako argument pro lepší cenu.
• Sledujte, zda váš softwarový dodavatel podporuje více typů hardwaru — je to signál jeho vlastní odolnosti vůči růstu cen.

Je potřeba zůstat realistou. Pro firmu, která AI jen používá prostřednictvím hotových služeb — chatbota v zákaznické podpoře, asistenta na tvorbu textů, nástroj na analýzu dat — se zítra nezmění vůbec nic. Dopad je nepřímý a projeví se v řádu měsíců a kvartálů, až se tlak na ceny přenese přes poskytovatele cloudu k softwarovým dodavatelům a nakonec ke koncovému zákazníkovi. Přesto je dobré o tomhle pohybu vědět — protože vyjednávání o ceně se vede lépe, když rozumíte tomu, co se děje na druhé straně stolu.

Širší obraz je ještě zajímavější. Krátce po Googlu uvolnil Amazon obdobný nástroj TorchNeuron pro své čipy Trainium. Dva z největších provozovatelů cloudu tak ve stejném týdnu otevřeli dveře k hardwaru, který nepochází od Nvidie. Monopol na pohodlí — a tím i na cenu — se poprvé za dlouhou dobu začíná drolit. A to je zpráva, která se dřív nebo později objeví i na vaší faktuře.