Nvidia koupila Groq za 20 miliard dolarů a představila čip, který mění pravidla AI inference
Nvidia představila Groq 3 LPU — specializovaný čip pro AI inference, který vznikl z její dosud největší akvizice za 20 miliard dolarů. Nový čip slibuje 35krát vyšší výkon na megawatt než současná řešení. Pro firmy, které AI provozují v produkci, to může znamenat dramatický pokles nákladů.
Dvacet miliard dolarů za firmu, o které většina lidí nikdy neslyšela. Nvidia na Štědrý den 2025 oznámila akvizici startupu Groq — a teď konečně ukázala, co za ty peníze dostala. Groq 3 LPU je první čip, který z této megadeal vznikl. A čísla, která Nvidia prezentuje, jsou těžko uvěřitelná: 35krát vyšší výkon na megawatt než její současná GPU řešení pro inference trilionových modelů.
Proč Nvidia koupila Groq
Groq byl v AI světě známý jednou věcí — rychlostí. Zatímco většina firem provozuje AI modely na klasických GPU, Groq vyvinul vlastní architekturu zvanou LPU (Language Processing Unit). Místo standardní paměti HBM používá SRAM přímo na čipu, což dramaticky snižuje latenci a zvyšuje propustnost. Pro koncového uživatele to znamenalo odpovědi z AI modelu prakticky okamžitě.
Nvidia si uvědomila, že trénování AI modelů — kde dominuje díky svým GPU — je jen polovina příběhu. Druhá polovina je inference: provozování natrénovaných modelů v produkci, kde odpovídají na miliony dotazů denně. A právě inference je segment, který roste nejrychleji. Analytici odhadují, že do roku 2033 poroste globální AI trh tempem 30,6 procenta ročně, přičemž inference bude tvořit stále větší podíl nákladů.
Groq 3 LPU: co přesně umí
Nový čip Groq 3 LP30 nabízí 512 MB SRAM paměti na jednom čipu a výkon 1,23 petaflopu v FP8 přesnosti. To samo o sobě nezní revolučně — ale klíč je v architektuře. Každý čip poskytuje 150 terabajtů za sekundu šířky pásma SRAM a 2,5 terabajtu za sekundu pro komunikaci mezi čipy.
Nvidia čip integrovala do nového systému LPX — racku, který pojme 256 kusů Groq 3 LPU. Celý rack disponuje 128 GB SRAM paměti a agregovanou šířkou pásma 40 petabajtů za sekundu. Pro srovnání: to je více než tisíckrát vyšší propustnost než u běžného serveru s GPU.
Zásadní je, jak Nvidia systém navrhla pro spolupráci. GPU Vera Rubin zpracovávají takzvanou prefill fázi — načtení a pochopení vstupního kontextu. Jakmile model pochopí dotaz, předá práci Groq LPU čipům, které generují výstupní tokeny. Tento dvoustupňový přístup kombinuje sílu GPU pro složité výpočty s rychlostí LPU pro generování odpovědí.
35krát lepší výkon: co stojí za číslem
Nvidia tvrdí, že kombinace Vera Rubin NVL72 a LPX racku dosahuje 35krát vyššího výkonu na megawatt než samotný Blackwell NVL72 pro trilionové modely. Cílová cena je 45 dolarů za milion tokenů. To je stále drahé v absolutních číslech, ale ve srovnání se současnými náklady na inference velkých modelů jde o zásadní posun.
Za tímto číslem stojí deterministická, kompilátorem řízená architektura. Na rozdíl od GPU, kde se o plánování výpočtů stará hardware dynamicky, Groq LPU pracuje podle předem určeného plánu. Každý výpočet, každý přesun dat je naplánovaný dopředu. Výsledek? Minimální jitter — kolísání latence — a předvídatelný výkon i při vysokém zatížení.
Proč Samsung a ne TSMC
Zajímavý detail: Groq 3 se vyrábí na 4nm procesu u Samsungu, nikoli u TSMC, kam Nvidia tradičně posílá své GPU. Důvod je pragmatický — TSMC nemá volnou kapacitu. Výroba čipů pro AI pohltila prakticky veškerou dostupnou kapacitu předních foundries. Samsung nabídl konkurenceschopný proces a hlavně volné linky. Pro Nvidii to znamená, že může Groq 3 dodat zákazníkům ve třetím kvartálu 2026 bez čekání v pořadníku u TSMC.
Co to znamená pro firmy
Pro české firmy, které AI využívají nebo plánují nasadit, má Groq 3 dva praktické dopady. Za prvé: náklady na provoz AI v produkci budou klesat. Pokud používáte API od OpenAI, Anthropic nebo jiného poskytovatele, tito poskytovatelé budou moci díky efektivnějšímu hardware snížit ceny. A některé to už dělají — celosvětová soutěž o nejlevnější inference běží naplno.
Za druhé: specializované inference čipy otevírají cestu k AI agentům, kteří reagují v reálném čase. Dnešní AI asistenti mají znatelné prodlevy — odpověď trvá sekundy. S architekturou jako Groq LPU se odpovědi mohou blížit rychlosti běžné konverzace. To je klíčové pro nasazení AI v zákaznickém servisu, obchodních jednáních nebo řízení výrobních procesů, kde každá vteřina prodlevy znamená horší uživatelský zážitek.
Širší kontext: AI hardware se štěpí
Akvizice Groqu je součástí většího trendu. AI průmysl se rozděluje na dva segmenty s odlišnou dynamikou. Trénování modelů zůstává doménou obřích GPU clusterů a vyžaduje investice v řádu miliard dolarů. Inference — provozování modelů — se naopak stává komoditou, kde rozhoduje efektivita a cena za token.
Nvidia dosud dominovala oběma segmentům díky svým GPU. Akvizicí Groqu si pojistila pozici i v segmentu, kde jí hrozila konkurence od specializovaných hráčů jako Cerebras nebo SambaNova. Za 20 miliard dolarů získala nejen technologii, ale i pojistku proti vlastní disrupci.
Na co se připravit
Groq 3 LPU se začne dodávat ve třetím kvartálu 2026. Pro většinu firem to neznamená okamžitou změnu — nový hardware nejprve nasadí velcí cloud poskytovatelé a AI firmy. Ale efekt se projeví nepřímo: nižší ceny API, rychlejší odpovědi a možnost provozovat složitější AI modely za stejné peníze. Kdo dnes plánuje AI strategii na příští rok, měl by s tímto vývojem počítat.