Čínští vojenští výzkumníci trénovali AI na výstupech ChatGPT a Claude. Zákaz čipů tím obcházejí
Reuters prověřil více než 80 čínských odborných prací a patentů a našel opakované využití výstupů amerických modelů pro vojenské a bezpečnostní systémy. Případy ukazují slabinu exportních omezení: stát může zablokovat dodávku nejvýkonnějších čipů, ale znalosti z uzavřeného modelu lze přes rozhraní převést do menšího systému, který pak běží lokálně.
Americká vláda omezuje vývoz nejvýkonnějších čipů do Číny, aby zpomalila vývoj tamních systémů umělé inteligence. Výzkumníci napojení na čínskou armádu a bezpečnostní instituce však našli jinou cestu: využili výstupy modelů OpenAI a Anthropic jako učební materiál pro vlastní menší systémy. Podle rešerše agentury Reuters se tento postup objevuje ve více než 80 odborných pracích a patentech.
Nejde o tvrzení, že by ChatGPT nebo Claude přímo ovládaly zbraně. Popsané projekty jsou užší a praktičtější: shrnování programového kódu, vytváření syntetických tréninkových dat, třídění textu, sledování sociálních sítí a návrhy systémů, které mohou běžet uvnitř uzavřených vojenských sítí. Právě tato specializace je podstatná. Menší model nemusí umět všechno, co nejdražší americký systém. Stačí, když dobře zvládne jednu úlohu a lze jej provozovat na dostupném domácím hardwaru.
Výkonný model se stal učitelem
Použitá metoda se nazývá distilace. Silný model vytváří odpovědi, souhrny nebo řešení a slabší model se na těchto datech učí napodobovat jeho chování. Jde o běžnou techniku strojového učení. Firmy ji používají, když chtějí převést schopnosti velkého systému do levnějšího modelu s rychlejší odezvou. Spor začíná ve chvíli, kdy někdo bez souhlasu poskytovatele ve velkém sbírá výstupy přes komerční rozhraní, obchází omezení účtů a trénuje přímého konkurenta nebo systém pro zakázané použití.
Reuters popsal případ, kdy čínský vojenský tým potřeboval analyzovat software, ale jeho interní síť nemohla používat zahraniční cloudovou službu. Výzkumníci proto nechali GPT-3.5 shrnovat programový kód a na těchto souhrnech vytrénovali domácí model. Výsledný systém pak běžel celý uvnitř čínské vojenské infrastruktury. Americký model nemusel být přítomen při nasazení; posloužil jako dočasný zdroj znalostí během přípravy.
Výstupy výkonného systému lze použít k výcviku menšího specializovaného modelu, který se nasadí lokálně bez obrovského výpočetního výkonu potřebného pro vývoj hraniční AI od nuly.
Claude vytvořil data pro sledování sociálních sítí
Na Severní čínské univerzitě, která má úzké vazby na zbrojní průmysl, použili výzkumníci Claude 3 Haiku k vytvoření syntetických dat pro textový klasifikátor. Zamýšlené využití zahrnovalo sledování sociálních sítí a moderaci obsahu. Takový model může třídit obrovské množství příspěvků podle tématu, sentimentu nebo rizika, aniž by citlivá data opustila domácí infrastrukturu. Z pohledu bezpečnostních složek je lokální provoz výhodou: snižuje závislost na zahraniční službě a odstraňuje její kontrolní mechanismy.
Použité modely GPT-3.5 a Claude 3 Haiku dnes nepatří k nejvýkonnějším systémům na trhu. To však nesnižuje význam zjištění. Dokumenty ukazují mechanismus, který lze opakovat s každou novou generací modelů. Výzkumník nepotřebuje získat zdrojový kód ani váhy amerického systému. Potřebuje dostatek dotazů, kvalitně zvolené úlohy a způsob, jak odpovědi převést do tréninkové sady. Hodnota se přesune v podobě chování modelu, nikoli fyzického čipu.
Čipový zákaz má digitální mezeru
Exportní pravidla jsou účinná u zboží, které prochází továrnou, distributorem a hranicí. U služby dostupné přes internet je kontrola složitější. Poskytovatel může zablokovat čínské adresy, platební karty nebo firmy, uživatelé však pracují přes prostředníky, zahraniční dceřiné společnosti a velké množství účtů. Jakmile vznikne tréninková sada a lokální model, původní poskytovatel ztrácí přehled o tom, kdo systém používá a jaké ochrany z něj odstranil.
Anthropic v únoru uvedl, že tři čínské laboratoře DeepSeek, Moonshot AI a MiniMax vytvořily přibližně 24 000 podvodných účtů a uskutečnily přes 16 milionů výměn s Claudem. Firma to označila za průmyslovou distilaci schopností pro programování, uvažování a práci agentů. Čínská strana podobná obvinění odmítá a upozorňuje, že distilace je standardní součást vývoje. Přesnou hranici mezi legitimním učením, porušením podmínek služby a krádeží duševního vlastnictví teprve vymezí soudy a regulace.
Nová rešerše posouvá spor z obchodní roviny do oblasti bezpečnosti. Americké laboratoře dlouho varovaly, že zkopírované schopnosti mohou skončit v systémech pro sledování, kybernetické operace nebo armádu. Zkoumané čínské dokumenty ukazují konkrétní případy, kdy se výstupy amerických modelů skutečně objevily v projektech institucí s vojenskými a bezpečnostními vazbami. Neprokazují však, že každý výsledný model byl operačně nasazen ani že měl přímou roli ve zbraňovém systému.
Co to znamená pro evropské firmy
Geopolitický spor má přímý dopad na podnikové používání AI. Poskytovatelé budou zpřísňovat ověřování zákazníků, omezovat hromadné generování dat a sledovat podezřelé vzorce dotazů. To může znamenat více kontrol, nižší limity a nové smluvní povinnosti i pro legitimní evropské zákazníky. Firma, která používá model k vytváření syntetické tréninkové sady pro vlastní systém, by měla předem ověřit, zda to licence dovoluje a zda výsledný model nebude považován za konkurenci původní služby.
Druhou otázkou je původ modelu v dodavatelském řetězci. Levný specializovaný model může obsahovat schopnosti získané z jiných systémů, aniž by to bylo uvedeno v technické dokumentaci. Pro firmy v regulovaných oborech je to riziko: licenční spor, sankční omezení nebo dodatečné zablokování služby může zasáhnout produkt, který je už nasazený. Při nákupu modelu proto nestačí porovnat cenu a přesnost. Je nutné znát jeho vlastníka, jurisdikci, způsob vývoje, datovou politiku a možnost provozu u náhradního dodavatele.
Třetí dopad se týká hodnoty firemních dat. Stejná metoda, která převádí schopnosti hraničního modelu do menšího systému, může převádět i znalosti z interních dokumentů, podpory zákazníků nebo odborných postupů. Organizace by měly oddělit legitimní zmenšování vlastního modelu od situace, kdy externí dodavatel používá jejich interakce k vylepšení produktu pro jiné zákazníky. Smlouva musí určit, komu patří vstupy, výstupy, odvozená data a modely vytrénované na těchto datech.
Prověřte, zda licence modelu dovoluje používat jeho výstupy k trénování dalšího systému.|U dodavatelů vyžadujte popis původu modelu, jurisdikce a tréninkových dat.|Sledujte sankční a exportní omezení, pokud službu používají zahraniční pobočky nebo partneři.|Navrhněte možnost přechodu k jinému modelu bez přepsání celého firemního procesu.|Ve smlouvách jasně určete vlastnictví výstupů, odvozených dat a následně trénovaných modelů.
Otevřené modely nejsou totéž co nelegální distilace
Debata se snadno zjednoduší na tvrzení, že otevřené modely představují bezpečnostní riziko. To by bylo nepřesné. Otevřeně dostupné váhy umožňují firmám kontrolovat data, provozovat systémy lokálně a snížit závislost na několika amerických dodavatelích. Stejné vlastnosti ale usnadňují odstranění ochranných vrstev a vojenské úpravy. Distilace je zase technická metoda, nikoli sama o sobě protiprávní jednání. Rozhodující je souhlas, způsob získání dat, porušení smluv a zamýšlené použití.
Americké laboratoře mají v tomto sporu také obchodní zájem. Přísnější pravidla proti kopírování chrání jejich investice a uzavřené obchodní modely. Zastánci otevřeného vývoje varují, že příliš široká definice distilačního útoku by mohla kriminalizovat běžný výzkum, interoperabilitu a vznik menších konkurentů. Rešerše čínských vojenských projektů je proto silným bezpečnostním argumentem, nikoli automatickou odpovědí na to, jak má být celý trh regulován.
Závod se přesouvá od čipů k přístupu
Zákaz nejvýkonnějších procesorů může zvýšit náklady a zpomalit trénování obřích modelů. Nedokáže však uzavřít znalosti, které tyto modely poskytují přes internet. Čína může kombinovat domácí čipy, efektivnější architektury, otevřené modely a výstupy zahraničních služeb. Každá cesta jednotlivě nabízí jen část schopností, dohromady však snižují účinek fyzických exportních bariér. Další fáze soupeření proto nebude pouze o výrobních linkách společnosti TSMC, ale také o identitě zákazníků, provozu rozhraní a detekci neobvyklého sběru výstupů.
Jak jsme zprávu ověřili
Hlavním zdrojem je rešerše agentury Reuters, která prověřila více než 80 odborných prací a patentů a využila také podklady Jamestown Foundation. Kontext k rozsahu kampaní poskytuje vlastní zpráva Anthropic o distilačních útocích, v níž firma popsala 24 000 účtů a přes 16 milionů výměn.
Širší vojenský kontext jsme porovnali s analýzou Anthropic o soutěži USA a Číny a s rozborem Mezinárodního institutu pro strategická studia. U závěrů zachováváme omezení původních důkazů: práce dokládají použití výstupů a navrhované vojenské či bezpečnostní aplikace, nikoli operační nasazení každého popsaného systému ani přímé použití amerického modelu ve zbrani.