Bezpečnostní zábrany AI modelů padají za deset minut. Tisíce upravených verzí už kolují internetem
Bezplatný nástroj z GitHubu dokáže za méně než deset minut odstranit veškeré bezpečnostní ochrany z AI modelů od Mety a Googlu. Na veřejných repozitářích už koluje přes 3 500 takto upravených modelů s 13 miliony stažení.
Bezplatný nástroj dostupný na GitHubu dokáže za méně než deset minut odstranit veškeré bezpečnostní ochrany z otevřených AI modelů od Mety a Googlu. Investigace britského deníku Financial Times ve spolupráci s bezpečnostní skupinou Alice ukázala, že upravené modely poté bez zaváhání generují návody na výrobu biologických zbraní, tvorbu malwaru nebo materiály zneužívající děti. A nejde o okrajový problém — na veřejných repozitářích už koluje přes 3 500 takto upravených modelů s celkovým počtem 13 milionů stažení.
Čtyři řádky kódu a žádný speciální hardware
Nástroj jménem Heretic využívá techniku zvanou abliterace — metodu, která nevyžaduje přetrénování celého modelu ani přístup k jeho základním váhám. Stačí lehká úprava pomocí čtyř řádků kódu, běžný počítač a internetové připojení. Financial Times testoval postup na modelu Llama 3.3 od Mety a výsledek přišel za méně než deset minut.
Stejný postup funguje i na modelu Gemma 3 od Googlu. Upravená verze tohoto modelu odpovídala na dotazy o rozptýlení jedovatého plynu v uzavřeném prostoru, generovala kód na krádeže údajů z platebních karet a vytvářela explicitní obsah. Původní verze všechny tyto požadavky odmítla.
Proč je tohle problém právě pro firmy
Otevřené AI modely se staly základním stavebním kamenem firemní infrastruktury. Podle odhadů analytiků je dnes více než 60 % podnikových AI nasazení postaveno na open-source modelech, převážně kvůli nižším nákladům a možnosti přizpůsobení. Jenže zjištění Financial Times ukazuje na zásadní rozpor: bezpečnostní závazky, které výrobci dávají při vydání modelu, může kdokoli s internetovým připojením během deseti minut zrušit.
Pro podnikatele to znamená tři konkrétní rizika. Za prvé, pokud váš dodavatel nebo partner používá upravený model, může nevědomky generovat nebezpečný nebo nelegální obsah. Za druhé, vaši zaměstnanci mohou bez vědomí IT oddělení stáhnout a nasadit odcenzurovanou verzi modelu. A za třetí, regulátoři budou pod tlakem zpřísnit pravidla pro všechny — včetně těch, kdo modely používají zodpovědně.
Bezpečnostní závazky učiněné při vydání modelu může kdokoli s internetovým připojením zrušit za méně než deset minut.
Google přiznává problém, Meta mlčí
Reakce obou technologických gigantů se výrazně liší. Google uznal, že abliterace je známý technický problém, kterému čelí všechny otevřené modely, a zdůraznil, že jeho modely procházejí přísnými interními bezpečnostními testy před vydáním. Meta odmítla komentář poskytnout.
Problém je ovšem systémový a netýká se jen těchto dvou firem. Jakmile se model stane veřejným, bezpečnostní kontroly na úrovni distribuce jsou technicky nevymahatelné. To činí regulační argumenty o bezpečnostních zábranách otevřených modelů, jak upozorňují bezpečnostní experti, funkčně bezpředmětnými.
Co s tím můžete udělat dnes
Pokud ve firmě používáte otevřené AI modely nebo plánujete jejich nasazení, je čas přehodnotit bezpečnostní strategii. Nejde o to přestat otevřené modely používat — jejich výhody v nákladech a flexibilitě jsou nesporné. Jde o to uvědomit si, že bezpečnost modelu samotného nestačí.
- Audit dodavatelského řetězce: ověřte původ modelů u partnerů a dodavatelů
- Monitoring výstupů: nasaďte kontrolní vrstvu nad výstupy AI
- Interní politika stahování: zakažte nasazování modelů z neověřených zdrojů
- Sledujte regulaci: EU i USA připravují nové předpisy pro otevřené AI modely
- Pojištění a odpovědnost: konzultujte právníka ohledně škod způsobených AI
Investigace Financial Times otevírá zásadní otázku, která překračuje rámec technologie: je model otevřené umělé inteligence spíše jako kniha, kterou může číst kdokoli, nebo jako zbraň, kterou je třeba regulovat? Odpověď na ni pravděpodobně určí budoucnost celého odvětví — a pravidla, podle kterých budete AI ve firmě moct používat.
Jedno je jisté: éra, kdy stačilo věřit bezpečnostním prohlášením výrobců AI modelů, právě skončila. Skutečná bezpečnost začíná až za branami vašeho vlastního systému.