Vaše dokumenty nejsou v bezpečí. AI je tiše přepisuje a chyby jsou skoro nezjistitelné

Vaše dokumenty nejsou v bezpečí. AI je tiše přepisuje a chyby jsou skoro nezjistitelné

Výzkumníci z Microsoftu otestovali 19 špičkových AI modelů a zjistili děsivou věc: i ty nejlepší z nich — GPT 5.4, Claude 4.6 Opus, Gemini 3.1 Pro — poškodí průměrně čtvrtinu obsahu dokumentů, na nichž pracují v delších pracovních tocích. A co je nejhorší: nevymažou ho. Přepíší ho. Tiše. Bez upozornění.

Delegování práce umělé inteligenci je dnes běžnou praxí. Necháte AI upravit účetní výkaz, přepsat smlouvu, přeorganizovat kód nebo doplnit technickou dokumentaci. Uložíte výsledek, pošlete klientovi a jdete dál. Jenže co když ten dokument obsahuje chyby, které nikdy nebyly — a vy o tom nevíte?

Přesně tuto otázku si položili výzkumníci z Microsoftu. Jejich studie DELEGATE-52, zveřejněná v dubnu 2026 a široce diskutovaná tento týden, přinesla výsledky, které by měl znát každý, kdo dnes nasazuje AI do svých pracovních procesů. Závěr je jednoznačný: současné jazykové modely nejsou spolehlivými delegáty. Když jim svěříte práci s dokumenty ve složitějších, vícekrokových pracovních tocích, tiše je poškodí.

Co ukázal experiment s 19 modely

Výzkumný tým sestavil benchmark nazvaný DELEGATE-52, který simuluje dlouhé autonomní pracovní toky napříč 52 profesními obory — od účetnictví a programování přes právo, lékařství a muzikologii až po krystalografii a genealogii. Každý testovací scénář zahrnoval reálný dokument a sérii pěti až deseti složitých editačních úkolů, které by běžně zadal člověk.

Celkem bylo otestováno 19 modelů od OpenAI, Anthropic, Google, Mistral, xAI a Moonshot. Výsledky byly alarmující. Přes všechny modely dohromady dosáhla průměrná degradace obsahu dokumentů 50 % po dvaceti po sobě jdoucích interakcích. Nejlepší frontier modely — Gemini 3.1 Pro, Claude 4.6 Opus a GPT 5.4 — na tom byly výrazně lépe, ale ani ty se nevyhnuly problémům: průměrně poškodily 25 % obsahu.

https://noviny.ai/api/admin/images/bb90bc28-e9b5-45f8-a2b5-c71655d3e6de/data

Nejzajímavější — a nejznepokojivější — zjištění se týká charakteru chyb. Chyby se nehromadí postupně. Přibližně 80 % veškeré degradace způsobují tzv. kritické katastrofické selhání: jedinou interakcí model najednou smaže nebo přepíše alespoň 10 % obsahu dokumentu. Slabší modely chyby způsobují mazáním — to je alespoň viditelné. Ale frontier modely — paradoxně ty nejschopnější — obsah aktivně přepisují. Text zůstane na místě, ale jeho obsah se tiše změní na věrohodně znějící, ale fakticky nepravdivou verzi.

Modely nevědí, zda plní dopředný nebo zpětný úkol, a nejsou si vědomy celkového experimentálního designu. Jednoduše se snaží splnit každý úkol co nejlépe.

Agentic nástroje situaci zhoršují, ne zlepšují

Intuitivně by se zdálo, že když modelu přidáme nástroje — například schopnost spouštět kód, číst soubory nebo zapisovat do nich — výsledky se zlepší. Opak je pravdou. Přidání generického agentnického prostředí průměrně zvýšilo degradaci o dalších 6 %. Proč? Modely nedokážou na místě psát spolehlivé programy pro manipulaci s dokumenty napříč různými obory. Když jim to nejde programově, přečtou celý soubor a přepíší ho znovu — a právě v tom přepsání vznikají chyby.

Dalším zhoršujícím faktorem jsou tzv. distraktory — soubory s tematicky příbuznými, ale irelevantními informacemi v kontextu. Čím déle pracovní tok trvá a čím větší jsou dokumenty, tím horší jsou výsledky. Jediná oblast, kde si modely vedly dobře, je programování v Pythonu: tady většina modelů dosáhla skóre 98 % a výše.

Co to znamená pro váš byznys

Tato studie mluví přímo do situace, kde se dnes nachází většina firem aktivně nasazujících AI. Delegování dokumentové práce — od úpravy smluv po přepisování technické dokumentace a zpracování finančních výkazů — se stává standardem. A právě tady hrozí největší riziko.

Philippe Laban z Microsoft Research zdůrazňuje, že řešením pro vývojáře je budovat úzce zaměřené, doménově specifické nástroje namísto generického agentnického prostředí. Pokud například nasazujete AI pro práci s účetními ledgery, dejte mu specifické funkce pro práci s ledgery — ne obecný přístup k souborovému systému.

Studie DELEGATE-52 není voláním po odmítnutí AI v pracovních procesech. Je to varování, že slepá důvěra v AI je v tuto chvíli nepřiměřená. Modely jsou výjimečné nástroje — ale nejsou spolehliví autonomní zaměstnanci. Čím složitější a delší pracovní tok, tím více lidského dohledu je potřeba. Čtvrtina poškozených dat v dokumentech zpracovaných těmi nejlepšími modely na světě je číslo, které si žádný podnikatel nemůže dovolit ignorovat.