AI vymyslela neexistující soudní případy. Kalifornský prokurátor čelí sankcím

AI vymyslela neexistující soudní případy. Kalifornský prokurátor čelí sankcím

Prokurátorka v Kalifornii použila generativní AI k přípravě soudních dokumentů v trestních případech. Umělá inteligence do nich vložila citace neexistujících rozsudků. Odvolací soud teď jmenoval soudce, aby prošetřil celý úřad — a případ odhaluje riziko, které se týká každého, kdo AI používá pro kritické dokumenty.

Prokurátorka v Kalifornii použila generativní AI k přípravě soudních dokumentů v trestních případech. Umělá inteligence do nich vložila citace neexistujících rozsudků a falešná právní tvrzení. Odvolací soud teď jmenoval soudce, aby prošetřil, zda má být celý úřad státního zástupce potrestán — a případ odhaluje riziko, které se týká každého, kdo AI používá pro kritické dokumenty.

Čtyři trestní případy plné vymyšlených citací

Příběh začal na podzim 2025 v Nevada County, malém kalifornském okrese v podhůří Sierra Nevady. Prokurátorka Madison Maxwellová používala generativní AI k psaní a korektuře soudních podání. Během dvou měsíců předložila soudu dokumenty ve čtyřech trestních kauzách, které obsahovaly vymyšlená fakta — včetně odkazů na soudní rozhodnutí, která nikdy neexistovala.

Jeden z postižených případů se týkal žádosti o propuštění muže z vazby (habeas corpus). V dokumentu, který měl rozhodnout o svobodě konkrétního člověka, AI vygenerovala citace neexistujících precedentů. Maxwellová přitom podle vlastního svědectví vůbec nevěděla, že jazykové modely dokážou vymýšlet právní citace — v podstatě si uvědomila problém, až když na chyby upozornila obhajoba.

https://noviny.ai/api/admin/images/00b7bd3d-d788-4c44-9490-ed71193e8a87/data

Nadřízená zakázala chyby přiznat. Teď hrozí sankce celému úřadu

V srpnu 2026 Maxwellová podala přísežné prohlášení, ve kterém popsala okolnosti případu. Podle jejích slov jí nadřízená, zástupkyně státního zástupce Lydia Stuartová, zakázala okamžitě nahlásit a omluvit chyby soudu, obhájcům i obviněným. Stuartová přitom podle Maxwellové sama vybízela prokurátory k používání AI, aniž by zavedla jakékoliv školení nebo pravidla pro její odpovědné nasazení.

Kalifornský Nejvyšší soud už v lednu 2026 nařídil odvolacímu soudu, aby provedl hlubší šetření rozsahu pochybení a jeho dopadu na případy. Nyní odvolací soud jmenoval soudce, který má rozhodnout o sankcích — ty mohou zahrnovat finanční pokuty a oznámení Kalifornské advokátní komoře. Dveře k sankcím zůstávají otevřené i vůči samotnému státnímu zástupci Jesse Wilsonovi.

Maxwellová ve své výpovědi uvedla, že v úřadě státního zástupce pracovala od července 2024, tedy hned po škole. Jednalo se o její první zaměstnání po absolvování právnické fakulty. Popsala prostředí, kde „mladí právníci pracovali s minimálním — pokud vůbec nějakým — dohledem“. V květnu 2026 z úřadu odešla a nyní pracuje v sousedním okrese Sutter County.

Když prokurátor může soudci odůvodnit, proč držet někoho ve vazbě, citací případu, který neexistuje — má to závažné důsledky pro obžalovaného i jeho rodinu. — Kate Chatfieldová, ředitelka Kalifornské asociace veřejných obhájců

Přes 130 případů falešných citací jen v Kalifornii

Případ z Nevada County není ojedinělý. Podle nezávislého výzkumníka Damiena Charlotina bylo v Kalifornii zdokumentováno více než 130 případů, kdy použití generativní AI vedlo k podání soudních dokumentů obsahujících nepravdy — včetně odkazů na vymyšlené kauzy. Soudy v Kalifornii už uložily finanční sankce 19 právníkům za tento typ pochybení.

Historickým milníkem se stal případ losangeleského advokáta, který v roce 2025 dostal pokutu 10 000 dolarů za dokument obsahující více než 20 vymyšlených citací vygenerovaných ChatGPT. Šlo o první případ svého druhu a měl sloužit jako varování pro celý stát. Jak ukazují čísla, varování zjevně nestačilo.

Znepokojivé je, že problém se šíří i na druhou stranu soudního systému. Soudci a soudní úředníci v amerických federálních soudech už také začínají AI používat — a i u nich se objevily chyby. V okresech Los Angeles a Riverside probíhají pilotní projekty nasazení AI v soudní agendě, které vyvolávají obavy akademiků i právníků.

https://noviny.ai/api/admin/images/ca92321f-2b0c-4b5f-aaa5-a9ba7edc8e96/data

Co to znamená pro české firmy

Kalifornský případ má přímý dopad i na české podnikatele. Pokud profesionální právníci s vysokoškolským vzděláním nedokáží spolehlivě odhalit halucinace AI v právních textech, může se totéž snadno stát komukoli, kdo AI používá pro přípravu smluv, obchodních podmínek, regulatorních podání nebo compliance dokumentů.

Klíčové ponaučení je prosté: generativní AI nedokáže rozlišit skutečný fakt od vymyšleného. Jazykové modely generují text, který vypadá přesvědčivě, ale nemají žádný mechanismus, který by zaručil faktickou správnost citací, čísel nebo odkazů na konkrétní dokumenty. Tento problém — označovaný jako halucinace — je inherentní vlastností současné generace velkých jazykových modelů.

Odborníci z UCLA School of Law upozorňují, že k chybám dochází nejčastěji u přetížených profesionálů, kteří sice AI nasadí, ale nemají čas a energii důsledně ověřit výstupy. Přesně to se stalo i Maxwellové — jako čerstvá absolventka práv s vysokým pracovním zatížením a minimálním dohledem starších kolegů se stala ideální obětí falešné důvěry v AI.

Praktický návod: jak se vyhnout stejné chybě

Kalifornský případ je varováním, které přichází v pravý čas. Umělá inteligence je mocný nástroj pro zvýšení produktivity — ale bez systematické kontroly výstupů může způsobit škody, které daleko přesahují finanční pokuty. V případě Nevada County šlo o svobodu konkrétních lidí. V případě vaší firmy může jít o smlouvy, compliance nebo reputaci.