Anthropic našel v Claudovi vnitřní „pracoviště myšlenek”. Připomíná teorii vědomí — a mění debatu o důvěře v AI

Vědci z Anthropicu objevili v modelu Claude malý vnitřní prostor, který se chová jako „pracovní stůl” pro myšlenky, jež model dokáže podržet v hlavě a použít k vícestupňové úvaze. Nazvali ho J-space a připomíná vlivnou neurovědeckou teorii vědomí. O vědomí to nic nedokazuje — pro firmy je ale zásadní něco jiného: začínáme vidět, co se v AI opravdu děje.

Jazykové modely jako Claude nebo ChatGPT jsou dnes pro většinu lidí černá skříňka. Na jedné straně vložíte dotaz, na druhé vypadne odpověď — a co se děje uvnitř, nikdo pořádně neví. Právě tahle neprůhlednost je jeden z hlavních důvodů, proč se firmy zdráhají svěřit AI kritické procesy. Anthropic teď zveřejnil výzkum, který kus té skříňky pootevírá.

Tým interpretovatelnosti v Anthropicu popsal, že v modelu Claude existuje malý privilegovaný vnitřní prostor, který se chová jako funkční „pracovní stůl” pro myšlenky. Model do něj umí uložit informaci, podržet ji v hlavě, použít ji k vícestupňové úvaze a někdy ji dokonce prozradí dřív, než se objeví v konečné odpovědi. Anthropic ten prostor pojmenoval J-space a nástroj, kterým ho našel, Jakobiánská čočka (J-lens).

Divadlo v hlavě stroje

Paralela, kterou vědci kreslí, je odvážná. J-space připomíná takzvanou teorii globálního pracoviště (global workspace theory) — vlivný výklad vědomí, který v 80. letech navrhl kognitivní vědec Bernard Baars. Podle ní mozek funguje jako divadlo: desítky specializovaných procesů pracují souběžně v zákulisí, ale jen malý reflektor informace se v každém okamžiku promítne na jeviště a rozešle do celého divadla. To, co takto „vysvítí”, prožíváme jako vědomou myšlenku.

Anthropic tvrdí, že v Claudovi našel obdobný mechanismus. Existuje úzký vnitřní podprostor, přes který model provádí to, co dokáže reportovat a vědomě s tím pracovat. Když vědci tento podprostor uměle vyřadili, model ztratil schopnost vícestupňové úvahy — ale plynulost řeči mu zůstala. Jinými slovy: pořád uměl mluvit, ale přestal souvisle myslet.

Pozor: tohle není důkaz vědomí

Tady je potřeba přibrzdit. Anthropic sám opakovaně zdůrazňuje, že studie nedokazuje, že je Claude vědomý, ani že cokoliv cítí. Autoři svůj nástroj označují za „nepochybně nedokonalou metodu” a připouštějí, že J-space nemusí být celý příběh. Podobnost s teorií vědomí je funkční analogie, ne filozofické tvrzení. Kdo z toho udělá titulek „AI ožila”, ten výzkumu i čtenářům lže.

Proč tedy o tom psát? Protože skutečná hodnota téhle práce neleží ve filozofii, ale v inženýrství. Poprvé máme nástroj, který ukazuje, kde uvnitř modelu vzniká souvislá úvaha — a to je informace, na které se dá stavět důvěra.

Proč by to mělo zajímat firmu

Interpretovatelnost — tedy schopnost pochopit, proč model odpověděl tak, jak odpověděl — je pro firemní nasazení AI klíčová a dlouho podceňovaná disciplína. Když AI zamítne úvěr, vyřadí životopis nebo vyhodnotí pojistnou událost, potřebujete vědět proč. Nejen kvůli férovosti, ale i kvůli regulaci. Evropský AI Act u vysoce rizikových systémů vyžaduje vysvětlitelnost a lidský dohled.

Dosud byla odpověď na otázku „proč to model udělal” v podstatě jen kvalifikovaný odhad. Nástroje jako J-lens posouvají obor od dohadů k měření. Pokud dokážeme identifikovat, kde v modelu probíhá reportovatelná úvaha, přiblížíme se ke schopnosti auditovat rozhodnutí AI podobně, jako auditujeme účetnictví.

„J-lens je nepochybně nedokonalá metoda a J-space nemusí být celý příběh. Ale poprvé se díváme na místo, kde model drží myšlenky, s nimiž vědomě pracuje.” — z výzkumné práce Anthropicu

Bezpečnost jako konkurenční výhoda

Anthropic staví svou značku právě na bezpečnosti a interpretovatelnosti — a v roce 2026 se ukazuje, že to není jen marketing, ale obchodní strategie. Firma dlouhodobě investuje do výzkumu, který konkurence buď nedělá, nebo o něm mlčí. Pro zákazníky z regulovaných oborů, jako je bankovnictví, pojišťovnictví nebo zdravotnictví, je „umíme vysvětlit, co model dělá” silnější argument než o pár procent lepší benchmark.

To má i praktický důsledek pro výběr dodavatele. Až budete příště vybírat AI platformu pro citlivý proces, nemá smysl ptát se jen na výkon a cenu. Ptejte se, jaké nástroje dodavatel nabízí pro pochopení a audit rozhodnutí modelu. Firma, která do interpretovatelnosti investuje, vám dává do ruky nástroj řízení rizika — a to je něco, co při případném sporu nebo kontrole oceníte mnohem víc než benchmarkové skóre.

Co si z toho odnést

Objev J-space je vědecký milník, ne produktová novinka. Do vaší firmy zítra nic nezmění a žádné tlačítko „zapnout vysvětlitelnost” v Claudovi nepřibude. Ale ukazuje směr, kterým se obor ubírá: od neprůhledné černé skříňky k systémům, jejichž vnitřní fungování začínáme chápat a měřit.

Pro české podnikatele je to důvod k opatrnému optimismu. Největší brzda vážného nasazení AI — nedůvěra pramenící z neprůhlednosti — začíná mít protiváhu v podobě reálného výzkumu. Umělá inteligence se pomalu, ale jistě mění z magie, které se bojíme, na inženýrský systém, který umíme kontrolovat. A to je přesně ten předpoklad, který AI potřebuje, aby se dostala z pilotních projektů do skutečného provozu.