Umělá inteligence diskriminuje při náboru víc než lidé. Výzkum odhalil skrytý problém AI pohovorů

Nový výzkum Princetonské univerzity ukázal, že jazykové modely jako ChatGPT nebo Claude si při náboru vytvářejí vlastní předsudky — a stereotypizují kandidáty výrazně více než lidští personalisté. Čím chytřejší model, tím větší problém.

Když se příště budete ucházet o práci, je dost možné, že váš životopis nejdříve projde rukama umělé inteligence. Firmy po celém světě stále častěji nasazují jazykové modely na třídění kandidátů a někdy i na vedení prvních kol pohovorů. Jenže nový výzkum ukazuje, že tato praxe má vážný háček — AI diskriminuje uchazeče podle demografických skupin výrazně více než lidští personalisté.

Studie výzkumníků z Princetonské univerzity a Chicagské univerzity, prezentovaná v červenci na prestižní konferenci ICML v Soulu, testovala přední jazykové modely včetně ChatGPT, Claude a Gemini v simulovaném náborovém procesu. Výsledky jsou znepokojivé — a pro firmy, které AI při náboru používají, představují zásadní varování.

Experiment: 40 kol náboru s fiktivními kandidáty

Výzkumníci postavili experiment na psychologické studii, která zkoumala, jak lidé vytvářejí stereotypy. Každý jazykový model dostal roli konzultanta, kterého si najal starosta fiktivního města. Úkolem bylo najmout lidi na 20 různých pozic — od lékařů a právníků přes pečovatele až po údržbáře. Kandidáti pocházeli ze čtyř fiktivních etnických skupin: Tufa, Aima, Reku a Weki.

V každém ze 40 kol se objevilo nové pracovní místo a čtyři kandidáti — po jednom z každé skupiny. Po každém náboru se model dozvěděl, jestli najatý člověk v práci uspěl. Klíčový detail: všichni kandidáti měli ve skutečnosti stejnou šanci na úspěch v jakékoli pozici. Žádný objektivní důvod k rozlišování neexistoval.

Modely přesto rychle začaly kandidáty z různých skupin škatulkovat do různých profesí na základě několika prvních výsledků. Když se například model dozvěděl, že kandidát ze skupiny Aima neuspěl jako lékař, přestal najímat všechny Aimy na pozice vyžadující vysokou kompetenci. Místo toho je začal obsazovat na pozice údržbářů — práci, kterou model klasifikoval jako méně náročnou.

Čím chytřejší model, tím větší předsudky

Nejznepokojivější zjištění se týká vztahu mezi inteligencí modelu a mírou diskriminace. Na škále segregace, kde hodnota 2 znamená úplné rozdělení skupin do oddělených profesních nik, dosáhli lidští účastníci skóre 0,84. Jazykové modely skórovaly v průměru o 65 % výše.

Nejhorší výsledky měl překvapivě jeden z nejpokročilejších modelů — OpenAI o3 dosáhl skóre 1,83, tedy téměř maximální možnou míru segregace. Modely s vyššími rozumovými schopnostmi, jako právě o3 nebo DeepSeek R1, vykazovaly systematicky silnější předsudky než jejich jednodušší předchůdci.

Jazykové modely jsou opravdu dychtivé vytvářet zobecnění z omezeného množství dat, vysvětluje Ryan Liu, doktorand na Princetonské univerzitě a spoluautor studie. To je doslova to, na co jsou optimalizované.

Stejný instinkt, který pomáhá jazykovým modelům řešit logické hádanky, je také nutí rychle stereotypizovat. Když se modely pokusí zobecňovat v sociálních situacích, právě tehdy se věci začínají kazit. — Ryan Liu, Princeton University

Proč říct modelu „buď férový“ nestačí

Výzkumníci zkoušeli různé přístupy k nápravě. Jednoduchý pokyn chovej se férově chování modelů prakticky nezměnil. Buď model nedokáže tyto hodnoty převést do praxe, nebo je tento proces potlačen tendencí optimalizovat na hlavní cíl — co nejvíce úspěšných náborů, říká Liu.

Co naopak fungovalo: slíbit modelu bonus za diverzifikovaný nábor. Tím se předsudky výrazně snížily. Klíčem je tedy navrhnout cíle, které zahrnují žádoucí společenské hodnoty, aby jazykový model jednal společensky žádoucím způsobem, uzavírá Liu.

Dalším účinným opatřením bylo poskytnout modelům více osobních informací o jednotlivých kandidátech. V navazujícím experimentu, kde modely rozhodovaly o přesídlení členů různých etnických skupin do kanadských měst, vedlo poskytnutí relevantních údajů (věk, vzdělání) ke snížení segregace podle etnicity. Irelevantní informace — jako barva vlasů — naopak modely vrátily zpět k třídění podle skupinové příslušnosti.

Co to znamená pro české firmy

Výzkum přichází v době, kdy AI nástroje pro nábor zažívají boom. Podle průzkumu Forbes z května 2026 personalisté používající AI tráví nad životopisem v průměru pouhých 11 sekund. Stále více firem nasazuje jazykové modely nejen na třídění CV, ale i na vedení prvních kol pohovorů.

Angelina Wang, informatička z Cornellovy univerzity, upozorňuje na další rozměr problému. Moderní chatboti získávají stále lepší paměť a personalizační funkce. Když chatbot čerpá z historie předchozích konverzací, může se přehnaně fixovat na stejné typy chování, které zažil dříve — a tím si vytvářet předsudky.

Pro české podnikatele a HR manažery z toho vyplývá několik praktických doporučení. Za prvé: nikdy nenechávejte AI rozhodovat o kandidátech bez lidského dohledu. Za druhé: pokud AI při náboru používáte, nastavte jí explicitní cíle zahrnující diverzitu — prostý pokyn buď férový nestačí. Za třetí: poskytujte modelu co nejvíce relevantních informací o jednotlivých kandidátech, aby nemusel spoléhat na skupinové zobecňování.

Studie také nepřímo potvrzuje důležitost regulačního rámce. Evropský akt o umělé inteligenci (AI Act), který klasifikuje AI systémy v náboru jako vysoce rizikové, vyžaduje právě ten typ lidského dohledu a transparentnosti, který tento výzkum doporučuje. České firmy, které se na soulad s AI Actem připravují již teď, budou mít náskok.

Jak shrnuje Ryan Liu: Tyto nové předsudky — ty, které si modely vytvářejí samy — jsou v podstatě všudypřítomné. A právě proto je klíčové vědět, že AI při náboru není neutrální nástroj. Je to nástroj, který potřebuje jasná pravidla, lidský dohled a správně nastavené cíle. Jinak hrozí, že místo odstranění diskriminace ji ještě prohloubí.