Rizika a etika umělé inteligence: Průvodce pro firmy i jednotlivce
Od srpna 2026 začnou v plném rozsahu platit pravidla EU AI Act — nejambicióznějšího zákona o umělé inteligenci na světě. Pokuty za porušení dosahují 35 milionů eur nebo 7 % celosvětového obratu. Česko mezitím připravuje vlastní zákon o AI a regulační sandbox pro firmy. Kdo se nepřipraví, riskuje nejen sankce, ale i ztrátu důvěry zákazníků. Tady je všechno, co potřebujete vědět.
Od srpna 2026 začnou v plném rozsahu platit pravidla EU AI Act — nejambicióznějšího zákona o umělé inteligenci na světě. Pokuty za porušení dosahují 35 milionů eur nebo 7 % celosvětového obratu. Česko mezitím připravuje vlastní zákon o AI a regulační sandbox pro firmy. Kdo se nepřipraví, riskuje nejen sankce, ale i ztrátu důvěry zákazníků. Tady je všechno, co potřebujete vědět.
Proč se o etiku AI zajímat právě teď
Umělá inteligence přestala být akademickým tématem. Podle průzkumů ji v nějaké formě používá 88 % firem celosvětově. Rozhoduje o tom, kdo dostane půjčku, koho pozvou na pohovor, jakou léčbu lékař doporučí. S rostoucím nasazením rostou i rizika — a s nimi tlak na regulaci.
UNESCO přijalo první globální doporučení k etice AI už v roce 2021 — podpořilo ho všech 193 členských států. Od té doby se praktická implementace rozšířila do více než 60 zemí. Evropská unie šla ještě dál a vytvořila právně závazný rámec. A Česko stojí před rozhodnutím, jak přísně ho implementovat na národní úrovni.
Pět největších rizik umělé inteligence
1. Algoritmický bias — předsudky zakódované v datech
Systémy rozpoznávání obličejů mají u tmavé pleti chybovost až 34 %, zatímco u světlé pleti pod jedno procento. Zdravotnický algoritmus v USA předpovídal, že černošští pacienti jsou zdravější než ve skutečnosti — protože místo klinických výsledků používal jako proxy výdaje na zdravotní péči. Americký systém COMPAS pro hodnocení recidivy vykazoval systematické zkreslení vůči afroamerickým obžalovaným.
Bias není chyba jednoho algoritmu. Je to systémový problém. AI se učí z historických dat, která obsahují společenské předsudky — a tyto předsudky reprodukuje ve velkém měřítku. Nábor zaměstnanců, hodnocení kreditního rizika, trestní justice — všude tam, kde AI rozhoduje o lidech, hrozí diskriminace, která vypadá jako objektivní číslo.
2. Deepfaky a dezinformace
Nástroje pro generování realistického videa, zvuku i textu jsou dnes levné a dostupné. Deepfaky se šíří rychleji, než je stíhají ověřovatelé faktů vyvracet. Během volebních kampaní mohou falešné projevy kandidátů ovlivnit miliony voličů. A nekonsensuální intimní deepfaky se staly nástrojem obtěžování, který disproporčně postihuje ženy.
Pro firmy představují deepfaky specifické riziko: podvodné videohovory, falešné pokyny od managementu nebo zmanipulované důkazní materiály v obchodních sporech. V roce 2024 podvodníci pomocí deepfake videokonference přesvědčili zaměstnance hongkongské firmy k převodu 25 milionů dolarů.
3. Eroze soukromí a masový dohled
AI umožňuje sledování v měřítku, které bylo ještě před pár lety nepředstavitelné. Kamery s rozpoznáváním obličejů v kombinaci s prediktivním policingem vytvářejí infrastrukturu masového dohledu. Pouze asi 40 % manažerů se cítí jistě, že jejich firma dodržuje zákony na ochranu soukromí — a to je číslo z firem, které se tím aktivně zabývají.
Problém není jen státní surveillance. AI chatboty a asistenti sbírají data o uživatelích — IP adresy, historii konverzací, vzorce chování. U některých služeb se uživatelské dotazy mohou stát veřejně viditelnými nebo propojit s profilem uživatele. Pro firmy, které AI nasazují, je ochrana zákaznických dat kritickým požadavkem.
4. Bezpečnostní hrozby a zneužití
Generativní modely dokážou vytvářet přesvědčivé phishingové e-maily, které obcházejí tradiční detekci. Adversariální útoky mohou způsobit, že AI systém nebezpečně chybně klasifikuje vstupy. A na horizontu se rýsují autonomní zbraně a biotechnologické hrozby, kde AI funguje jako multiplikátor destruktivního potenciálu.
Mezi hlavní bezpečnostní hrozby dnes patří data poisoning (otrávení trénovacích dat), prompt injection (manipulace vstupů) a model inversion (extrakce citlivých informací z modelu). Pro firmy to znamená, že nasazení AI bez bezpečnostního auditu je hazard.
5. Odpovědnost a černé skříňky
Když AI způsobí škodu, kdo nese odpovědnost? Vývojář? Firma, která ji nasadila? Poskytovatel dat? Moderní neuronové sítě fungují jako neprůhledné systémy — nikdo nedokáže přesně vysvětlit, proč se rozhodly tak, jak se rozhodly. V bankovnictví, zdravotnictví nebo justici je to zásadní problém. Člověk, kterému banka zamítla úvěr na základě AI hodnocení, má právo vědět proč.
Absence jasných pravidel odpovědnosti nechává oběti bez možnosti dovolat se nápravy. EU AI Act na to reaguje požadavky na transparentnost a lidský dohled — ale implementace bude klíčová.
EU AI Act: co přesně vyžaduje
Evropský akt o umělé inteligenci vstoupil v platnost 1. srpna 2024. Povinnosti se zavádějí postupně — a 2. srpna 2026 začne platit v plném rozsahu pro všechny vysoce rizikové AI systémy. Zákon se vztahuje nejen na evropské firmy, ale na kohokoliv, jehož AI systémy zasahují evropský trh.
Zákon třídí AI systémy do kategorií podle míry rizika. Zakázané praktiky — sociální skóring, manipulativní AI nebo nelegální šíření deepfaků — jsou už nyní mimo zákon. Vysoce rizikové systémy (biometrie, kritická infrastruktura, nábor, justice, zdravotnictví) musí splnit přísné požadavky: dokumentovaný systém řízení rizik, governance dat, technickou dokumentaci, automatické logování, lidský dohled a zajištění přesnosti, robustnosti a kybernetické bezpečnosti.
Pro firmy, které AI nasazují (deployers), platí povinnost používat systémy podle pokynů poskytovatele, zajistit vyškolený personál pro lidský dohled, monitorovat výkon a hlásit incidenty. Organizace musí jasně informovat uživatele, když komunikují s AI, když narazí na syntetický obsah nebo když jsou předmětem biometrické kategorizace.
Pokuty, které bolí
Sankce jsou odstupňované: až 35 milionů eur nebo 7 % celosvětového obratu za porušení zákazu, až 15 milionů eur nebo 3 % za ostatní porušení povinností a až 7,5 milionu eur nebo 1 % za poskytnutí nesprávných informací úřadům. K tomu se přidává občanskoprávní odpovědnost, trestní stíhání za šíření deepfaků a možnost stažení produktu z trhu.
Česko: zákon o AI a regulační sandbox
Ministerstvo průmyslu a obchodu připravilo návrh zákona o umělé inteligenci, který implementuje EU AI Act do českého práva. Ministerstvo zvolilo minimalistický přístup — zákon má vytvořit proinovační prostředí a nezatěžovat firmy zbytečnou byrokracií. Návrh prochází meziresortním připomínkovým řízením a zákon by měl nabýt účinnosti v roce 2026.
Součástí je národní regulační sandbox — bezpečné prostředí, kde firmy a startupy mohou testovat nové AI aplikace a ověřit jejich soulad s regulací ještě před uvedením na trh. Sandbox bude spravovat Česká agentura pro standardizaci (ČAS). Musí být zřízen do srpna 2026. Rozpočet na dohled a sandbox počítá s 207 miliony korun z veřejných prostředků na roky 2026–2028.
Kritiky se návrh nevyhnul. Hospodářská komora, Svaz průmyslu i Úřad pro ochranu osobních údajů upozorňují, že zákon je příliš stručný a nedostatečně definuje klíčové postupy dohledu a testování AI. Ředitel NÚKIB Lukáš Kintr zase varuje, že přílišná regulace — zejména v oblasti výzkumu — může Česko zranit: bez schopnosti vyvíjet vlastní AI bude země závislá na nakupovaných řešeních ze zahraničí.
Praktické kroky: co udělat jako firma
Do srpna 2026 by každá firma, která AI používá nebo vyvíjí, měla projít několika kroky. Zaprvé zmapujte všechny AI systémy ve vaší organizaci — včetně těch, o kterých možná nevíte (AI v CRM, v analýze dat, v zákaznické podpoře). Zadruhé klasifikujte je podle rizikových kategorií EU AI Act. Zatřetí ověřte, že žádný z vašich systémů nepatří mezi zakázané praktiky.
Začtvrté připravte dokumentaci: hodnocení rizik, technické specifikace, protokoly lidského dohledu. Zapáté proveďte posouzení shody (conformity assessment) pro vysoce rizikové systémy. Zašesté registrujte příslušné systémy v databázi EU. Zasedmé zavedete mechanismy transparentnosti — jasná informace uživatelům, že komunikují s AI, a označování syntetického obsahu. A konečně nastavte procesy pro hlášení incidentů.
Co dělat jako jednotlivec
Etika AI se netýká jen firem. Každý, kdo AI používá, by měl přemýšlet o několika věcech. Čtěte podmínky služeb — co se děje s vašimi daty? Některé AI služby používají vaše vstupy k trénování modelů, jiné je sdílejí s třetími stranami. Buďte skeptičtí k obsahu na internetu — video, fotka ani zvukový záznam už nejsou důkazem ničeho.
Nesvěřujte AI citlivé osobní nebo firemní informace bez ověření, kam data putují. Pokud vám AI doporučí důležité rozhodnutí (zdravotní, finanční, právní), vždy si ho nechte potvrdit člověkem. A pokud máte podezření, že o vás AI rozhodla nespravedlivě — například při žádosti o úvěr nebo o práci — máte právo na vysvětlení. EU AI Act toto právo posiluje.
Environmentální stopa: skrytá cena AI
O etice AI se často mluví v kontextu biasu a soukromí, ale méně se zmiňuje environmentální dopad. Globální spotřeba elektřiny datových center může v roce 2026 překročit tisíc terawatthodin. Trénink jediného velkého jazykového modelu (GPT-3) spotřeboval 1 287 MWh energie a vyprodukoval 552 tun CO₂. Některá hyperscale datová centra spotřebují denně až 22 milionů litrů pitné vody na chlazení.
Pro firmy, které se hlásí k udržitelnosti, je to důležitý aspekt. Při volbě AI řešení má smysl zvážit energetickou náročnost modelu, zda poskytovatel používá obnovitelné zdroje a zda menší, specializovaný model nedosáhne stejného výsledku jako obří generický systém — s desetinou spotřeby.
Pohled do budoucna
Etika a regulace AI se budou dál zpřísňovat. Mezinárodní zpráva o bezpečnosti AI z roku 2026 mapuje schopnosti, rizika i ochranná opatření a signalizuje, že globální koordinace v této oblasti sílí. UNESCO rozšiřuje implementaci svých doporučení. A v EU se připravují další vlny regulace — včetně pravidel pro systémy obecného určení s vysokým dopadem, která začnou platit v srpnu 2027.
Pro české firmy je klíčové nekoukat se na regulaci jako na brzdu, ale jako na konkurenční výhodu. Firma, která prokazatelně dodržuje etické standardy a má transparentní přístup k AI, získá důvěru zákazníků i obchodních partnerů. V době, kdy 88 % firem AI používá, ale jen třetina ji škáluje zodpovědně, je etický přístup způsob, jak se odlišit.
Závěr: etika AI není luxus, je to nutnost
Rizika umělé inteligence jsou reálná — od algoritmického biasu přes deepfaky a ztrátu soukromí až po bezpečnostní hrozby a environmentální zátěž. Regulace v podobě EU AI Act a českého zákona o AI na ně reaguje konkrétními požadavky a citelnými sankcemi.
Ale etika AI není jen o dodržování paragrafů. Je to o rozhodnutí, jakou roli chceme, aby technologie v naší společnosti hrála. Firmy, které k AI přistupují zodpovědně — mapují rizika, školí zaměstnance, zajišťují transparentnost a lidský dohled — nejenže minimalizují právní rizika, ale budují důvěru, která se v digitální ekonomice stává nejcennější měnou. Čas se připravit je teď.