Chatbot vám teď musí přiznat, že není člověk. V EU platí přísná pravidla pro AI

Chatbot vám teď musí přiznat, že není člověk. V EU platí přísná pravidla pro AI

Od 2. srpna Evropská komise a národní úřady vymáhají novou vlnu pravidel z AI Actu. Chatboti a hlasoví asistenti musejí uživateli jasně říct, že je za nimi stroj, deepfake videa a AI obrázky potřebují viditelné i strojově čitelné označení a text o věcech veřejného zájmu vydaný bez lidské kontroly musí být označen jako umělý. Za ignorování hrozí pokuta až 15 milionů eur nebo 3 % z celosvětového obratu. Pro české firmy, které nasazují AI do zákaznické podpory, marketingu nebo obsahu, to znamená konkrétní domácí úkol.

Když příště napíšete zprávu do chatu na e-shopu nebo zavoláte na zákaznickou linku a ozve se hlasový asistent, měli byste se od začátku dozvědět jednu věc: že na druhé straně není člověk, ale umělá inteligence. Od 2. srpna to totiž v celé Evropské unii není jen slušnost, ale zákonná povinnost. Evropská komise, její AI Office a národní dozorové úřady začaly vymáhat novou vlnu pravidel z takzvaného AI Actu — evropského nařízení, které jako první na světě komplexně reguluje umělou inteligenci.

Zjednodušeně řečeno: umělá inteligence se od teď musí přiznat, že je umělou inteligencí. A nejde o okrajovou vyhlášku pro pár technologických gigantů. Povinnosti dopadají na poskytovatele i na firmy, které AI systémy jen nasazují — od nadnárodních korporací přes evropské instituce až po malé a střední podniky, tedy i drtivou většinu českého byznysu, který dnes AI běžně používá.

Co přesně nová pravidla vyžadují

Nové transparentní povinnosti se točí kolem jedné myšlenky: člověk má vědět, kdy komunikuje se strojem a kdy se dívá na obsah, který stroj vytvořil. V praxi se to promítá do několika konkrétních požadavků. Chatboti, hlasoví asistenti, avataři a AI agenti, kteří přímo komunikují s lidmi, musejí jasně sdělit, že jde o automatizovaný systém — pokud to už není zcela zřejmé z kontextu.

Druhá velká oblast je takzvaný deepfake obsah. Obrázky, zvuk a videa, které věrohodně napodobují skutečné osoby, předměty, místa nebo události, musejí být podle nařízení „jasně a viditelně označené" a zároveň nést strojově čitelnou značku, aby je bylo možné automaticky rozpoznat. Podobně platí i pro text zveřejněný ve věcech veřejného zájmu, který prošel jen umělou inteligencí bez skutečné lidské redakční kontroly — i ten musí být označen jako uměle vytvořený.

Transparentnost se vztahuje také na systémy pro rozpoznávání emocí a biometrickou kategorizaci lidí. Pokud firma takový nástroj používá, musí o tom dotčené osoby informovat. Evropská komise k tomu vydala sadu ikon a doprovodné pokyny, takže podniky nemusejí vymýšlet vlastní způsob značení od nuly — mají k dispozici jednotný vizuální jazyk, který zákazník pozná napříč službami.

https://noviny.ai/api/admin/images/e499d3cf-8dd1-494c-b5d5-99da97cd9d65/data

Pokuty jdou do milionů eur

Aby pravidla nebyla jen doporučením, přichází EU s citelnými sankcemi. Firmám, které transparentní povinnosti ignorují, hrozí pokuta až 15 milionů eur, nebo 3 % z celosvětového ročního obratu — podle toho, která částka je vyšší. To v přepočtu znamená stovky milionů korun a u velkých společností s obratem v miliardách může jít i výš. Pro evropské instituce a agentury je strop nastaven na 750 tisíc eur.

Nařízení sice počítá s proporcionalitou u malých a středních podniků, takže dozorové úřady mají brát ohled na velikost firmy, ale zásada zůstává jasná: transparentnost není nepovinná. Dohled má na starost síť národních úřadů pro dozor nad trhem, evropský AI Office u systémů pod jeho gescí a Evropský inspektor ochrany údajů u aktivit unijních institucí.

Jeden odklad, který se hodí znát

Ne všechno musí být splněno okamžitě k datu 2. srpna. Podle prozatímní dohody z takzvaného AI Omnibusu z května 2026 dostaly generativní AI systémy, které byly na trhu už před tímto datem, čas do 2. prosince 2026 na to, aby doplnily strojově čitelné značení svého obsahu. Je to praktická úleva pro nástroje, které fungují už delší dobu a technické značení se do nich musí teprve doplnit.

Viditelné upozornění, že uživatel mluví s chatbotem, ani povinnost označit deepfaky ale tento odklad neřeší — ty platí od srpna. Firmy by proto neměly spoléhat na to, že mají čas do konce roku na všechno. Rozumné je oddělit, co lze splnit hned jednoduchou úpravou rozhraní, od toho, co vyžaduje složitější technické zásahy do generování obsahu.

Co to znamená pro váš byznys

Pro českého podnikatele je zpráva jednoduchá: pokud používáte AI směrem k zákazníkům nebo veřejnosti, máte domácí úkol. Nejběžnější místa, kterých se pravidla dotknou, jsou zákaznické chatboty na webu a v aplikacích, hlasoví asistenti na infolinkách, marketingová videa a vizuály generované AI a automaticky psaný obsah, který nikdo lidsky neredigoval. Všude tam se dnes hodí zkontrolovat, jestli je jasně řečeno, že za výstupem stojí stroj.

Dobrá zpráva je, že většina úprav je spíš organizační a komunikační než technicky náročná. Přidat na začátek chatu větu „Píše s vámi virtuální asistent", doplnit k AI generovaným vizuálům viditelný štítek nebo upravit šablony e-mailů a příspěvků obvykle nezabere týdny vývoje. Zásadní je udělat si přehled, kde všude AI ve firmě běží — a právě tato inventura bývá u mnoha podniků největší překvapení, protože AI nástroje se dnes rozlézají do marketingu, podpory i interních procesů rychleji, než management stíhá evidovat.

https://noviny.ai/api/admin/images/e3addf31-32df-4b48-87d1-f2314cfbc9ba/data

Regulace jako konkurenční výhoda

Je lákavé vidět v každém novém nařízení jen další byrokratickou zátěž. U transparentnosti AI ale stojí za to podívat se na věc i z druhé strany. Důvěra zákazníků k umělé inteligenci je křehká a průzkumy dlouhodobě ukazují, že lidé mají obavy z toho, když nevědí, s čím nebo s kým vlastně jednají. Firma, která otevřeně přizná, kde AI používá, nemusí nutně tratit — naopak může získat body za férovost v době, kdy je nedůvěra k „umělým" obsahům na vzestupu.

Evropa navíc těmito pravidly nastavuje standard, který se podobně jako u ochrany osobních údajů může stát referenčním rámcem i mimo unii. Kdo si transparentní práci s AI osvojí teď, nebude ji za pár let dohánět pod tlakem. Nová pravidla tak nejsou koncem hry s umělou inteligencí, ale spíš zavedením jasných mantinelů — a firmy, které je vezmou jako příležitost budovat důvěru, na tom mohou spíš vydělat než ztratit.