Do hitparády Billboard pronikla píseň, která zřejmě vznikla pomocí AI. Nikdo to ale neumí dokázat

Do hitparády Billboard pronikla píseň, která zřejmě vznikla pomocí AI. Nikdo to ale neumí dokázat

Skladba „Rubberz“ rappera Fenixe Flexina se dostala na 58. místo amerického žebříčku Billboard Hot 100. Hudebníci v ní slyší typické stopy generativní AI, obrazové detektory označily obal za umělý s více než 97procentní jistotou, přesto chybí důkaz, který by spor uzavřel. Pro firmy je to varování: původ digitálního obsahu se stává obchodním rizikem.

Umělá inteligence už skládá hudbu, vytváří reklamní znělky a napodobuje lidské hlasy. Dosud však bylo poměrně snadné oddělit experimenty vytvořené pomocí AI od běžné hudební produkce. Případ skladby „Rubberz“ ukazuje, že tato hranice mizí. Píseň rappera Fenixe Flexina se dostala na 58. místo žebříčku Billboard Hot 100, aniž by veřejnost spolehlivě věděla, kdo — nebo co — ji ve skutečnosti vytvořilo.

Fenix Flexin, známý z losangeleské skupiny Shoreline Mafia, tvrdí, že skladba není dílem generátoru. Řada hudebních odborníků a posluchačů tomu nevěří. Nejde přitom jen o neurčitý pocit. V nahrávce jsou slyšet chyby typické pro generativní nástroje, text působí jako logicky poskládaná změť rýmů a zpěvák při živých vystoupeních nedokáže věrně zopakovat hlas, přízvuk ani melodii ze studiové verze.

Pět detektorů nenašlo jistotu, lidské ucho ano

Novinář Terrence O'Brien z The Verge poslal skladbu do pěti nástrojů určených k rozpoznávání hudby vytvořené umělou inteligencí. Výsledek nebyl přesvědčivý: jednotlivé služby odhadly pravděpodobnost použití AI pouze na 20 až 30 procent. To je příliš málo na veřejné obvinění autora a zároveň příliš mnoho na to, aby bylo možné podezření jednoduše odmítnout.

Specialisté na hudební produkci však upozorňují na konkrétní stopy. Činely mají nepřirozeně křehký zvuk, dozvuk bicích se náhle usekává a doprovodné hlasy se objevují a mizí bez zjevného záměru. Refrén místy připomíná silně komprimovaný soubor MP3. Podobné vady vznikají, když model skládá výslednou zvukovou stopu z pravděpodobnostních vzorců, ale nerozumí fyzice nástrojů ani práci se studiovým prostorem.

https://noviny.ai/api/admin/images/51401a3f-4249-4a7d-a55a-6204317db79f/data

Písňový autor Charlie Harding upozornil také na pravděpodobný původ těchto vad. Modely pro tvorbu hudby se často učí z obrovských sbírek nahrávek různé kvality. Pokud mezi tréninkovými daty převažují silně komprimované soubory, může generátor jejich nedostatky nevědomky napodobit. Výsledek pak zní jako napodobenina napodobeniny: dostatečně přesvědčivě pro běžný poslech z telefonu, ale podezřele při pozorném rozboru.

Doprovodné hlasy se nečekaně objevují a mizí. Dozvuk bicích je plný nepřirozených digitálních vad připomínajících MP3 o kvalitě 64 kb/s.

Obal prozradil víc než samotná hudba

Zatímco zvukové detektory váhaly, doprovodné materiály dopadly jinak. Obal singlu a grafika oslavující umístění v hitparádě byly několika obrazovými detektory označeny jako výstup AI s více než 97procentní pravděpodobností. Také text písně vykazuje vzorce, které jazykové modely často vytvářejí: jednoduché párové rýmy, věty, které samostatně dávají smysl, ale dohromady nevytvářejí příběh, a slova vybraná spíše kvůli zvuku než významu.

Ani to však není důkaz autorství. Umělec může použít generátor na obal a přitom skladbu nahrát tradičně. Může si nechat pomoc s částí textu nebo s prvním návrhem, zatímco hudbu dokončí člověk. A může využít AI jen jako jeden z desítek nástrojů ve studiu. Označení „vytvořeno pomocí AI“ proto pokrývá vše od drobné úpravy až po skladbu vygenerovanou jediným pokynem. Bez zveřejněného postupu a původních projektových souborů tyto scénáře nelze rozlišit.

Flexin zveřejnil záběry, které mají ukazovat pracovní projekt v programu Pro Tools. Takový záznam ale dokládá pouze to, že výsledná nahrávka byla do programu vložena nebo upravována. Neodhaluje, jak vznikly jednotlivé zvukové stopy. Jeho obhajobě nepomohla ani vystoupení ve studiu a na pódiu. Zpěvák často pouze otevíral ústa do hotové nahrávky a při skutečném zpěvu se jeho hlas, rozsah i britský přízvuk výrazně lišily.

Autor rozdíl vysvětluje hlasovými úpravami a automatickým laděním. To je možné jen částečně. Nástroj typu Auto-Tune opraví výšku tónu nebo vytvoří robotický účinek, sám však obvykle nepřidá zpěvákovi nový hlasový rozsah ani věrohodný cizí přízvuk. Celý spor tak zůstává ve zvláštní rovnováze: existuje mnoho nepřímých známek, ale žádná z nich sama o sobě nestačí.

Pro firmy není hlavním problémem kvalita, ale původ

Na první pohled jde o kuriozitu z hudebního průmyslu. Ve skutečnosti je případ důležitý pro každou firmu, která nakupuje texty, fotografie, videa, hlasy nebo reklamní hudbu. Pokud se obsah dostane do prestižního žebříčku a ani specializované nástroje nedokážou určit jeho původ, nelze firemní kontrolu stavět pouze na automatickém detektoru. Dodavatel může předat technicky použitelný výsledek, ale zákazník zároveň přebírá právní a reputační riziko spojené s tréninkovými daty, napodobeným hlasem nebo nejasným autorstvím.

Detektory mají zásadní slabinu: reagují na vlastnosti známých modelů, zatímco generátory se rychle mění. Falešně mohou označit lidskou tvorbu a naopak přehlédnout dobře upravený výstup AI. Firma, která odmítne práci autora jen podle procenta z neveřejného nástroje, se vystavuje sporu. Firma, která výsledek bez další kontroly přijme, může později zjistit, že nemá dostatečně doložená práva.

https://noviny.ai/api/admin/images/7e6f7c43-544a-4b1f-981c-c146f52e52e4/data

Správnou odpovědí proto není hon na každý digitální artefakt. Je jí doložitelný výrobní postup. U důležitých zakázek by smlouva měla určit, zda a v jakém rozsahu lze generativní nástroje použít, kdo odpovídá za licence a zda dodavatel musí uchovat pracovní soubory, zadání, použité modely a zdroje. U hlasu a podoby konkrétních lidí je vhodný výslovný souhlas. U hudby pro dlouhodobou značkovou kampaň má smysl požadovat samostatné stopy a záznam změn, nikoli pouze výsledný soubor.

Důležitá je také míra rizika. Krátká podkresová hudba pro interní prezentaci nevyžaduje stejnou kontrolu jako televizní reklama, která poběží několik let. Čím větší rozpočet, dosah a doba používání, tím důkladnější by měla být dokumentace. Podnikatel nemusí zakazovat AI; potřebuje vědět, kde byla použita a jaké závazky z toho vyplývají.

Co zavést do objednávek kreativní práce

Stejnou otázku budou brzy řešit také platformy a žebříčky. Billboard měří popularitu, nikoli způsob výroby. Pokud posluchači skladbu skutečně přehrávají, z hlediska statistiky plní stejnou funkci jako lidská nahrávka. Pro vydavatelství, rozhlasové stanice a reklamní zadavatele je však rozdíl zásadní. Potřebují vědět, zda za dílem stojí identifikovatelný autor, zda byly vypořádány licence a zda hlas nepatří někomu, kdo k jeho použití nedal souhlas.

Povinné označování by část problému vyřešilo, jenže i zde chybí jasná hranice. Moderní nahrávka běžně používá automatické ladění, digitální nástroje, oddělování hlasu od hudby nebo inteligentní čištění šumu. Označit každý takový zásah jako tvorbu AI by spotřebitele zahltilo a znehodnotilo informaci. Smysluplnější je rozlišovat mezi technickou úpravou, spoluautorstvím generátoru a plně syntetickým výkonem, zejména pokud napodobuje konkrétního člověka.

Pro menší podnik je poučení praktické i při nákupu za několik tisíc korun. Nízká cena reklamní hudby nebo videa může skrývat budoucí náklady: stažení kampaně, výrobu náhrady a poškození pověsti. V objednávce proto nestačí věta, že dodavatel předává práva k výsledku. Měl by současně potvrdit, že je oprávněn použít všechny podklady a že zákazníka upozornil na syntetické hlasy, napodobené styly a další prvky, jejichž právní postavení může být sporné.

Příběh „Rubberz“ nakonec nemusí skončit potvrzením, že celou skladbu vytvořil stroj. Už samotná nejistota je ale podstatná. Píseň se dostala mezi sto nejúspěšnějších skladeb v USA, vyvolala miliony poslechů a vytvořila obchodní hodnotu dříve, než se podařilo vyjasnit její původ. Trh tak předběhl pravidla i ověřovací nástroje.

Pro české firmy z toho plyne střízlivý závěr: generativní obsah už nelze poznat jen podle toho, že vypadá nebo zní špatně. A dobrý výsledek současně neznamená, že je bezpečné jej použít. V nové ekonomice obsahu bude konkurenční výhodou nejen rychlost tvorby, ale také schopnost prokázat, kdo co vytvořil, s jakými nástroji a na základě jakých práv.