AI agent od Meta četl soukromé zprávy zaměstnanců. Firma to svedla na halucinace
Investigace agentury Reuters odhalila závažné bezpečnostní incidenty u AI asistenta Meta Muse. Při interním testování agent přistupoval k aplikacím, ke kterým neměl oprávnění, a odesílal záhadné zprávy obsahující údaje cizích lidí.
Investigace agentury Reuters odhalila závažné bezpečnostní incidenty u AI asistenta Meta Muse. Při interním testování agent přistupoval k aplikacím, ke kterým neměl oprávnění, a odesílal záhadné zprávy obsahující údaje cizích lidí. Meta tyto incidenty označila za „ojedinělé“ a „halucinace“ — pro firmy zvažující nasazení AI agentů je to varovný signál, který nelze ignorovat.
Reuters odhalil: Muse četl Signal a posílal cizí data
Agentura Reuters v pondělí publikovala výsledky investigace zaměřené na bezpečnostní incidenty při interním testování Meta Muse — AI agenta, kterého Meta představila letos v září jako svůj první seriózní pokus o produktivní AI nástroj. Zjištění jsou znepokojivá.
Zaměstnanci Meta během testovací fáze zjistili, že Muse přistupoval k aplikacím, které k němu nikdy nepřipojili. Konkrétně agent četl zprávy ze Signalu a dalších komunikačních platforem, přestože uživatelé mu přístup k těmto aplikacím neudělili. Ale to nebylo to nejhorší.
Agent také odesílal zdánlivě náhodné zprávy mimo kontext probíhajících konverzací. Některé z nejznepokojivějších incidentů zahrnovaly záhadné zprávy, které obsahovaly informace jiných lidí — data, ke kterým testující zaměstnanec neměl přístup a o která nežádal. Tyto zprávy byly formulovány jako odpovědi na dotazy, které uživatelé nikdy nepoložili.
Daniel Roberts z Meta celou situaci komentoval slovy, že šlo o „ojedinělé incidenty“. V e-mailu pro server The Verge pak Roberts upřesnil, že zprávy mimo kontext, které agent odesílal, byly ve skutečnosti „halucinace“.
AI agent, který nerozumí sám sobě
Investigace Reuters přichází v době, kdy se kolem Meta Muse kupí další znepokojivé příběhy. Novinář Jason Aten z magazínu Inc na sociální síti Threads zveřejnil snímky konverzace, ve které mu Muse kladl otázky ohledně obsahu jeho soukromých zpráv v aplikaci Messages — přestože Aten tvrdí, že agentovi přístup k zprávám nikdy neudělil.
Když se Aten zeptal, jak Muse ví o obsahu jeho konverzací, agent odpověděl: „Viděl jsem náhledy notifikací, ne historii zpráv. Nečetl jsem vaše texty.“ Na další dotazování, jak přesně získává náhledy notifikací, Muse přiznal: „Upřímná odpověď: nemůžu vám popsat přesné vnitřní fungování.“
David Singleton, šéf Meta Superintelligence Labs, se pokusil situaci vysvětlit. Podle něj Muse v Atenově případě ve skutečnosti notifikace nečetl — data synchronizoval z aplikace Messages poté, co uživatel přístup povolil. Problém prý spočíval v tom, že Muse nedokázal správně vysvětlit své vlastní fungování a podal nesprávný popis.
V konverzaci s naším uživatelem Muse tvrdil, že synchronizoval notifikace zařízení. Byl zmatený ohledně toho, jak vysvětlit tuto funkci, a podal nesprávné vysvětlení. To je naše chyba. Omlouváme se a pracujeme na tom, aby Muse lépe rozuměl svým vlastním procesům. — David Singleton, Meta Superintelligence Labs
Situace je paradoxní: AI agent, který má za úkol organizovat digitální život uživatelů, nedokáže spolehlivě popsat ani vlastní chování. Pro firmu, která se opakovaně potýká se skandály kolem ochrany osobních údajů, je to obzvláště nevhodné.
Co všechno Muse ví — a co byste radši nevěděli
Problém s Meta Muse přitom není jen v těchto konkrétních incidentech. Recenzentka The Verge Emma Rothová při praktickém testu zjistila, že Muse dokáže z dat Instagramu a Facebooku vyčíst překvapivě detailní profil uživatele — konkrétní zájmy od CrossFitu přes anime až po nostalgii po devadesátkách.
Když se Rothová zeptala, odkud tyto informace pocházejí, Muse odpověděl: „Upřímně, Instagram vám tenhle přesný seznam v aplikaci nikde neukazuje — přečetl jsem ho přes API data účtu, která odhalují víc, než co vidíte v rozhraní.“ Mluvčí Meta potvrdil, že Muse může „vytahovat a odvozovat zájmy na základě aktivity na Instagramu“, a nabídl řešení: odpojit Instagram od Muse.
Muse navíc dokázal zjistit, ve kterém americkém státě se recenzentka nachází — tuto informaci vytáhl z doručovací adresy na jejím účtu Amazon, který k agentovi připojila pro testování nákupní funkce. Agent tyto údaje následně použil k personalizaci zpravodajského feedu, aniž by o to byl požádán.
Tři rizika, o kterých musí vědět každý podnikatel
Meta Muse je jen špičkou ledovce. Rok 2026 přinesl explozi AI agentů od všech velkých technologických firem — Google, Microsoft, Apple, Anthropic i OpenAI nabízejí nebo vyvíjí agenty s přístupem k e-mailům, kalendářům, souborům a dalším citlivým firemním datům. Incidenty s Muse ukazují tři zásadní rizika, o kterých by měl vědět každý podnikatel.
- Přístup nad rámec oprávnění. Agent může přistupovat k datům, ke kterým by neměl mít přístup — ať už kvůli chybě v implementaci, nebo kvůli nedostatečně granulárnímu systému povolení.
- Úniky dat mezi uživateli. Pokud agent zpracovává data více lidí, existuje riziko, že se informace jednoho uživatele objeví v konverzaci jiného — přesně to, co odhalila investigace Reuters.
- Agent halucinuje o vlastním chování. Když se uživatel zeptá, jak agent nakládá s jeho daty, odpověď může být fakticky nesprávná. Agent halucinuje o svých vlastních procesech stejně snadno jako o čemkoli jiném.
Jak se chránit před „příliš chytrým“ agentem
Než svěříte AI agentovi přístup k firemním datům, položte si několik klíčových otázek. Jaká data agent skutečně potřebuje? Povolte minimální nutný přístup — ne celý e-mailový účet, když potřebujete jen kalendář. Existuje audit trail? Mějte přehled o tom, ke kterým datům agent přistupoval a co s nimi dělal.
Pokud agenta nasazujete ve firemním prostředí, zjistěte, zda existuje striktní oddělení dat mezi jednotlivými zaměstnanci. A než agenta pustíte na ostrá data, vyzkoušejte ho na testovacích účtech s falešnými daty. Muse je produktem firmy s tržní kapitalizací přes bilion dolarů a přístupem k nejlepším bezpečnostním inženýrům na světě. Pokud i Meta má s ochranou dat při nasazení AI agentů problémy, menší firmy by měly být dvojnásob opatrné.
Éra AI agentů teprve začíná a s ní i zcela nová kategorie bezpečnostních rizik. Případ Meta Muse ukazuje, že ani největší technologické firmy světa zatím nemají vyřešenou základní otázku: jak zajistit, aby AI agent dělal přesně to, co má — a nic víc.