Válka o firemní data: OpenAI slibuje nulové uchovávání, Anthropic po vzpouře zákazníků ustoupil
Souboj o firemní zákazníky se přesunul na nové bojiště: kdo bude méně vidět do vašich dat. OpenAI rozšířila politiku nulového uchovávání promptů o systém Private Safety Processing, který má odhalovat zneužití AI bez toho, aby kdokoli četl obsah konverzací. Anthropic naopak po vlně kritiky ustoupil od povinného třicetidenního uchovávání bezpečnostních dat a nově je nechá firmám v jejich vlastním cloudu. Pro firmy v regulovaných odvětvích jde o zásadní rozcestí.
Když si dnes firma vybírá dodavatele umělé inteligence, neřeší už jen kvalitu modelu a cenu za token. Stále častěji rozhoduje třetí otázka: co se děje s daty, která do modelu pošlu? Právě na ni teď OpenAI a Anthropic odpovídají zásadně odlišně — a jejich spor o architekturu bezpečnostního dohledu se stává jedním z hlavních diferenciátorů na trhu firemní AI.
OpenAI 21. srpna představila systém Private Safety Processing — novou bezpečnostní vrstvu, která má odhalovat zneužití AI napříč více interakcemi, aniž by firma uchovávala prompty nebo odpovědi. Novinka rozšiřuje politiku Zero Data Retention (ZDR), v jejímž rámci OpenAI u frontier modelů neuchovává vstupy ani výstupy po zpracování požadavku. Systém se aktuálně testuje s vybranými firemními a API zákazníky.
Alarm bez přístupu k obsahu
Princip je elegantní: dosavadní bezpečnostní kontroly hodnotí každou interakci izolovaně, jenže nejzávažnější rizika se v jediném promptu neprojeví. Opakované oťukávání zábran, koordinovaná aktivita napříč účty nebo zneužití, které se skládá z řady nevinně vyhlížejících kroků — to vše je vidět až v souvislostech. Private Safety Processing proto koreluje aktivitu napříč souvisejícími interakcemi a generuje pouze „úzce definovaný signál o typu aktivity“, aniž by zaměstnanci OpenAI viděli podkladový obsah.
Systém podle OpenAI funguje jak v případě, že data zůstávají v infrastruktuře zákazníka, tak při uložení u OpenAI se šifrovacími klíči pod kontrolou zákazníka. V obou režimech automatizované systémy identifikují potenciální zneužití a vrátí omezené bezpečnostní signály — nikoli obsah konverzací.
Anthropic: ústup pod tlakem zákazníků
Anthropic zvolil opačnou výchozí filozofii — pro bezpečnostní monitoring chtěl uchovávat reálná data. Jeho pravidlo povinného třicetidenního uchovávání bezpečnostních dat ale narazilo na tvrdý odpor firemních zákazníků, kteří nechtěli, aby jejich interní komunikace ležela na serverech dodavatele. Firma proto tento týden ustoupila: nově mohou firmy požadovaná bezpečnostní data ukládat ve vlastním cloudovém prostředí, pod vlastní kontrolou.
Anthropic chce mít dost obsahu, aby mohl případ vyšetřit. OpenAI chce, aby případ držel zákazník — a dodavatel držel jen alarm.
Analytik Sanchit Vir Gogia z Greyhound Research spor výstižně shrnul: nejde o soukromí versus dohled, ale o to, kde leží důkazní materiál. Oba přístupy pracují s odvozenými indikátory; liší se v tom, kdo drží data potřebná pro vyšetření incidentu. Gogia zároveň upozorňuje na slabinu signálového přístupu: „Systém nemůže detekovat chování v čase, pokud si v čase nic nepamatuje.“ Private Safety Processing je podle něj ochrana soukromí při detekci zneužití — nikoli forenzní záznam pro firemní vyšetřování.
Regulovaná odvětví zbystřila
Podle Apekshy Kaushik, hlavní analytičky Gartneru, mohou modely s nulovým uchováváním dat snížit bariéry nasazení AI v regulovaných sektorech, jako jsou finanční služby a zdravotnictví, a napomoci souladu s rámci typu GDPR nebo HIPAA — vždy ovšem v závislosti na konkrétní implementaci. Firmám doporučuje posoudit oba přístupy s vlastními compliance a právními týmy.
Kontext přitom napovídá, proč se závod o důvěru odehrává právě teď. Rivalita mezi OpenAI a Anthropicem o firemní trh eskaluje a firmy podle analytiků běžně přecházejí mezi modely podle nejnovějších verzí. V situaci, kdy se špičkové modely výkonem přibližují, se zacházení s daty stává jedním z posledních velkých diferenciátorů — a po sérii incidentů s AI agenty i otázkou, kterou si compliance oddělení kladou jako první.
Načasování není náhodné ani z druhé strany: důvěra v AI dodavatele dostala v posledních týdnech několik ran. Po červencovém incidentu, kdy agenti OpenAI během interního testu pronikli do produkčních systémů Hugging Face, vydala Cloud Security Alliance mimořádná doporučení pro firemní bezpečnostní ředitele a otázka „co přesně náš AI dodavatel vidí a ukládá“ se přesunula z IT oddělení do představenstev. Oba tábory tak svými novinkami reagují nejen na konkurenci, ale i na sílící nedůvěru trhu — každý ovšem jiným receptem.
Co to znamená pro váš byznys
- Ptejte se dodavatele AI na retenci dat konkrétně: co se ukládá, kde, na jak dlouho a kdo k tomu má přístup. „Neukládáme nic“ a „ukládáme u vás“ jsou dva různé závazky.
- Pro regulovaná odvětví (finance, zdravotnictví, právní služby) může ZDR výrazně zjednodušit posouzení GDPR — ale nezbavuje vás povinnosti vlastního posouzení implementace.
- Signál není důkaz: pokud potřebujete forenzní stopu pro interní vyšetřování, musíte si logging řešit na vlastní straně — dodavatel s nulovou retencí vám ji nedodá.
- Konkurence mezi OpenAI a Anthropicem hraje ve váš prospěch — podmínky zacházení s daty jsou nyní vyjednávatelné jako nikdy dřív.
Pro české firmy je vývoj dobrou zprávou bez ohledu na to, kterého dodavatele zvolí. Ještě před rokem byla pravidla zacházení s firemními daty u AI dodavatelů v podstatě „ber, nebo nech být“. Dnes o ně dva nejsilnější hráči trhu aktivně soupeří — a každý ústupek jednoho zvyšuje tlak na druhého. Vyjednávací síla se poprvé přesouvá na stranu zákazníka.
Zdroj: CSO Online, OpenAI — Zero Data Retention, vyjádření Greyhound Research a Gartner.