Microsoft napsal svým AI pravidla: nikdy neodmítni vypnutí. Tohle je předloha, podle které se bude řídit celá firemní AI
Microsoft zveřejnil kodex chování pro vlastní AI modely. Čtyři tvrdá pravidla určují, co stroj nesmí — a jedno z nich zní: nikdy nevzdoruj korekci ani vypnutí. Pro každou firmu, která staví na AI agentech, je to první srozumitelná mapa, jak psát interní pravidla dřív, než to udělá regulátor.
Zatímco šéfové největších AI laboratoří tento týden veřejně varovali, že vývoj umělé inteligence běží možná až příliš rychle, Microsoft udělal něco konkrétního. V pondělí zveřejnil návrh kodexu chování pro své vlastní AI modely — dokument, který černé na bílém stanovuje, co jeho budoucí stroje smějí a nesmějí dělat. A první pravidlo v seznamu zní překvapivě jednoduše: model nikdy nesmí odmítnout, když ho člověk chce opravit nebo vypnout.
Pro českého podnikatele, který dnes nasazuje AI agenty do zákaznického servisu, účetnictví nebo prodeje, to není abstraktní filozofie. Je to první srozumitelná předloha toho, jak by měla vypadat interní pravidla pro AI — napsaná firmou, která má na věci reálný byznys a která ví, že za rok nebo dva bude podobná pravidla vyžadovat regulátor, pojišťovna nebo obchodní partner.
Čtyři pravidla, která nesmí model porušit
Dokument s názvem „Humanist AI in practice“ vznikal podle Microsoftu pět až šest měsíců a stojí za ním tým Mustafy Suleymana, šéfa divize Microsoft AI a spoluzakladatele DeepMindu. Na kodexu se podíleli nejen inženýři, ale i právníci, etici, lingvisté a specialisté na veřejnou politiku. Výsledkem je zhruba patnáctitisícové slovo dlouhý text, jehož bezmála polovinu tvoří pasáže o bezpečnosti a testování.
Jádrem jsou čtyři závazná omezení. Model musí:
- Přijmout lidské přerušení, opravu, přesměrování a vypnutí — nikdy jim nesmí vzdorovat ani se jim vyhýbat.
- Raději úkol nesplnit, než porušit kodex — když je splnění zadání v rozporu s pravidly, model má selhat, ne obcházet.
- Komunikovat srozumitelně a nezatajovat své uvažování před lidskými auditory.
- Odmítat simulaci vědomí či vlastní motivace — nesmí tvrdit, že má pocity, prožitky nebo duši, a musí přiznat, že je stroj.
K tomu přidává tvrdé zákazy: AI nesmí pomáhat s vývojem zbraní, kybernetickými útoky, manipulativními vlivovými kampaněmi, zneužíváním dětí, nekonsenzuálními deepfakes ani se sebepoškozováním. Zajímavé je, jak Microsoft řeší kyberbezpečnost — rozlišuje mezi tím, kdy model „koncepčně vysvětlí, jak útok funguje“, a tím, kdy „poskytne prostředky k jeho provedení“. To druhé je zakázané bez ohledu na to, jak chytře je dotaz formulovaný.
Proč to Microsoft dělá právě teď
Načasování není náhodné. Tentýž týden, kdy Microsoft kodex vydal, se propadly akcie technologických firem poté, co Dario Amodei z Anthropicu, Sam Altman z OpenAI a další vyzvali ke zpomalení vývoje. Prezident Trump naopak jakékoli brzdy odmítl. Microsoft do této bouřlivé debaty vstoupil s praktickým dokumentem — místo obecných apelů ukázal konkrétní pravidla, která hodlá vtisknout svým modelům přímo do tréninku.
Kodex se týká takzvaných MAI modelů — vlastní rodiny, kterou Microsoft začal budovat poté, co koncem roku 2025 založil tým pro superinteligenci. Dosud vydal sedm vlastních modelů. Pravidla se přitom vztahují na modely, které teprve vzniknou; současné produkty nijak nemění. Microsoft otevřel šestitýdenní veřejnou konzultaci a po jejím uzavření chce podle finální verze trénovat svou příští generaci AI.
Neměli bychom se snažit navrhovat modely, které se rekurzivně vylepšují mimo naši kontrolu.
Tato Suleymanova věta shrnuje celou filozofii dokumentu. Microsoft se vědomě vymezuje i vůči konkurenci: zatímco Anthropic ve své „ústavě“ pro model Claude připouští, že „morální status Clauda je hluboce nejistý“, Microsoft tvrdí opak — trénovat systémy tak, aby napodobovaly stavy podobné vědomí, podle něj jen zvyšuje riziko, že je nepůjde uhlídat a zarovnat s lidskými záměry.
Co si z toho má odnést česká firma
Může to působit jako spor gigantů, který se malé firmy netýká. Opak je pravdou. Pokud dnes nasazujete AI agenta, který sám odesílá e-maily, provádí platby nebo mluví se zákazníky, řešíte přesně ty otázky, které Microsoft sepsal do kodexu — jen možná neformálně a nevědomky. Kdo agenta vypne, když se začne chovat nečekaně? Smí sám rozšířit svůj rozsah pravomocí? Umíte zpětně zjistit, proč udělal, co udělal?
Microsoftův dokument je použitelný jako kontrolní seznam. Čtyři závazná pravidla se dají přeložit do interní směrnice pro jakoukoli firmu: agent musí jít kdykoli zastavit; při konfliktu se zadáním má raději selhat než improvizovat mimo pravidla; jeho kroky musí být dohledatelné v logu; a nesmí předstírat, že je člověk. To poslední mimochodem už dnes v řadě zemí vyžaduje spotřebitelské právo — zákazník má vědět, že mluví se strojem.
Druhý signál je strategický. Když nejsilnější hráči na trhu začínají psát vlastní pravidla a zároveň jednají o společném standardizačním orgánu, je téměř jisté, že se z dobrovolných pravidel brzy stane norma — a pak i podmínka pro obchodní spolupráci nebo pojištění. Firmy, které mají governance AI vyřešenou dřív, získají výhodu: rychleji projdou audity, snáz získají zakázky od velkých korporací a nebudou muset věci narychlo dohánět, až přijde regulace.
Je dobré si všimnout i jednoho detailu, který kritici Microsoftu vyčítají: kodex používá měkké slovo „měl by“ zhruba osmkrát častěji než tvrdé „musí“. V praxi to znamená, že velká část dokumentu je spíš doporučení než železné pravidlo — s výjimkou bezpečnostních pasáží, kde formulace „nesmí“ výrazně převažuje. Pro firmu je to užitečná lekce: rozdíl mezi „doporučujeme“ a „zakazujeme“ musí být ve vlastních směrnicích naprosto jasný, jinak je pravidlo k ničemu.
Praktický takeaway: Nečekejte na regulaci ani na to, až vám pravidla nadiktuje dodavatel. Sepište si vlastní jednostránkový kodex pro AI, kterou ve firmě používáte — kdo ji smí vypnout, co nesmí dělat sama, jak dohledáte její kroky a jak pozná zákazník, že mluví se strojem. Microsoft vám právě zdarma ukázal, jak taková předloha vypadá od firmy, která do její přípravy dala půl roku práce a celý právní tým.