Chatbot nad firemními dokumenty

Chatbot ukáže skladníkovi i mzdy, když čte celý disk.

Chatbot nad firemními dokumenty je program, který na otázku odpoví textem z vašich souborů, ne z hlavy jazykového modelu. Zeptá se ho kdokoli, a proto rozhoduje, jestli odpovídá z toho, co smí číst ten, kdo se ptá, nebo z toho, co smí číst on sám. Podle toho se pozná chatbot, který firmě pomáhá, od chatbota, kterého je po týdnu nutné vypnout.

Petr Kokoška, Manta IT · publikováno 16. listopadu 2026

Ze tří složek dokumentů vede do chatbota cesta jen ze směrnic, smlouvy a mzdy jsou zavřené
Přání a pasti

Co firmy chtějí a kde to drhne.

Zadání zní skoro vždy stejně: lidé se zeptají na směrnici, ceník nebo smlouvu a chatbot odpoví z firemních dokumentů. Nikdo nehledá ve složkách, nikdo neposílá kolegům "kde je to naposledy platné". Je to rozumné přání a technicky dnes proveditelné.

Past je v tom, že model s přístupem na celý disk nezná rozdíl mezi ceníkem a výplatní páskou. Dokument je pro něj text. Když na otázku "kolik bere vedoucí skladu" najde odpověď, napíše ji. Skladníkovi stejně jako jednatelovi.

O úspěchu tedy nerozhoduje, který model vyberete. Rozhodují práva, umístění dat a pořádek v dokumentech. Model se dá za rok vyměnit, špatně otevřený disk se zpátky nezavře.

Práva

Kdo smí co vidět, chatbot sám neví.

Chatbot od velkého dodavatele dědí oprávnění, která už ve firmě máte. U Microsoftu to výrobce popisuje přímo: "Microsoft Copilot zobrazuje firemní data jen těm uživatelům, kteří k nim mají alespoň právo čtení" (Microsoft Learn, aktualizováno 4. 11. 2026). Ve stejném textu doplňuje, že je důležité mít v systému oprávnění nastavená tak, aby správní lidé měli přístup ke správnému obsahu.

Přeloženo do běžné firmy: chatbot nic nevymyslí, jen zrcadlí stav, který máte. Pokud je složka se mzdami "pro jistotu" dostupná všem, chatbot to nezmění. Pouze to poprvé někdo zkusí a zjistí.

Zkuste v hlavě tři otázky. Kdo dnes smí číst smlouvy s odběrateli? Kdo mzdy a výpovědi? Víte to z nastavení, nebo z přesvědčení, že se tam nikdo nedívá? Odpověď na třetí otázku bývá nejpoctivější, a nejméně příjemná. Mapu toho, kdo co smí, sestavuje příprava firmy: data, procesy a lidé.

Zákaz v zadání

Proč nestačí chatbotovi zakázat mzdy.

Častý nápad zní: do zadání chatbota napíšeme, ať o mzdách nemluví. Autoři seznamu rizik pro jazykové modely (OWASP GenAI Security Project, 2025) k tomu píšou, že taková omezení "nemusí být vždy dodržena a lze je obejít" cíleným dotazem. Doporučují omezit přístup k citlivým datům podle principu nejmenších oprávnění: každý dostane jen to, co potřebuje.

Zákaz v textu je tedy prosba, ne zámek. Zámek musí být tam, kde se dokumenty vybírají: chatbot dostane k odpovědi jen soubory, které smí číst ten, kdo se ptá. Co do něj nedorazí, nemůže vyzradit.

S tím souvisí pořádek. Tři verze jedné směrnice, ceník z minulého roku vedle letošního, smlouva bez označení, zda ještě platí. Člověk si všimne data v názvu souboru, chatbot ne. Odpoví s jistotou, a špatně.

Kam jdou data

Smí dokumenty opustit firmu?

Druhá otázka před nasazením je, kam se dokumenty při odpovědi posílají. Veřejná služba zpracovává text na cizích serverech. Někdy je to v pořádku, někdy ne, a často se to liší dokument od dokumentu. Ceník ven smí. Smlouva s klausulí o mlčenlivosti nejspíš ne.

Ani u velkého dodavatele není všechno stejné. Microsoft u svého asistenta uvádí, že modely od Anthropic jsou jako subdodavatel zatím z hranice zpracování dat v EU vyloučeny (Microsoft Learn, aktualizováno 4. 11. 2026). Správce firemního účtu si tedy musí ověřit, který model je zapnutý a kde běží, nejen jestli "je to Microsoft".

Hranici si určíte sami: které dokumenty smí ven, které ne a které se do chatbota vůbec nedostanou. Do té doby je bezpečnější začít jednou složkou, třeba provozními směrnicemi, než celým diskem.

Lokální AI

Kdy má smysl AI, která běží u vás.

Lokální AI znamená, že model i dokumenty zůstávají na serveru ve firmě, nebo na stroji pronajatém jen pro vás. Data nikam neodcházejí a práva se hlídají na jednom místě. Má to smysl, když pracujete se smlouvami pod mlčenlivostí, s osobními údaji zaměstnanců nebo s výrobními podklady, které nechcete posílat nikam mimo.

Nemá to smysl, když chcete jen odpovídat na otázky nad veřejným ceníkem a návody. Tam stačí veřejná služba a nad ní pořádek ve zdrojích. Lokální provoz přidává práci s hardwarem a údržbou a platí se tím, že data nikam neodejdou. Pokud v dokumentech nic citlivého nemáte, platíte za jistotu, kterou nepotřebujete.

Podle toho, jak firma zachází s dokumenty, vychází jedno ze tří rozhodnutí. Úklid předem a pak veřejná služba. Lokální AI s hlídanými právy. Nebo zatím nic, dokud se neví, kdo co smí. Na téma chatbota navazuje na ni článek o chatbotu na webu a povinnostech podle AI Actu, který řeší opačnou stranu: chatbota, se kterým mluví vaši zákazníci.

Předem

Co si ujasnit, než se cokoli zapne.

Před nasazením stačí tři věci, které se dají zapsat na jednu stránku:

Zbytek, tedy výběr modelu a vzhled okna, jsou věci na odpoledne. Tyhle tři věci se dělají týdny, protože se při nich zjistí, jak to ve firmě doopravdy je.

Další krok

Co s tím teď.

Pokud chcete chatbota jen nad veřejnými návody a ceníkem, tenhle článek nepotřebujete: stačí veřejná služba a pořádek v textech. Jakmile mají odpovídat smlouvy, interní směrnice nebo cokoli o zaměstnancích, začíná otázka práv.

Nastavím chatbota tak, aby u každé odpovědi viděl jen to, na co má právo ten, kdo se ptá, a poběží tam, kde data zůstanou.

Ukázat řešení