Chatbot ukáže skladníkovi i mzdy, když čte celý disk.
Chatbot nad firemními dokumenty je program, který na otázku odpoví textem z vašich souborů, ne z hlavy jazykového modelu. Zeptá se ho kdokoli, a proto rozhoduje, jestli odpovídá z toho, co smí číst ten, kdo se ptá, nebo z toho, co smí číst on sám. Podle toho se pozná chatbot, který firmě pomáhá, od chatbota, kterého je po týdnu nutné vypnout.
Petr Kokoška, Manta IT · publikováno 16. listopadu 2026
Co firmy chtějí a kde to drhne.
Zadání zní skoro vždy stejně: lidé se zeptají na směrnici, ceník nebo smlouvu a chatbot odpoví z firemních dokumentů. Nikdo nehledá ve složkách, nikdo neposílá kolegům "kde je to naposledy platné". Je to rozumné přání a technicky dnes proveditelné.
Past je v tom, že model s přístupem na celý disk nezná rozdíl mezi ceníkem a výplatní páskou. Dokument je pro něj text. Když na otázku "kolik bere vedoucí skladu" najde odpověď, napíše ji. Skladníkovi stejně jako jednatelovi.
O úspěchu tedy nerozhoduje, který model vyberete. Rozhodují práva, umístění dat a pořádek v dokumentech. Model se dá za rok vyměnit, špatně otevřený disk se zpátky nezavře.
Kdo smí co vidět, chatbot sám neví.
Chatbot od velkého dodavatele dědí oprávnění, která už ve firmě máte. U Microsoftu to výrobce popisuje přímo: "Microsoft Copilot zobrazuje firemní data jen těm uživatelům, kteří k nim mají alespoň právo čtení" (Microsoft Learn, aktualizováno 4. 11. 2026). Ve stejném textu doplňuje, že je důležité mít v systému oprávnění nastavená tak, aby správní lidé měli přístup ke správnému obsahu.
Přeloženo do běžné firmy: chatbot nic nevymyslí, jen zrcadlí stav, který máte. Pokud je složka se mzdami "pro jistotu" dostupná všem, chatbot to nezmění. Pouze to poprvé někdo zkusí a zjistí.
Zkuste v hlavě tři otázky. Kdo dnes smí číst smlouvy s odběrateli? Kdo mzdy a výpovědi? Víte to z nastavení, nebo z přesvědčení, že se tam nikdo nedívá? Odpověď na třetí otázku bývá nejpoctivější, a nejméně příjemná. Mapu toho, kdo co smí, sestavuje příprava firmy: data, procesy a lidé.
Proč nestačí chatbotovi zakázat mzdy.
Častý nápad zní: do zadání chatbota napíšeme, ať o mzdách nemluví. Autoři seznamu rizik pro jazykové modely (OWASP GenAI Security Project, 2025) k tomu píšou, že taková omezení "nemusí být vždy dodržena a lze je obejít" cíleným dotazem. Doporučují omezit přístup k citlivým datům podle principu nejmenších oprávnění: každý dostane jen to, co potřebuje.
Zákaz v textu je tedy prosba, ne zámek. Zámek musí být tam, kde se dokumenty vybírají: chatbot dostane k odpovědi jen soubory, které smí číst ten, kdo se ptá. Co do něj nedorazí, nemůže vyzradit.
S tím souvisí pořádek. Tři verze jedné směrnice, ceník z minulého roku vedle letošního, smlouva bez označení, zda ještě platí. Člověk si všimne data v názvu souboru, chatbot ne. Odpoví s jistotou, a špatně.
Smí dokumenty opustit firmu?
Druhá otázka před nasazením je, kam se dokumenty při odpovědi posílají. Veřejná služba zpracovává text na cizích serverech. Někdy je to v pořádku, někdy ne, a často se to liší dokument od dokumentu. Ceník ven smí. Smlouva s klausulí o mlčenlivosti nejspíš ne.
Ani u velkého dodavatele není všechno stejné. Microsoft u svého asistenta uvádí, že modely od Anthropic jsou jako subdodavatel zatím z hranice zpracování dat v EU vyloučeny (Microsoft Learn, aktualizováno 4. 11. 2026). Správce firemního účtu si tedy musí ověřit, který model je zapnutý a kde běží, nejen jestli "je to Microsoft".
Hranici si určíte sami: které dokumenty smí ven, které ne a které se do chatbota vůbec nedostanou. Do té doby je bezpečnější začít jednou složkou, třeba provozními směrnicemi, než celým diskem.
Kdy má smysl AI, která běží u vás.
Lokální AI znamená, že model i dokumenty zůstávají na serveru ve firmě, nebo na stroji pronajatém jen pro vás. Data nikam neodcházejí a práva se hlídají na jednom místě. Má to smysl, když pracujete se smlouvami pod mlčenlivostí, s osobními údaji zaměstnanců nebo s výrobními podklady, které nechcete posílat nikam mimo.
Nemá to smysl, když chcete jen odpovídat na otázky nad veřejným ceníkem a návody. Tam stačí veřejná služba a nad ní pořádek ve zdrojích. Lokální provoz přidává práci s hardwarem a údržbou a platí se tím, že data nikam neodejdou. Pokud v dokumentech nic citlivého nemáte, platíte za jistotu, kterou nepotřebujete.
Podle toho, jak firma zachází s dokumenty, vychází jedno ze tří rozhodnutí. Úklid předem a pak veřejná služba. Lokální AI s hlídanými právy. Nebo zatím nic, dokud se neví, kdo co smí. Na téma chatbota navazuje na ni článek o chatbotu na webu a povinnostech podle AI Actu, který řeší opačnou stranu: chatbota, se kterým mluví vaši zákazníci.
Co si ujasnit, než se cokoli zapne.
Před nasazením stačí tři věci, které se dají zapsat na jednu stránku:
- Které dokumenty chatbot čte. Začněte jednou složkou, ne celým diskem.
- Kdo co z nich smí vidět, a kde je to zapsané v právech, ne v hlavě jednoho člověka.
- Jestli smí data opustit firmu, a pokud ne, kde chatbot poběží.
Zbytek, tedy výběr modelu a vzhled okna, jsou věci na odpoledne. Tyhle tři věci se dělají týdny, protože se při nich zjistí, jak to ve firmě doopravdy je.
Co s tím teď.
Pokud chcete chatbota jen nad veřejnými návody a ceníkem, tenhle článek nepotřebujete: stačí veřejná služba a pořádek v textech. Jakmile mají odpovídat smlouvy, interní směrnice nebo cokoli o zaměstnancích, začíná otázka práv.
Nastavím chatbota tak, aby u každé odpovědi viděl jen to, na co má právo ten, kdo se ptá, a poběží tam, kde data zůstanou.