Bez vlastní strategie pro AI se firmy neobejdou

Průměrná organizace používá podle Check Point Research deset různých AI aplikací měsíčně, mnohé bez oficiálního schválení, a průměrný počet promptů na jednoho uživatele stoupl z 56 v prosinci 2025 na 70 v květnu 2026. „Pokud započítáme i AI agenty nebo agentní workflow, určitě v O2 využíváme vyšší desítky AI aplikací. Velká skupina lidí zadává desítky promptů týdně, ale někteří z nás využívají AI i o řád výš,“ konstatuje Petr Hirš.

Kdo má ve firmách AI reálně na starosti? A kdo by tuto roli měl ideálně zastávat?

Osobně si myslím, že toto téma je tak široké a transformační, že si zaslouží explicitní pozornost a podporu od řízení společnosti. AI pod taktovkou IT může vést k implementaci projektů bez byznysové hodnoty. Ale pokud téma vlastní pouze byznys, většinou dochází k opomíjení řízení a bezpečnosti. Dlouhodobě se nám osvědčilo AI kompetenční centrum Dataclair, které v O2 pro tento účel máme a které se přímo zapojuje do byznysových projektů. Díky tomu jsme schopni implementovat AI řešení, která přinášejí reálnou hodnotu pro naši společnost i zákazníky.

Roste podíl vysoce rizikových promptů, tedy výzev na AI, které mohou znamenat ohrožení citlivých firemních dat. Je to daň za produktivitu?

Ne nutně. Řešením je kombinace pravidelné interní osvěty zaměstnanců a implementace procesních a architektonických opatření. Naše produkční AI systémy zároveň testujeme, jak na takové rizikové prompty reagují. Protože hranice mezi „rizikovým“ a „normálním“ promptem není vždy intuitivní, snažíme se připravit pro naše zaměstnance platformy a nástroje, ve kterých je možné s daty organizace pracovat bezpečně.

A jak zabránit tomu, aby zaměstnanci používali vlastní, soukromá předplatná AI služeb pro práci s firemními daty?

Právě proto pro naše zaměstnance máme O2 Sandbox. Je to prostředí, kde mají přístup k bezpečně nastaveným a hostovaným velkým jazykovým modelům poslední generace napříč všemi velkými poskytovateli. Tedy na jednom místě můžete jako zaměstnanec pracovat s modely GPT, Gemini, Claude a dalšími. A to vždy tak, že firemní data nejsou nijak dále využívána pro další trénování modelů. Zaměstnanci pak mají minimální motivaci platit si pro přístup k takovým aplikacím ještě své vlastní nástroje. Tedy samozřejmě pokud je nepotřebují i pro své osobní účely. U vlastních nástrojů je ale zakázané pracovat s daty organizace.

Zkušenost ukazuje, že rizikové chování neklesá s tím, že lidé AI nástroje lépe ovládají. Znamená to, že školení nefungují, nebo že školíme špatně?

Můj osobní názor je, že školení a osvěta jsou a budou stále potřeba. Nelze ale spoléhat pouze na ně. Kromě toho, že by měla být průběžná, ne jednorázová, měla by se víc zaměřit nejen na testování znalostí, ale především na reálnou změnu chování. Tuto vrstvu musí ale doplňovat další nástroje – připravené a bezpečné, které jsou pro tento účel organizací zvoleny a podporovány.

Klíčové je, aby uživatel, který dělá nějakou chybu, takovou zpětnou vazbu získal co nejdříve a mohl tak své kroky příště změnit. I proto se například snažíme transparentně zobrazovat a komunikovat nákladovost jednotlivých modelů, se kterými zaměstnanci pracují.

AI ale slouží i ke kybernetickým útokům – generuje škodlivý kód nebo důvěryhodně působící podvržené zprávy. Mění to profil typického útočníka, kterému má firma čelit?

Počet útoků roste a dále poroste. Co se vlastně děje? Nové AI nástroje dramaticky snižují potřebné technické a jazykové znalosti útočníků. Navíc pomocí agentních sítí výrazně posouvají možnosti škálovatelnosti útoků. Firmy tedy již nečelí jen „profesionálním“ kyberzločincům, ale širšímu spektru útočníků. AI nástroje v podstatě mění samotnou ekonomiku kybernetického útoku.

AI ale pomáhá i na straně obrany proti útokům. Systémy pro detekci anomálií, detekování změn v chování se postupně mění na systémy se schopností automatické reakce na incidenty.

Modely AI také daleko rychleji odhalují neošetřené bezpečnostní mezery. Co to pro podniky znamená a budou schopné zrychlit tempo záplatování?

Doba od zveřejnění zranitelnosti do vytvoření kódu, který ji dokáže zneužít, se zkracuje na jednotky hodin. Proti tomu stojí jen omezená možnost zvyšovat rychlost vytváření a instalace záplat. Organizace využívají různý mix systémů a architektur. Vždy je tu závislost na dodavatelích těchto řešení a jejich schopnosti rychle záplaty připravit, ale pak je potřeba i čas na otestování takových záplat v prostředí organizace před jejich nasazením.

Cesta k řešení není jen ve snaze zrychlovat záplatování. Je třeba posun v myšlení od pouhého záplatování k prioritizaci toho, kde a čím začít – co je kriticky důležité opravit ihned a co může chvíli počkat. S takovou klasifikací může pomáhat AI a část problému lze posunout automatizací v oblasti nasazování a testování záplat. Osobně si myslím, že brzy budou firmy interně provozovat nástroje a AI řešení na průběžné aktivní testování bezpečnosti svého prostředí.

Petr Hirš (45)

Foto: archiv Petra Hirše

ředitel AI Transformation ve společnosti O2

Absolvent oboru informační systémy na Vysokém učení technickém v Brně se informačním technologiím, automatizaci a umělé inteligenci věnuje celou svoji profesní dráhu. Posledních šest let působí v O2 Czech Republic, kde jako ředitel AI Transformation a člen nejvyššího vedení společnosti vede Dataclair, kompetenční centrum pro aplikovanou umělou inteligenci.

K zásadním rizikům patří také prompt injection. Proč neumí jazykový model rozlišit instrukce od dat a nechá se relativně snadno zmanipulovat ke škodlivé činnosti?

Jazykový model ve své podstatě zpracovává instrukce i data jako jeden vstup. Proto není vždy schopen spolehlivě rozlišit, jakou část tvoří data a co jsou instrukce pro model jako takový. Modely jsou sice dotrénované, aby zohlednily například označení konkrétního účelu dat v promptu po zadání určité konvence, která je uvozuje, ale ani toto není tvrdé pravidlo, které by stochastický model vždy dodržoval.

Tím, že ani nevíte, jak, kdo, kdy a s jakým vstupem takový obecný model použije, je nemožné pro všechny možné kombinace vstupů model naučit, co je správné a co má při zpracování odmítnout. Situace je složitější i v tom, že modely nabízejí stále větší kontextová okna, a tedy i větší prostor pro případný „závadný“ vstup.

Firmy nasazují autonomně jednající AI agenty, kteří mají přístup k e‑mailu, dokumentům a systémům. Neznamená to další ohrožení podnikových dat?

Ano, reálně je to další nová komponenta, kterou musí organizace vnímat a připravit se na ni v rámci nasazování těchto nástrojů. Pokud například vytvoříte svého agenta, aby vám pomáhal s poštou, a někdo vám cíleně do pošty pošle e‑mail, pomocí kterého instruuje agenta, aby část pošty někam přeposlal, je možné, že se mu to podaří.

Proto je třeba si zvolit prostředí, ve kterém budou agenti provozováni. Klíčem k funkčnímu řešení pro organizaci je pak nastavení takového prostředí a jeho dohled. Jestli a jak omezovat takové agenty, je na rozhodnutí každé organizace. Dává smysl řešit sandboxing, rate‑limiting, striktní řízení oprávnění agentů a oddělení akcí, jako je zápis a mazání dat. Ty je ideální povolit jen v módu po schválení vlastníkem.

Velké téma je aktuálně také suverénní AI – evropská infrastruktura, data pod vlastní kontrolou. Lze toho v dohledné době reálně dosáhnout?

V současné době je možné velké jazykové modely hostovat několika způsoby. Velké organizace většinou využití těchto služeb zastřešují díky dodavatelům cloudových řešení. I v rámci poskytovatele cloudu je ale hned několik cest. Od přístupu pay‑as‑you‑go po předem pronajatou kapacitu. Nebo si modely, u kterých to licence umožňuje, můžete nasadit na grafické karty pronajaté také v cloudu. Můžete se ale rozhodnout pořídit si vlastní GPU cluster a umístit ho do datového centra nebo si ho pronajmout. Takové řešení, pokud vám dostačuje výkon open source modelů s otevřenými vahami a vašeho GPU clusteru, může být plně nezávislé na poskytovateli.

Věřím, že pro část AI řešení to bude nutné, a lze předpokládat, že firmy si některá z nich postupně přesunou do svých datacenter. S rostoucí poptávkou v této oblasti určitě pro Evropu má smysl budovat AI infrastrukturu, která toto umožní. Výzvou jsou obrovské investice a energetická náročnost takových řešení.

Foto: archiv Petra Hirše

Vlastní provoz modelů AI je jistě jedním z řešení, jak zvýšit bezpečnost dat. Jsou ale takové modely podobně schopné jako komerční, cloudové AI nástroje?

Na to nelze paušálně odpovědět, protože vždy záleží na konkrétním použití. Například pro jednoduché scénáře, kdy se z databáze znalostí hledá správná odpověď, nepotřebujete poslední verze špičkových modelů. Jiné požadavky ale budou na model, který použijete jako „mozek“ pro orchestraci svých agentů nebo pro vývoj aplikací v organizaci. Proto máme své vlastní benchmarky, kde průběžně testujeme komerční i open source modely na konkrétní využití v našich nasazeních. Tam, kde to dává ekonomicky smysl, je možné uvažovat až o tom, že pro konkrétní řešení vytvoříme i dedikovaný GPU cluster.

Zvládnou firmy své privátní modely zabezpečit na stejné úrovni jako provozovatelé veřejných AI služeb?

Výhoda privátního modelu může být, a většinou bude, v tom, že nebude dostupný mimo organizaci. Tedy z prostředí internetu, mimo firmu se k němu vůbec nedostanete. Takové nasazení většinu potenciálních útoků striktně limituje. Máte plně pod kontrolou, v jakém objemu a komu k modelu umožníte přístup.

Nejde ale jen o model, důležitá je vždy bezpečnost celého AI systému. Kompletní softwarové prostředí okolo modelu, tedy aplikace, integrační vrstvy, prompty, datové zdroje, nástroje a agenty, které model využívá, je potřeba zabezpečit proti zneužití. Jde zejména o data a nástroje, které může systém využívat.

Když se firma pro privátní nebo lokální model rozhodne – co k tomu reálně potřebuje?

V první řadě určitě ekonomickou rozvahu. Pokud je to možné, začal bych se systémem, jeho implementací a nasazením v cloudovém prostředí některého z velkých poskytovatelů. Tam je jednoduché řešení rychle iterovat a rozvíjet. Jakmile jeho využití výrazně roste a budete si jistí, že takový systém budete provozovat i v budoucnu, je dobré se zaměřit na kalkulaci, v jakém časovém horizontu by se mohl zaplatit vlastní hardware pro jeho provoz. Pak už je na rozhodnutí firmy, jestli a kdy.

ICT revue

Stáhněte si přílohu v PDF

Je přitom třeba brát v úvahu nejen amortizaci nakoupeného hardwaru, ale například i to, že když už takový hardware vlastníte, je vhodné ho využívat nepřetržitě. Na druhou stranu vývoj v oblasti velkých jazykových modelů stále probíhá velice intenzivně. Pokud tedy dokážete využít funkcionality, které několikrát za rok přinesou nové verze modelů, raději bych využil tuto větší sílu modelů, než se fixoval na hardware, který třeba již novou generaci modelů nepojme.

Které hlavní kroky by měl management firem v souvislosti s využíváním AI v příštích měsících udělat?

To hodně záleží na startovní čáře každé z firem. Z mého pohledu je klíčové si uvědomit, co pro firmu AI znamená a jak ji chceme v rámci podnikání zapojit. Hodně pomůže alespoň základně si popsat vlastní AI strategii.

Jsou velká témata, která bude řešit většina firem – od adopce AI, shadow AI, token economy až po již zmiňovaný vlastní provoz modelů. Ale AI mění i mix firem, se kterými spolupracujeme. Popřemýšlejte, co si díky AI můžete dnes realizovat sami a nemusíte to nakupovat zvenčí. A obrovské téma je také zapojení AI do vývoje produktů.

Článek byl publikován ve speciální příloze HN ICT revue.