Dát AI kreditku je stejné jako ji dát batoleti, říká Jan Hejtmánek z Deloitte

Jakou roli bude hrát umělá inteligence (AI) ve světě, kde spolu všichni soupeří?

Pokud mluvíme o AI jako o asistentech typu Gemini, Copilot, Perplexity, předáváme těmto zařízením stále více dat a důvěry. Dnes se OpenAI nebo ChatGPT zeptáte na rozvrh jídel na příští týden a dostanete vytvořený jídelníček včetně výpisu surovin. Vývoj jde tím směrem, že vám je asistent objedná ve vašem oblíbeném e‑shopu.

AI videa mají stále limity. Už jsou ale k nerozeznání od reality

24. 11. 2025 ▪ 7 min. čtení

Postupně bude za nás umělá inteligence dělat stále více akcí. Také ale bude narážet na naši potřebu neztratit lidství. Já třeba nechci, aby ChatGPT četl dětem pohádky, i když to umí. A tam vzniká rozpor mezi tím, kam se svět žene a zda to skutečně chceme. Tato otázka bude v diskusích stále častější. AI agenti budou zajímavější, mocnější. Kam je ale pustíme, abychom stále byli lidi a chtěli studovat? Studenti samozřejmě AI používají a vývoj vede k tomu, že nebudou muset.

Dnes zaměstnanci běžně AI využívají, často aniž by o tom jejich zaměstnavatelé věděli. Na jedné straně jim to může přinášet konkurenční výhodu, zrychlení práce nebo vyšší efektivitu. Vzniká ale taky otázka, jaká rizika to může představovat pro firmu?

Je potřeba si říct, že AI sama o sobě nemění způsob, jakým firmy fungují nebo fungovaly. Zajímavá je v tom, že dělá věci, které dříve lidé dělali ručně, na papíře nebo v PDF. Ale když se podíváte do novin z roku 2006, najdete články o lidech, kteří si v Excelu napsali makro a tím si kompletně zautomatizovali práci.

Žijeme ve světě, kde lidé automatizují bez toho, zda k tomu mají oficiální schválení od vedení firmy. Není to nic nového, děje se to od chvíle, co máme počítače. Rozdíl je v tom, že dnes má každý, kdo dostane do ruky ChatGPT, možnost si tu automatizaci udělat sám. Rizika se ale nezměnila, pořád je tu hrozba, že někdo nasdílí data s někým, kdo je může zneužít. To platilo už u excelových maker. Stačilo, aby někdo omylem poslal soubor dál.

Vzpomínám si na příběh ze Singapuru, kde jeden bankovní úředník zautomatizoval svou práci a z každé transakce si posílal dolar bokem. Nepotřeboval k tomu AI, ale jako AI se to chovalo.

A když se vrátíme zpátky k firmám?

Často se ptám šéfů: Kdybyste si mohli vybrat mezi dvěma variantami – buď dostanete hotový blackbox od firmy XYZ, nebo si nastavíte vlastní workflow s AI komponenty – co byste zvolili? A většina z nich řekne: „Já jsem pořád odpovědný za firmu, a když předám účetnictví nějakému blackboxu, tak ta firma, co mi ho prodala, za to odpovědnost nepřevezme.“ A to je pravda, legislativně tam ještě nejsme.

Proto firmy chtějí mít vlastní workflow. A to je mimochodem to, co nedávno představilo OpenAI, tedy možnost upravit si AI agenta podle vlastních potřeb, protože když přijde auditor a řekne: „Tady máte nedoplatek na DPH, zaplaťte a zajistěte, že se to už nestane,“ tak v blackboxu nic nezměníte, ale vlastní proces upravit můžete. Firmy se posouvají z fáze: „Wow, máme Copilota, ale moc toho neumí,“ do fáze, kdy mají AI workflow.

Umělá inteligence je módní pojem, který snad každá firma chce zavádět. Jak má ale probíhat správná transformace?

Přirovnám to k outsourcingu. Kdysi jsem pracoval v outsourcingové firmě a musel jsem se naučit spolupracovat s týmem, který nebyl v Evropě a přemýšlel jinak. Zadával jsem mu úkoly a on mi nějak odpovídal. Co se ale přesně dělo na pozadí, na Filipínách a v Manile, jsem nevěděl. Jak tým došel k výsledku, jakým způsobem úkol zpracoval, zůstávalo skryté. Úplně stejně se chová jakýkoliv AI agent.

Transformace směrem k AI má několik rovin. Jednou z nich je samotné předání procesu agentovi, tedy outsourcing. To má několik linií, od IT roviny, kdy je potřeba agenta nastavit, přes právní rovinu, zda to vůbec můžeme udělat, až po bezpečnost, kam data jdou a zda chci, aby někdo měl má účetní data.

Například?

Existuje nástroj ChatDOC, který umí vytěžovat faktury. Licence stojí necelých 90 dolarů ročně. Dejme tomu, že jsem firma s deseti účetními. Roční náklady na jednoho účetního jsou zhruba milion korun, tedy celkem deset milionů. Pokud polovinu práce nahradím ChatDOC, ušetřím pět milionů. Proti tomu stojí náklad 90 dolarů. Business case vypadá skvěle. Jenže data jdou do čínské Alibaby. Jako majitel se musím rozhodnout, zda ušetřím pět milionů ročně, ale všechna účetní data dám Alibabě. Otázkou také je, jak chci, aby firma vypadala, a kdo v ní pracuje. Potřebuji deset lidí? Když zapojím AI agenta, musím si ujasnit, co je mé jádro podnikání. Co si chci nechat, co outsourcovat.

Firmy dnes často uváznou mezi dvěma póly: na jedné straně ideální představa o AI transformaci, na druhé straně realita typu „nasadili jsme Copilot, je to boží“. Myslí si, že stačí nasadit technologii. K tomu přispívá humbuk kolem AI a startupový trh. Po covidu navíc firmy zjistily, že nepotřebují velké dodavatele na velký software. Mohou si najmout 200 freelancerů.

Takže rozhodně nespolupracovat s každým majitelem AI start‑upu, který k nám přijde na vrátnici s tím, že má unikátní software?

Byl jsem na konferenci AI for Good v Ženevě, kde jsem dva dny stál na stánku Deloitte. Během té doby za mnou přišlo asi dvacet firem s tím, že právě jejich AI platforma je ta jediná na světě, kterou budu potřebovat.

Trh se obrovsky zvětšuje. Každý dvoučlenný tým studentů, kteří právě vyšli ze školy, si může postavit vlastní platformu. Za pár let budeme řešit konsolidace trhu AI platforem.

Pojďme si na konkrétním příkladu zadávání veřejných zakázek ukázat, co by měl umět nákupní robot?

V nákupním procesu, při zadávání zakázek, dnes už není nic, co by software neuměl nebo nemohl dělat. Pomáháme jedné firmě v Polsku, kde umělá inteligence vyjednává ceny za podložky, šroubky, matičky a podobné položky. Dřív firmy chtěly hlavně zpracování faktur, ale dnes se většina výběrových řízení týká právě nákupních procesů.

Proč? Protože AI umí velmi dobře zpracovat zadání. Když vím, co chci nakoupit, třeba sto notebooků s úhlopříčkou 14 palců, AI dokáže vygenerovat potřebné dokumenty, projít legislativu, vzít vzory z minulých řízení a zadat poptávku. Zvládne i vyhodnocení. A když se vybere dodavatel, může dokonce zaplatit fakturu.

Na jedné z přednášek jste ale říkal, že je to podobné jako dát batoleti kreditní kartu.

Je to tak. Když jsem pracoval s kolegy z Indie, bylo jasné, že tam funguje jiná kultura. A stejně tak je to s umělou inteligencí. S velkými jazykovými modely pracujeme v úplně jiném kulturním prostředí. Nevíme přesně, jak daný výstup vznikne, takže musíme v jednotlivých krocích ověřovat, jestli to odpovídá tomu, co firma skutečně chce.

Nákupní oddělení by se proto mělo přepnout z rutinního zpracovávání dokumentů, které slouží hlavně k naplnění legislativních požadavků, ISO procesů a podobně, na strategické rozhodování. To technické zpracování může klidně převzít AI.

Takže mám dát AI kreditku?

Klidně ji jí dejte, ale musíte se rozhodnout, jestli to za to riziko stojí. Pojďme si říct, co je technicky umělá inteligence. Mám tři děti. Prostřední začalo chodit do školy loni, neumělo číst ani psát, ale za ty roky doma a ve školce se naučilo mluvit, poslouchat a do určité míry chápat zadání. A přesně tam jsme dneska s velkými jazykovými modely, to je to, co dělá Gemini, ChatGPT.

Ve chvíli, kdy nejmladšímu řeknu: „Můžeme chodit na červenou?“ zamyslí se a zaloví v paměti, jestli mu někdy někdo něco říkal. Nejstarší už umí psát a číst, takže mu řeknu: „Jdi do knihovny a zjisti mi, jestli můžeme chodit na červenou.“ Jako člověk ten rozdíl nevnímáte, je přece jasné, že se podíváte do pravidel silničního provozu, ale AI to neudělá, pokud jí to výslovně neřeknete. Takže to „batole“, ten základní jazykový model, musíte obohatit o další procesy. Pravidla, která máte ve firmě. Právě proto máme ISO, abychom měli pravidla. Také ale platí, že když najmu člověka z ulice, kterého neznám, podstupuju stejné riziko, že nebude znát základy účetnictví nebo nákupní proces. Jediný rozdíl je v rychlosti.

Jaké chyby může umělá inteligence udělat při zadávání zakázek?

Typickým příkladem je, když na faktuře není uvedená měna nebo chybí DPH. Pokud AI výslovně neřeknu, jak se má DPH chovat, prostě vyrobí díru, kdy vezme celkovou sumu bez rozlišení. To jsou přesně ty detaily, které lidé v oboru znají. Účetní se to učí čtyři roky na střední škole a ještě na univerzitě. Dohromady je to devět let učení pravidel. Dalším technickým problémem je kontextové okno. Gemini ho má dnes v řádu milionů tokenů, dokáže pracovat s kontextem třeba tisíce stran. Původní ChatGPT měl rozsah zhruba na jednu A4. Dnes už je výrazně dál, ale pořád platí, že Sbírka zákonů, účetní pravidla, interní firemní procesy a všechny faktury jdou za tento limit. Takže pozor, když AI není správně nasazená nebo nakonfigurovaná, může kontextové okno přetéct a v tu chvíli si začne vymýšlet.

A jaké oblasti AI bez problémů zvládne, přitom nejsou firmami příliš využívané?

Typicky jakýkoliv dokument, který přijde přes datovou schránku, AI zvládne bez problémů. Ale nedělá se to, protože firmy si myslí, že je to oblast, kde se „nepálí čas“. Lidé také často píší e‑maily sami, domnívají se totiž, že to zvládnou lépe. A pak je tu využívání při mezinárodní komunikaci. Jsme mezinárodní firma a většina kolegů anglicky umí. Občas se ale stane, že se někdo naštve, protože si věci vyloží jinak. I zde by AI mohla hrát mnohem větší roli, ale zatím nehraje.

Mohla by také dělat analýzy interního prostředí firmy a projíždět směrnice, smlouvy s dodavateli a odběrateli. Proč nevyužít AI ke kontrole těchto smluv a například konečně neharmonizovat smlouvy pod jednoho dodavatele energie? To jsou oblasti, do kterých se firmy často nepouštějí, protože si myslí, že jim to nepřinese okamžitý výsledek.

Hlavní je nějak začít, stačí s nějakým jednoduchým řešením, jako například s chatbotem pro zaměstnance, který jim připomene, že když zapomenou firemní kartičku, mají zaplatit 150 korun na konkrétní číslo. Může to být nákup, IT, helpdesk, cokoliv. Ale musí se začít.

Umělá inteligence

Stáhněte si přílohu v PDF

Může i malá změna mít díky AI velký dopad?

Před dvěma roky jsme začali spolupracovat s Úřadem vysokého komisaře OSN pro uprchlíky a začali jsme vytvářet něco, čemu říkají „iPhone jedna“, tedy první nasazení AI pro finanční plánování. Agentura pro uprchlíky má široké spektrum projektů, od studny v Kazachstánu za deset tisíc korun až po řízení uprchlického tábora pro 20 tisíc lidí s rozpočtem v milionech dolarů ročně. K tomu mají 350stránkový handbook, podle kterého se musí řídit. Fungují ve 137 zemích světa a každý rok musí projít všechny projekty, aby mohlo zářijové shromáždění OSN schválit rozpočet. A od 1. ledna se jede od začátku.

Nám se podařilo nasadit sadu AI agentů, kteří dnes fungují ve všech zemích, kde OSN spravuje uprchlické agendy. Virtuálně jsme tím vrátili zpět 2000 lidí. Došlo totiž k tomu, že Spojené státy snížily financování. To znamenalo, že agentura musela ze dne na den propustit tisíce lidí. My jsme ale měli náskok, rok a půl přípravy, a díky tomu jsme mohli nasadit AI agenty, kteří jejich práci převzali, aby se chod agentury nezastavil.

Když se mě někdo zeptá na příklad, kdy jednoduchá věc změnila hodně, tak je to právě toto. Díky tomu se nezastavily uprchlické tábory v Sýrii, lidé dostali jídlo, vodu, děti mohly chodit do školy. A mimochodem, letos valné shromáždění OSN schválilo dokument, jehož většinu připravila právě AI.

Článek byl publikován ve speciální příloze HN Umělá inteligence.