Dnes ještě můžeme AI občas přistihnout, že nás vodí za nos

Umělá inteligence se sice dokáže velmi rychle učit, zpřesňovat své informace a pamatovat na to, co se uživateli líbilo a co ne, ale stále se můžeme dostat do situace, kdy AI znejistí, a i přesto se snaží za každou cenu odpovědět. I když to někdy vede k nesprávným výsledkům. Musíme používat zdravý rozum, vědět, co od ní očekáváme, a umět si informace ověřit, vysvětluje Jakub Fiala.

Co pro softwarovou firmu znamená tak rychlý rozvoj technologie AI, jaký prožíváme? Jde s ním vůbec držet krok?

Pro softwarovou firmu je rychlý rozvoj technologie umělé inteligence určitě velkou výzvou a příležitostí získat na trhu značnou konkurenční výhodu oproti dodavatelům, kteří AI do svých systémů zatím neimplementovali. Z tohoto samozřejmě těží i koncoví uživatelé těchto systémů, protože jim dokážeme nabídnout mnohdy velmi zajímavé funkcionality, které jim pomáhají snadněji a efektivněji vykonávat jejich práci. Nám jako IT firmě navíc AI velmi pomáhá už při samotném vývoji těchto systémů v oblastech, které vyžadují rutinní činnosti. A pokud vám něco ušetří čas, pak vám to šetří i peníze.

S jakými modely AI pracujete ve svých produktech nejčastěji?

Volba jazykového modelu se odvíjí od scénáře, který chceme pomocí AI řešit. Lze tak často využít i méně přesné AI modely, které nejsou navíc ani rychlé, ale jsou schopné za nižší náklady dostatečně dobře daný scénář vyřešit. Naopak v situacích, které vyžadují mnohem vyšší přesnost, efektivitu či rychlost, sáhneme nejčastěji po ChatGPT 4, jenž v posledních měsících velmi významně pokročil kupředu.

Jaké možnosti přinese AI v generování hlasu a videa?

Řekl bych, že zásadní. Představme si například situaci, kterou zná každý z nás. Koupíte si novou pračku a dostanete k ní obsáhlý manuál, ve kterém můžete najít všechny možnosti, jak prát a jak s pračkou pracovat. Řada lidí takový návod ani neotevře a dost možná tak přijde o spoustu skvělých možností, které by jim praní ulehčily. Ale co kdyby pračka měla tlačítko, po jehož stisknutí se nás zeptá, co pro nás může udělat? My bychom se zeptali, jak nejlépe lze vyprat svetr, který je jen na ruční praní, a pračka by se sama nastavila tak, aby to praní bylo co nejšetrnější a nejúčinnější. Určitě velmi příjemná představa, která nás jednou jistě nemine. A k tomu potřebujeme hlas, potřebujeme jej pochopit a porozumět mu. AI to dnes umí, a proto je již tolik možností, jak ji využít a pracovat s ní. Generování videa je zase úžasným pomocníkem například v oblasti výuky, kde i my dnes používáme vlastní generování videí na základě napsaného textu. Takový text pak umělá inteligence formou avatara přečte, vytvoří video a to následně nabídneme našim uživatelům. A podobných možností si každý z nás jistě umí představit spoustu.

V čem umělá inteligence vyniká, je porozumění řeči a její interpretace.

Jaký to bude mít vliv na bezpečnost a důvěryhodnost – budeme moci ještě věřit tomu, co vidíme a slyšíme?

Umělá inteligence je stále na začátku svého vývoje. V současné době ještě obvykle dokážeme rozpoznat, že je něco vytvořené AI, i když ne vždy. Přesto je důležité si uvědomit, jak se naše vnímání reality postupně mění. Například u filmů – jsme zvyklí se dívat na spektákly a ani nás nenapadne, že apokalypsa na obrazovce je vlastně jen soubor jedniček a nul, nikoliv realita. Mozek to už vnímá jako standard, aniž by mu to přišlo divné. Když vidíte scénu z filmu, přemýšlíte nad tím, zda je reálná? Vzadu v hlavě víte, že ne, protože víte, že to není možné. Ale AI to posouvá dál a dokáže vytvořit věrné simulace i běžných životních situací, které mají do ztvárnění apokalypsy daleko. To, co nám dnes připadá šílené, naše děti už budou brát jako běžnou součást života, aniž by se nad tím pozastavily. V současnosti ještě můžeme umělou inteligenci občas přistihnout, že nás vodí za nos – snaží se odpovědět za každou cenu, dokud jí jasně neřeknete, že takhle ne. Musíme mít zdravý rozum a vědět, co od ní očekáváme, a umět si informace ověřit. To je něco, co se obvykle učí až na vysoké škole, ale mělo by se to řešit už od školy střední, nebo dokonce základní. Domnívám se, že by tak měly vzniknout programy na spolupráci s AI, které by učily žáky, jak s těmito technologiemi pracovat, jak rozlišovat realitu od fikce nebo jak si umět informace ověřit.

Foto: Gordic, Manolo Café Jihlava

Kde jako dodavatel informačních systémů pro státní správu vidíte hlavní přínosy AI pro občany?

V čem umělá inteligence vyniká, je řešení scénářů v oblasti porozumění řeči a její interpretace. To přináší velké výzvy a příležitosti v oblasti komunikačních systémů, které mohou být prostředníkem mezi občanem a informačními systémy veřejné správy. Ty obsahují enormní množství dat, informací, procesů, znalostí, a lze je tak správným nasměrováním efektivně dál využít a znalosti sdílet. Navíc umělé inteligenci je jedno, jestli mluvíte česky, slovensky nebo jiným jazykem, zvládne reagovat vždy tak, jak člověk očekává. Dokáže tedy uspořit mnoho času jak občanovi, tak úředníkovi. Navíc může pomoci například i s vysvětlením vyhlášek, zákonů, směrnic a další podobné legislativy, a to i formou příkladů či jejich aplikováním na konkrétní životní situaci občana.

Jakub Fiala

ředitel technologií třetích stran, Gordic

Působí v Gordicu již přes 17 let. Svou kariéru začal jako analytik v oblasti IT service managementu, kde se podílel na implementaci velkých řešení IT service desku a portálových řešení. Během své kariéry se významně zapojil i do vývoje, managementu a obchodu.

Nyní působí jako ředitel odboru technologií třetích stran, kde zodpovídá za obchodní a technickou spolupráci se společnostmi jako Microsoft, Broadcom či Oracle. Současně vede pracovní skupinu zaměřenou na využití umělé inteligence.

Ve volném čase rád hraje golf a zajímá se o novinky ve světě AI, automatizace a managementu.

Foto: Gordic, Manolo Café Jihlava

A jaká je vlastně situace s AI v systémech státní správy?

Umělá inteligence je téma, které státní správa vnímá a které řeší. Mnoho úředníků již pracuje s nástroji, jako je ChatGPT, což jim umožňuje představit si různé situace, které by se daly pomocí AI řešit. Například využívají nástroje jako Microsoft Copilot, který jim umí pomoci třeba s psaním e‑mailů, vytvářením výtahů z e‑mailové komunikace nebo při návrzích zápisů z porad.

V rámci systémů a agend veřejné správy se provádí mnoho opakujících se rutinních činností, které by se daly pomocí AI zlepšit. Úřady a úředníci jsou často přetížení a hledají způsoby, jak ušetřit čas a věnovat ho naléhavějším činnostem. I proto jsou otevřeni funkcím AI, které jim mohou pomoci. Je však důležité, aby dodavatelé těchto systémů byli schopni rychle reagovat a implementovat takové funkce, které úředníkům skutečně pomohou. AI má potenciál výrazně zefektivnit práci ve státní správě, ale je potřeba, aby se technologie a její implementace vyvíjely ruku v ruce s potřebami úřadů.

Celkově vzato, situace s AI v systémech státní správy je slibná. Úředníci jsou připraveni přijímat a využívat nové technologie, a pokud budou dodavatelé systémů schopni nabídnout účinná a rychlá řešení, může AI výrazně přispět k efektivnějšímu fungování státní správy.

Stojí v cestě širšímu zavádění AI nějaké legislativní překážky?

V souvislosti s umělou inteligencí a způsobem jejího využívání nás čeká zavedení různých zákonů, vyhlášek a dalších legislativních opatření. Tato legislativa bude klíčová pro stanovení jasných mantinelů pro práci s AI. Čerstvě máme v platnosti normu Act AI vytvořenou zákonodárci EU, která přináší vůbec první komplexní soubor pravidel toho, jak má AI fungovat a jak bude regulována. Čeká nás velké množství témat, která bude třeba legislativně vyřešit, jako je například regulace používání AI na pracovišti, otázky autorských práv spojené s výstupy AI, ochrana osobních údajů v souladu s GDPR nebo prevence zneužití AI k manipulacím či podvodům.

Jak se k AI staví sami úředníci, neobávají se, že přebere jejich kompetence?

Naopak. Ze své zkušenosti spíše vnímám, že se úředníci o možnosti umělé inteligence velmi zajímají a aktivně si sami zjišťují informace. Často se nás ptají na to, co AI nabízí, jak by ji mohli využít a co všechno jsme jim schopni v této oblasti nabídnout. Sami také přichází s nápady, které by si přáli v našich systémech realizovat a které by vedly ke zlepšení a větší efektivitě jejich práce.

Vidíte třeba v zahraničí nějaké zajímavé projekty s využitím AI, které by pomohly také u nás?

Ano, určitě. Existuje mnoho zajímavých projektů, které ukazují, jak lze pracovat s AI. Řadu takových projektů již realizujeme, například řízení dopravy na základě kamerových záběrů, ale jsou i další projekty, kterými bychom se mohli inspirovat. Zajímavé je například využití AI při zpracování daní v Estonsku, které je lídrem v oblasti digitální transformace. Existují i studie na využití AI pro predikci HDP nebo podporu soudního procesu, kdy například v USA využívají AI pro predikci recidivy nebo jako podpůrný nástroj při rozhodování o podmínečném propuštění. To jsou jistě velmi zajímavé projekty, které ovšem potřebují mít též podporu v legislativě.

Příští rok v únoru vyprší pětiletá lhůta, ve které se podle zákona č. 12/2020 Sb. měly úřady připravit na možnost kompletně elektronické komunikace s občany a online vyřizování jejich požadavků. Jak pokračují přípravy a co je podle vás největší problém?

Vzhledem k tomu, že účinnost zákona o právu na digitální služby byla odložena až na to klíčové datum 1. 2. 2025, mají státní instituce i samosprávy v rámci přenesené působnosti dostatek času se na své nové povinnosti včas připravit. Katalog služeb na portálu veřejné správy jasně definuje, které služby mají být digitalizovány. Vidíme už řadu v praxi fungujících zdařilých projektů, jako je například Portál dopravy. Věřím, že do února příštího roku ještě řada resortů přijde s vlastními řešeními. Důležité je také, abychom nezůstali s digitálními službami na půl cesty. Nabídnout občanovi vyplnit formulář a poslat ho datovou schránkou nebo e‑mailem je sice fajn, ale ta správná cesta je jedině přes samoobslužné portály s jednotným vzhledem, s jednotným přihlašováním přes elektronickou identitu, předvyplněnými údaji ze základních registrů a agendových informačních systémů. V minulých letech se udělalo hodně práce, o čemž se může přesvědčit každý, kdo podává elektronicky daňové přiznání, žádá o nový řidičský průkaz a podobně. Ale určitě jsou i agendy a úřady, které budou mít s termínem problémy.

Mají úřady už zajištěn výběr dodavatelů potřebných řešení?

Záleží, v jaké fázi příprav daný úřad je. Existují zkušení dodavatelé všech potřebných komponent, od portálů přes formulářová řešení až po dodavatele agendových systémů a spisových služeb, které potřebujete k řešení napojit, aby data a dokumenty putovaly automatizovaně. Výběr dodavatelů je tedy široký. Povinnost splnit zákonné požadavky na poskytování digitálních služeb je navíc současně příležitostí k revizi, zda stávající informační systémy veřejné správy mají potřebné rozhraní a jsou obecně schopny být stabilní základnou pro poskytování služeb. Zákon tedy nepřímo tlačí na zkvalitnění interní digitalizace.

Zajímavé je například využití AI při zpracování daní, predikci HDP nebo pro podporu soudního procesu.

ICT revue

Stáhněte si přílohu v PDF

Zákon současně umožňuje občanům podávat své požadavky libovolnou formou, pokud úřad neposkytuje nástroj pro elektronické provedení úkonu. Nezahltí se úřady požadavky, pro jejichž vyřízení nebudou mít potřebné procesy, například v rámci elektronické spisové služby?

Asi se nedá čekat, že se ze dne na den skokově zvýší počet požadavků na digitální provedení úkonů. Jejich množství bude narůstat postupně s tím, jak si sami lidé uvědomí, že řadu svých potřeb mohou vyřídit jednodušeji. Myslím, že zahlcení nehrozí. Nedostatečná vnitřní digitalizace a automatizace se spíše bude projevovat v nárůstu zbytečné rutinní práce.

Pokud nebude možné vyřídit požadavek občana elektronickou cestou, je možné žádat úřad o odškodné. Co by mohlo vyčíslení takové škody obsahovat?

V takovém případě by se jistě přihlíželo k tomu, jaké náklady měl žadatel způsobené tím, že nemohl požadavek vyřídit digitálně, ale musel na úřad osobně. Tedy například náklady na cestu, parkování, ušlý zisk z jiné činnosti a podobně. Ale nepředpokládám, že to bude masivní. Úřady většinu žádostí elektronicky vyřídí, i když to nebude třeba tou nejkomfortnější a nejvíce automatizovanou cestou. Pozor by si ale měly dávat na formální náležitosti. Například záznam o přijetí elektronického podání by měly opatřovat elektronickou pečetí a časovým razítkem, což se mnohdy neděje. To může ohrozit právní validitu uskutečněných úkonů.

Článek byl publikován ve speciální příloze HN ICT revue.