Máme špičkové vědce v oblasti umělé inteligence. Přesto zůstáváme fosilní ekonomikou 20. století, říká Václav Moravec

Většina Čechů ho zná jako moderátora diskusních pořadů nebo vysokoškolského pedagoga, Václav Moravec je ale také popularizátorem umělé inteligence. Spolu s týmem z iniciativy prg.ai usilují mimo jiné o přesah AI do oblasti školství, vědy, žurnalistiky i do společnosti. „O technologiích bychom měli být vzděláváni, měli bychom o nich vědět co nejvíce. Systém školství totálně zaspal. Promeškáváme důležitý čas, abychom se umělé inteligenci přizpůsobili. Aby pro nás transformace byla co nejméně zraňující,“ hodnotí pronikání AI do českého prostoru.

Jak se z novináře stane zároveň vizionář v oblasti AI?

V roce 2015 jsem psal pro naše studenty knížku Proměny novinářské etiky. Tehdy jsem narazil v anglicky psaných článcích a v prvních monografiích na pojmy automatizované žurnalistiky. Nebyl jsem si jistý správným překladem některých výrazových rámců, proto jsem šel za Michalem Pěchoučkem z katedry počítačů Fakulty elektrotechnické a Centra umělé inteligence, abych se poradil. Přitom mě napadlo, jestli by nestálo za to jít do nějakého společného výzkumného grantu. Tehdy jsem vytušil, že AI bude pro žurnalistiku zásadní změnou.

Umíte odhadnout, do jaké míry se žurnalistika vlivem umělé inteligence promění?

Půjde o zásadní transformaci novinářské profese, protože například vzniknou nové pozice typu editorů automatizovaných obsahů. Robotizace, ke které došlo v průmyslu, uchvacuje i kreativní obory. Ať už jde o žurnalistiku nebo scenáristiku, kde část scénářů bude vznikat, nebo už vzniká, s využitím nástrojů umělé inteligence.

Nebude tomu pak chybět taková ta esence jedinečnosti člověka?

Ve vztahu k žurnalistice se ukazuje jedna věc: většina populace, tedy uživatelů zpravodajských médií deklaruje, že dává přednost lidmi vytvářeným obsahům. Na druhou stranu z experimentů zaměřených na syntézu hlasu, které provádíme s Českým rozhlasem, vyšlo, že polovina tuzemské populace nerozezná výstup robotického moderátora, stejně jako zprávu sepsanou algoritmy. Pětasedmdesát procent české populace přitom požaduje, aby s nimi média, pokud postaví své výstupy na automatizaci, hrála transparentní hru.

Umělá inteligence je aktuálně hodně spojovaná i s ChatGPT. Zkoušel jste si do něj někdy zadat vaše jméno?

Ne, jsem však konfrontován zkušeností těch, kteří tam moje jméno zadávají, že jsem například měl moderovat Všechnopárty. Co ChatGPT řekl o mé osobě vám?

Nejprve mi vygeneroval informace o vašem dříve narozeném jmenovci, který byl, myslím, sportovním novinářem. Až upřesňující dotazy mě navedly k vám. Ale měl jste moderovat i pořad Na plovárně.

Velké jazykové modely jsou natrénované na obrovském množství dat, která jsou běžnému laikovi velmi obtížně představitelná. Ale existuje nějaký statistický výskyt pravděpodobnosti, tedy i chybovosti. Jak jste řekla, dotazy – prompty –, které zdokonalují umělou inteligenci, jsou klíčové k tomu, abychom minimalizovali chybné výsledky. Zejména v češtině, kde jsou data stále limitovanější než v angličtině.

Umělá inteligence brzy přebere kancelářskou práci a děti se budou učit úkolovat chatbota, tvrdí Pěchouček

10. 2. 2023 ▪ 20 min. čtení

Je v tomto ohledu lepší starý dobrý Google?

Co je na umělé inteligenci fascinující, je její dynamický vývoj. To uvádím na příkladu DeepL nebo Google Translator. Všimněte si, jak se tyto automatizované překladače zdokonalily. Stejně se v řádu let zdokonalí generativní umělá inteligence pro oblast textu či videa.

Pak ale těžko rozpoznáme podvrh.

Zásadním tématem se opět stane, stejně jako již několikrát v historii žurnalistiky, důvěryhodnost jednotlivých typů zdrojů a atribut důvěry. Půjde o to, jak jednotlivé platformy nebo zpravodajské zdroje budou pracovat s tím, aby odhalily a nepustily do svého obsahu fotky, které nejsou autentické nebo se nezakládají na realitě. To je výzva nejen pro žurnalistiku, ale i pro společnost jako celek.

Ta má už teď problém vyznat se v relevantních zdrojích a dezinformacích. Ovlivní i to umělá inteligence?

Snažím se být bytostný optimista a tvrdím, že boj proti dezinformacím nemůže vést k omezování svobody slova. Pevně věřím, že ti, kdo šíří bludy, dříve či později ztratí důvěru veřejnosti. Tvrdím, že to bude podobné jako nástup masového tisku. To, co dnes označujeme za dezinformace, není nic nového, jen se snáz a ve velkém šíří. S tím velmi dobře pracují kupříkladu ruští propagandisté.

Jakým způsobem?

Sami jsou cenzoři a využívají platforem k tomu, aby utvrdili autoritativní režim. Proti nám je ale používají tak, aby tu vznikl co největší informační zmatek, že nebudeme věřit už ničemu. To se nám ostatně ukazuje v sociologických šetřeních. Když ale dojde k zhroucení systému nedůvěry, začnou vznikat entity, kde se důvěra mezi čtenářem a autorem obnoví. Totéž se odehraje i nyní. Musíme projít peklem blábolů a rozkladu, kdy lidé, kteří nejsou špičkami ani ve svých oborech, si hrají na špičky v jiných oborech. Bohužel ekonomika emocí síťových médií nahrává různým ego maniakům nebo podvodníkům, kteří na tom vydělávají i velké peníze.

Neděsí vás někdy, jak nás AI kvůli rozmachu technologií neustále sleduje, má o nás detailní informace? Není to ve své podstatě totalitní?

My na to ale přistupujeme. Existuje inspirativní knížka kanadského sociologa Davida Lyona a Zygmunta Baumana Tekutý dohled. V ní jsou trefné metafory, že dříve, v éře analogu, dohled připomínal strom. Viděli jsme, jakou tato forma dohledu má strukturu. Na popis dohledu v digitálním věku však používají metaforu plevele, u kterého netušíme, kde všude je rozlezlý. Vezměte si, jak technologické firmy těží z toho, že například odklikáváme cookies, aniž bychom četli, jaká data o nás sbírají.

Může to být nebezpečné?

Nepochybně. Překvapuje mě, že už před ChatGPT, kdy prvky umělé inteligence vstupovaly nejen do médií, jsme nevedli širší celospolečenskou debatu o etice a regulaci. O tom, kde jsou hranice sběru a užití dat pro technologické firmy. Není přece normální, že když jsem na platformě zdarma, nezbytnou daní je značné množství osobních dat z chytrého telefonu. Vezměte si, že technologická firma může působit v totalitním státě. Není na burze. Není tak transparentní. Nejde jen o strukturu digitálního dohledu jako rozlezlého plevele, ale též o naše alter ego v elektronickém prostoru, které je v mnoha ohledech důležitější než naše vlastní fyzická existence.

Z toho mi už naskakuje trochu husí kůže.

O digitálních technologiích, v čele s umělou inteligencí, bychom měli být vzděláváni, měli bychom o nich vědět co nejvíce. Tvrdím, že systém našeho školství totálně zaspal. O vývoji umělé inteligence i o tom, jak nás obklopuje v každodenním životě, by se děti měly učit už na základních školách. Vždyť ony se do toho světa digitálních médií narodily. Proměnil se však systém vzdělávání? Neproměnil, a proto jsme zranitelní. Promeškáváme důležitý čas na adaptaci, abychom měli AI pod kontrolou a aby pro nás byla celospolečenská transformace zraňující co nejméně.

Snaha o co nejméně bolestnou adaptaci je, hádám, i úkolem iniciativy prg.ai?

Určitě. Je skvělé, že prg.ai sdružuje nejen vysoké školy – akademický svět –, ale i průmyslový sektor, který poznatky aplikuje. Hledá co nejpřínosnější adaptaci plus upozorňuje na postavení umělé inteligence. Je ale paradoxem, kolik toho v krátké době dokázal udělat pro popularizaci jeden ChatGPT, zatímco my se o ni pokoušíme roky a širší odezvu na naše návrhy jsme například u politických elit nenacházeli. Cílem prg.ai je od začátku i intervědní spolupráce. O nutnosti kooperace se soukromým sektorem nemluvě.

České firmy jsou už na AI naladěné?

V oblasti umělé inteligence máme fantastické firmy i špičkové vědce. Co mě ale mrzí, je, že se na výzkum a vývoj, propojování technických věd, respektive počítačových věd s těmi společenskými, stále ještě neklade takový důraz. Trápí mě, že nejsou lépe nastavené systémové nástroje, které by efektivně využily potenciál, který v Česku je. Zájem o propojení ze strany velkých technologických firem existuje, bohužel stát pro něj nevytváří silnější systémové základny. Aktuálně třeba výše odpisů firem na výzkum, nemluvě o škrtech veřejných prostředků na výzkum a vývoj. Snažíme se tvářit jako inovativní ekonomika, ale přitom budeme brát peníze vysokým školám a výzkumným institucím?

Vymstí se nám to?

Pokud zůstaneme fosilní ekonomikou, tak nepochybně. Nerozumím tomu, proč nechceme být moderní a proč mentálně stále zůstáváme ve dvacátém století. Podívejte se, jak urputně bojujeme za zachování spalovacích motorů, až z nás ostatní kvůli našemu přání udělají skanzen pro jejich výrobu. Zatímco Čína transformovala celé odvětví automobilového průmyslu, my jsme zaspali. Stejné to bylo s obnovitelnými zdroji v energiích. Příležitosti, jako je adopce AI, kterých se chopí moudřejší kolem nás, promeškáváme. S iniciativou prg.ai přitom roky usilujeme o opak. Snažíme se maximálně přispívat k tomu, aby docházelo k propojení vědních oborů, podchycovat nové talenty, usilovat o popularizaci umělé inteligence. Zářným příkladem jsou nyní připravované Dny AI.