Jourová: Platforma X je zneužívána teroristy. Musk k tomu přistupuje vlažně, v EU síti může hrozit zákaz

Kombinace dezinformací a umělé inteligence bude znamenat konec svobodných voleb v Evropě. A já jsem placena za ochranu svobodných voleb, upozorňuje česká eurokomisařka Věra Jourová, která bude mít na Výroční konferenci Aspen Institute CE hlavní proslov k tématu Digitalizace: Jak pomoci malým českým podnikům. V rozhovoru pro HN mluví o vznikající evropské regulaci umělé inteligence, ale také o svých zkušenostech ze schůzek se šéfy sociálních sítí TikTok nebo X. Anebo o svém dalším fungování v hnutí ANO.

Evropská unie připravuje pravidla pro regulaci umělé inteligence (označována zkratkou AI – artificial intelligence). Nehrozí, že Evropa bude příliš opatrná a zákazníci na tom budou tratit? Google nebo Microsoft své nejnovější produkty související s AI nabízejí v Evropě se zpožděním, ještě výraznější je v EU absence nových funkcí s umělou inteligencí ve Windows 11.

Jsem přesvědčena, že inovace to brzdit nebude. Tyto obavy zaznívaly i při zavádění GDPR. S technologickými hráči jsem se tehdy bavila, ať ochranu soukromí rovnou zabudují do jejich technologií. Také v AI inovátoři vědí, že chceme bezpečné technologie, které budou lidem sloužit. Nikoli vládnout. Podobná regulace se teď zavádí v USA. Prezident Joe Biden přichází s výnosem, který by měl regulovat zejména rizika AI pro veřejné zakázky. Slyším ze všech stran, že bychom neměli regulovat generativní AI, protože zatím pořádně nevíme, co bude umět. Ale když si uvědomíme, že právo je vždy několik let pozadu za technologií, tak je dost velké riziko, že až budeme pořádně vědět, co to je, bude pozdě. Ano, Evropa je opatrná, ale když se podíváte na seznam možných rizikových využití AI, tak vidíte, že to má logiku. Například chceme regulovat využití biometrických dat ze strany policie, neumožnit státům, aby v reálném čase kontrolovaly lidi, jak chodí po ulicích.

Tedy v Evropě by to nemělo vypadat jako v Číně, kde se takto začínají lidi sledovat?

Čína je pro nás dostatečně odstrašujícím příkladem, co bychom neměli umožnit. V Evropě se zhoršuje bezpečnostní situace a bude čím dál větší tlak států na to, aby mohly využívat technologie k zajištění bezpečnosti a pořádku. A my hledáme míru bezpečného využití těchto technologií, abychom do budoucna nedali možnost zavádět díky těmto technologiím policejní stát. Zabýváme se třeba tím, do jaké míry se může tato technologie využívat k identifikaci původu člověka, při migraci. Je to sporná věc. Nechci malovat čerty na zeď, ale kdyby to měl v ruce Mengele, tak se vyrovná s židovskou otázkou daleko rychleji. Zároveň ale slyšíme volání bezpečnostní komunity, že pokud tyto technologie využívají zločinci, tak je potřebujeme taky.

Už teď vidíme, že se umělá inteligence umí velmi věrohodně vydávat za konkrétního člověka. Omezíte to?

Toto je jedna z posledních věcí, o kterých se při vyjednávání nařízení o umělé inteligenci bavíme. Vypadá to, že bychom ty rozhovory mohli dokončit do 6. prosince. Hodně v této souvislosti řešíme využití takzvaných deepfake (videa, v nichž lidé dělají něco, co ve skutečnosti nikdy nedělali) ve volebních kampaních. Volby musíme zachovat jako soutěž reálných lidí. Bavíme se tedy, jestli technologie, které by v kampaních takto mohly být využity, patří na seznam rizikových nebo ne.

A jakou na to máte odpověď?

Osobně si myslím, že k rizikovým patří. Budeme to muset formulovat tak, abychom nechali prostor otevřený pro inovace, ale vystihli to nebezpečí. K deepfake mi technologické firmy tvrdí, že jsou schopny zároveň s vývojem technologií přinášet i protilátky, které příslušnou věc detekují a označí nebo rovnou odstraní.

Mělo by být povinně označeno, že například daná osoba není reálná? Že člověk mluví jen s nějakým avatarem?

Je potřeba, aby to lidé věděli. S požadavkem na označování trochu bojujeme. Firmy nám říkají, že je to vždy kombinace nějaké lidské aktivity a AI. A nejde jen o označování. Já zároveň razím myšlenku, že robot nemá právo na ochranu svobody slova nebo copyrightu – ta musí zůstat reálným lidem. Základní lidská práva musíme ponechat lidem – jako obrannou krustu proti případnému vládnutí umělé inteligence.

Na druhou stranu, proč by nemělo být autorskými právy chráněné něco, co sice vytvoří AI, ale na základě kreativního zadání člověka?

To mi říkají firmy jako Meta nebo TikTok také. Že je to těžké oddělit a nějak identifikovat. Ale minimálně by lidé měli vědět, že je tam nějaká příměs AI.

Kdy je reálné, že bude povinné označení toho, na čem se podílela AI?

Firmám jsem sdělila už v červnu, aby si s tím pospíšily. Podle mého názoru – a to nepatřím k největším alarmistům v Evropské komisi – je kombinace dezinformací a umělé inteligence koncem svobodných voleb v Evropě. A já jsem placena za ochranu systému svobodných voleb. Firmy uznaly, že můj požadavek je rozumný, ale je to zatím ve fázi dohod. Chtěla jsem, aby k tomu přistoupily na dobrovolné bázi. Do doby, než to dáme natvrdo do nařízení. A kdy to vyjde v platnost, je zatím otázka. Už teď ale vyžadujeme více transparentnosti v kodexu, který jsme schválili v rámci EU a dalších sedmi zemí světa minulý měsíc. Firmám říkáme, aby se podepsaly pod kodex pro vývoj technologií, kde je požadavek testování, transparentnosti a podobně.

Ten ale není právně vymahatelný, ne?

Není, ale je to cesta, jak už teď oblast kultivovat. A postupně se od dobrovolnosti dostaneme k povinnosti. A tvrdé legislativě. Evropská unie bude globálně první, ale brzy bude následovat Kanada. Uvidíme, jak se pohnou USA, které už mají také dobrovolný kodex. Prezident Biden chtěl po 19 velkých firmách, aby se upsaly, že budou dodržovat požadavek transparentnosti. Vývoj směřuje k tomu, že Evropa to schválí a ostatní budou se svými verzemi následovat.

Co využívání umělé inteligence k tomu, aby člověku dávala odpovědi, u nichž je snadné zneužití? Elon Musk, vlastník sociální sítě X, se například pochlubil, že jeho týmem vytvořená umělá inteligence nazvaná Grok člověku dá návod, jak vyrobit kokain. Bude podobná AI moci fungovat i v Evropě?

Pokud bude Grok fungovat v Evropě, tak bude fungovat jako bezpečná technologie. A řekla bych, že pan Musk pochopil, že to v Evropě myslíme vážně. Mluvila jsem před pár dny s mužem číslo dvě ze sociální sítě X (Nick Pickles) a ten dával jasně najevo, že pokud jejich platforma chce působit na evropském trhu, bude se přizpůsobovat našim evropským pravidlům.

Evropská komise prošetřuje Muskovu sociální síť X, zda není v zemích unie zneužívána zločinci a teroristy. Už jste k něčemu došli?

Tato síť je zločinci a teroristy zneužívána stoprocentně. Podle našich dat je extrémní rozdíl mezi ostatními platformami, které rizikový obsah mažou, a platformou X, která to dělá velmi vlažně a nedůsledně. Kopíruje to vizi pana Muska, že svoboda slova má být absolutní.

Budete s tím v rámci Evropské komise něco dělat?

Máme v platnosti nařízení o digitálních službách, které říká, že kriminální obsah musí zmizet. Když nezmizí, platforma bude čelit řízení a možné sankci.

Hrozí, že by X mohla být v Evropě zakázána?

V extrémním případě ano. To by ale musel rozhodnout soud, nikoli komise. Sama jsem vždycky radši, když se moc nekoncentruje v jedněch rukou.

Vnímáte to tak, že si X zahrává s tím, že by skutečně zakázána být mohla?

Je to promítnutí filozofie pana Muska o absolutní svobodě slova. Já jsem liberálka a bránit jí nechci, i proto se za každou cenu snažím vyvinout systém proti dezinformacím, kde nebude mít nikdo v ruce razítko typu: tohle je lež, to se nesmí říkat. Ale naše debata byla o kriminálním, nenávistném obsahu, antisemitismu, extremismu, terorismu a dětské pornografii – a to je něco jiného. Pokud dotyčná platforma nebude spolupracovat s bezpečnostními složkami na potírání takového obsahu, pak to skutečně bude odsouzeníhodné. Když jsme tu legislativu připravovali, platformy byly velmi nervózní, abychom na ně nenavalili i spoluzodpovědnost za obsah. Před tím jsme je uchránili, nevoláme je k právní zodpovědnosti. Ale snažit se vší silou bojovat proti šíření zmíněných zločinů se prostě musí.

Díky podcastu Bruselský diktát pochopíte, že pro nás Čechy má mnohem větší význam dění v Evropě než v Praze a v Česku vůbec. Celé díly poslouchejte na

HeroHero Gazetisto Forendors

Další problematickou sítí je TikTok. Mnohé instituce, mezi nimi i Evropská komise, ho svým zaměstnancům zakázaly používat. Je zákaz namístě?

Nesmíme podcenit, že je tam vazba na Čínu. A my si nemůžeme dovolit žádné riziko, že by citlivá data, s kterými pracujeme, byla nějak přetahována do Pekingu. Víme, že Čína dala svým firmám za úkol poskytovat jí přístup k datům. Když jednám s TikTokem, jsou tam vždy dvě dominantní témata: chceme vidět bezpečnost dat. Na to je odpověď: připravujeme cloudy v Evropě, kde budou data shromažďována. Pokud by z Evropy měla unikat, pan Shou (Zi Chew – CEO TikToku) bude mít problémy. A zadruhé je to ochrana dětí – a tady po nich chci, aby šli za rámec zákona a udělali víc. Protože případů sebevražd a mentálních poruch, které vycházejí z toho, že jsou děti na síti, je příliš.

Jak na vás osobně zapůsobil šéf TikToku?

Setkala jsem se s ním dvakrát. Poprvé to byla zmíněná témata bezpečnost dat a dětí, teď jsem k tomu přidala Hamás. Chci od platforem slyšet, že uznávají Hamás jako teroristickou organizaci a že adekvátně reagují na ty hrůzy, které vyvolal. V Evropě se teď děje to, že se skupiny neštítící se násilí organizují na sítích. A to se dít nesmí. Proto už jsem mluvila se všemi velkými hráči, kromě Telegramu – a je na nich, aby si sáhli do svědomí, zda skutečně dělají dost pro to, aby se podobné věci neděly.

Máte ze šéfa TikToku pocit, že to bere vážně?

Dostala jsem od něho suchou reakci, kdy mi popsal, kolik už toho smazali a jak se věnují tomu, aby tam ty věci nebyly. Ale nečekala jsem vášnivou reakci. Čekala jsem odpověď ve smyslu technického a personálního řešení: ano, najímáme lidi, kteří to hlídají, mažeme ty odpornosti a výzvy k násilí, jsme si vědomi, že se přes nás organizují zločinci. To jsem slyšela od všech. Jinak Evropská komise už zahájila sběr informací ohledně několika sítí. Naši experti se budou dívat do algoritmů, sledovat situaci a v případě prohřešků pak už od jara příštího roku mohou udělovat pokuty.

Teď ve čtvrtek vystoupíte v Praze na Výroční konferenci Aspen Institute CE na téma, jak Evropská unie v digitalizaci pomáhá malým českým podnikům. Ruku na srdce, pomáhá unie dostatečně?

Vždycky to může být lepší. Česko je v kontextu EU zhruba v průměru, co se týče využívání digitálních technologií, cloudů, velkých dat a se zaváděním umělé inteligence. Potenciál je tu slušný, ale k jeho naplnění jsou potřebné tři věci. Motivace – aby firma vůbec měla chuť to dělat. Finance – nejen ty, které firmy už mají k dispozici, ale i další zdroje. A lidi. S financemi EU už pomáhá, protože v plánu obnovy, který má pod kontrolou ministerstvo průmyslu a obchodu, je 575 milionů eur na digitalizaci, které by měly být využité do roku 2026. Tyto peníze by se k malým a středním firmám měly dostat co nejrychleji.

A jak to jde?

Zatím se to rozjíždí. Ale nepůjde to úplně samo od sebe. Proto v celé Evropě zřizujeme takzvané digitální huby. Je jich 230, z toho šest bude českých. V brzké době by mělo ministerstvo být schopné firmám sdělit vše potřebné. Velké peníze máme také v programu Digital Europe, v němž je 7,5 miliardy eur na podporu vysoce výkonné IT, umělé inteligence a kybernetické bezpečnosti. Pro tyto peníze si zase mohou přijít státy a lídři v oboru – záleží na jejich motivaci. Unie dává peníze i na věci, jako je testování zmíněné umělé inteligence.

Máme sedm měsíců do eurovoleb, jak se vám zamlouvá vznikající kandidátka ANO bez europoslankyň Dity Charanzové a Martiny Dlabajové?

Tyto dámy udělaly obrovské množství práce. Dokonale znají agendu, mají skvělou schopnost vytvářet si spojence, chytře vyjednávat a nepochybně mají i jazykovou znalost. To jsou parametry, které bych chtěla vidět u všech 21 europoslanců, nejen těch z ANO. Ale do toho, jak bude vypadat kandidátka, já nemám co mluvit.

Jak vidíte svou budoucnost v hnutí ANO? Plánujete se s ním zúčastnit nějakých dalších voleb?

Neplánuji. Nechci už figurovat ve volených orgánech, chtěla bych to, co jsem se tady naučila, vrátit do Česka. Rýsuje se nějaká akademická dráha, o které bych zatím nerada říkala detaily. A je možné, že budu co platná po odborné stránce i v hnutí ANO, pokud o to bude zájem. Milníkem, co se další spolupráce s ANO týče, pro mě bude sněm, který je plánován na únor. Uslyšíme tam doufám i jiné věci, než někdy ostrá a radikální prohlášení pana předsedy Babiše. Ráda bych slyšela, kam má ANO směřovat. A to by únorový sněm mohl ukázat. Stejně tak budu hluboce přemýšlet, jestli jsem tam správně, podle toho, jak bude vypadat kampaň do Evropského parlamentu.

Máte nastaveno, kde je pro vás hranice, kde už by kampaň byla za hranou?

Obecně mám obavy ze zvyšující se agresivity kampaní. U ANO klidně může být ostrá i kritická vůči EU. Kritiku si zaslouží. Ale nesmí být prolhaná.

Když jsme se bavili o bývalém premiérovi Babišovi, zeptám se i na současného Petra Fialu z ODS. Jaký dojem ve vás zanechal jeho nákup Nutelly a dalšího zboží v Německu, kdy zjistil, že je u nás dráž?

Možná by stačilo, kdyby se místo natáčení videa pan premiér zeptal lidí. A dobře, že nejel do Polska.