Žádné manipulace lidmi, žádný policejní dohled. EU dala umělé inteligenci důležité mantinely

Je těžké si v tuto chvíli představit rozsah budoucích aplikací, ale zatím to vypadá, že se v blízké budoucnosti může stát realitou, cokoliv vás napadne. Zdravotní péče a lepší stanovení diagnózy? Určitě ano. Zvýšení efektivity vědeckého výzkumu, které může přispět ke zmírnění klimatických změn? Proč ne. Osobní vzdělávací asistent? Může být. Váš osobní trenér nebo terapeut? I to je možné. Automatická zákaznická podpora? Banky už to testují. Kontrola toho, aby řidič neusnul? I ve vašem voze.

Kde jsou tedy ta rizika? Právě v široké a zatím neurčité paletě aplikací, z nichž některé se mohou týkat i velmi citlivých, a dokonce intimních částí našeho života. V těch může špatně vytvořená, nebo dokonce zlá umělá inteligence napáchat mnoho škod. Umělá inteligence bude pronikat do našich domácností a řídit obsah našich sociálních sítí i lednice. Nelze vyloučit, že bude rozhodovat i o tom, co nosíme, koho obdivujeme, jak se cítíme nebo kam cestujeme na dovolenou.

A proč to řeší právě Brusel? Žádná evropská země není dostatečně silná, aby prosadila svou vlastní regulaci AI a aby její legislativa obstála proti velkým světovým hráčům, mezi které se řadí firmy jako Meta (Facebook), Microsoft nebo Alphabet (Google).

Každá správně uchopená regulace má co nejvíce snižovat rizika dané technologie a současně co nejméně omezit inovační potenciál firem a užitek pro jednotlivce. Jednoduše řečeno, chytře omezit tam, kde je to třeba, a nikde jinde. Chceme, aby umělá inteligence mohla ovlivňovat lidi k tomu, aby hlasovali ve volbách pro konkrétní politickou stranu? Chceme, aby dokázala využívat zranitelnosti či nevyspělosti jednotlivce? Aby existovaly hračky, které budou děti navádět k tomu, aby udělaly něco nebezpečného? Chceme, aby samotná umělá inteligence rozhodovala o tom, jestli nás zaměstnavatel vybere k pohovoru, nebo nám počítala sociální skóre, na jehož základě získáme nájemní smlouvu?

Jak moc chceme či musíme chápat, co se uvnitř umělé inteligence děje? Asi je vám jedno, proč se AI rozhodla, jestli je na obrázku pejsek nebo kočička. Ale nejspíš budete chtít vědět, proč se rozhodla, zda dostanete půjčku v bance. Těmto požadavkům se říká transparentnost a vysvětlitelnost. Pomáhají nám zajistit to, že umělá inteligence bude nadále pod kontrolou lidí a ne naopak.

Už víme, proč je regulace potřeba. Jak se s tím ovšem potýká AI Act Evropské unie? Přistoupil k těmto úvahám podle vzorce, ve kterém dělí systémy umělé inteligence na čtyři úrovně podle závažnosti rizik pro jedince nebo společnost: nepřijatelná, vysoká, omezená a minimální rizika. Zároveň bude regulace jasně vymezovat své pole působnosti, takže ji bude možné uplatňovat jen v oblastech pravomoci EU.

Díky podcastu Bruselský diktát pochopíte, že pro nás Čechy má mnohem větší význam dění v Evropě než v Praze a v Česku vůbec. Celé díly poslouchejte na

HeroHero Gazetisto Forendors

Mezi systémy, jež budou v EU v budoucnu nepřijatelné, se řadí například umělá inteligence, která manipuluje lidské chování, hromadně získává fotky lidí z internetu nebo rozeznává emoce v práci či ve školách. Zakázán bude také prediktivní policejní dohled, tedy umělá inteligence, která vyhodnocuje pravděpodobnost, že daná osoba spáchá nějaký trestný čin.

Jako vysoce rizikové jsou klasifikované aplikace ve vzdělávání (přístup ke vzdělávání nebo hodnocení výsledků), v kritické infrastruktuře, ve veřejných službách, dále systémy pro hraniční kontroly (to se týká i běžné biometriky na letištích) a v oblasti spravedlnosti a vymáhání práva. Návrh Evropského parlamentu chtěl do tohoto seznamu zahrnout také systémy, které doporučují obsah sociálních sítí, ale zákonodárci nakonec ze svého požadavku ustoupili.

Aby mohly být vysoce rizikové systémy nasazeny na evropském trhu, musí být prokazatelně navržené a vyvinuté tak, aby účinně zamezovaly diskriminaci a zajišťovaly respektování základních lidských práv. Jejich poskytovatelé musí vést dokumentaci a pravidelně školit své zaměstnance. Pro další minimalizaci rizik vyžaduje AI Act také lidský dohled nad těmito systémy. Produkční nasazení technologie nesmí probíhat automaticky, vždy musí jít o vědomé lidské rozhodnutí.

Systémy s malým rizikem budou naopak podléhat pouze nízké formě požadavků na transparentnost. To by se mělo projevovat zejména tím, že uživatelé budou jasně informováni o tom, že interagují s AI systémem.

Důsledky regulace mohou, ale nemusí být dalekosáhlé. Samozřejmě existují firmy, které už investovaly do technologií, jež budou nyní zakázané. Ty by se měly soustředit na co nejrychlejší změnu své strategie a začít hledat jiný segment trhu. Proč ale tyto požadavky pro většinu firem velké riziko představovat nemusí? Snad lze doufat, že provozovatelé umělé inteligence se již nyní chovají zodpovědně a rizikové systémy dostatečně monitorují. A pokud se firmy budou muset přizpůsobovat, zvýšená administrativní zátěž, školení personálu a s tím spojené náklady zajistí vyšší důvěryhodnost a bezpečnost AI v Evropě.

Autor je Head of Data & AI, Creative Dock a předseda strany Volt Česko

(Pozn. autora: Tento článek nebyl vygenerován umělou inteligencí.)