Hrozí nám postavení digitální kolonie a placení za e-maily?

Podle předběžných informací právě v této době dokončují právníci Evropské unie soubor nových regulací pro oblast umělé inteligence. Cílem má být zvýšení důvěryhodnosti AI mezi veřejností. Jak toho bude dosaženo a co to pro nás všechny vlastně znamená?

Plán spočívá ve stanovení „vysoce rizikových oblastí“, jako jsou například systémy pro automatické vyhodnocení rizikovosti žádosti o půjčku nebo sledování bezpečnosti automobilového provozu pomocí kamer využívajících strojové učení. V neposlední řadě pak také mají být regulovány internetové služby, které se adaptují podle chování uživatelů.

Co už je ale méně jasné, je to, jak má docházet k samotné regulaci. Na jednu stranu se uvádí pokuta až čtyři procenta z globálního obratu firmy (nebo až 20 milionů eur), na druhou stranu verifikace toho, že se daná firma chová podle pravidel, vypadá velmi diskutabilně. Je důležité připomenout, že techniky strojového učení jsou ve své podstatě jen souborem algoritmů. Neexistuje hranice toho, co je AI algoritmus a co už ne. Jinými slovy, pokud právě projednávaný soubor regulací bude příliš omezující, dočkáme se možná jen toho, že firmy přestanou nazývat své produkty umělou inteligencí – beztak se většinou jedná jen o marketingový buzzword. Je také možné, že se vše vydá stejným směrem jako GDPR – tedy pro uživatele přibudou na webech další okna typu „Souhlasím s tím, že tento web využívá AI“ a jinak se nic nezmění.