V EU začínají platit nová pravidla pro AI, týkají se i deepfakes

V zemích Evropské unie se od neděle začínají uplatňovat některá zásadní ustanovení unijního Aktu o umělé inteligenci (AI), zejména pravidla transparentnosti pro vybrané systémy AI. Znamená to například povinnost informovat uživatele, že komunikuje s chatbotem či jiným systémem umělé inteligence. Také takzvané deepfakes (obrázky, zvukové nahrávky či videa vytvořené nebo upravené pomocí AI, které mohou působit jako autentické) budou muset být jasně označeny jako uměle vytvořené.

Český telekomunikační úřad (ČTÚ) v souvislosti s tím upozorňuje i na to, že stejná pravidla platí také pro text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, který je generovaný nebo manipulovaný AI systémem. „ČTÚ v tomto směru upozorňuje, že je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu „AI generated pro plně generovaný obsah nebo AI modified pro obsah upravený pomocí AI“, stojí v prohlášení úřadu, který bude v Česku dohlížet na dodržování pravidel.

Začíná rovněž vymáhání pravidel. Národní dozorové orgány i Evropská komise získávají pravomoci ukládat sankce za porušení ustanovení, která jsou již použitelná – tedy zejména zákazů nepřípustných praktik, ale nově i transparentnosti. Firmám mohou hrozit vysoké pokuty, které v případě porušení pravidel transparentnosti mohou dosáhnout až 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti. Cílem těchto opatření je podle Evropské komise omezit klamání a manipulaci a pomoci lidem činit informovaná rozhodnutí. Firmám zároveň přinášejí jasnější povinnosti a praktický způsob, jak prokázat soulad s pravidly.

„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí,“ uvedl k novým pravidlům český advokát Jaroslav Kuba z poradenské společnosti Rödl. „Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle nových pokynů Evropské komise musí prozradit nejen že jsou umělou inteligencí, ale i za koho jednají,“ dodal.

Mezi takzvané deepfakes Evropská komise podle českého advokáta výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, nebo virtuální influencery.