Volá máma. Umělá inteligence mluví cizím hlasem a brzy napodobí člověka i na videu

Konverzační nástroj ChatGPT spustil nebývalý zájem veřejnosti o umělou inteligenci (AI). „Jeho komunikace je na tak pokročilé úrovni, k jaké dřív neměli běžní uživatelé přístup. Proto působí revolučně a proto se také začínáme bavit o tom, jak nám může pomoct v rámci kyberbezpečnosti, nebo naopak jak může pomoct útočníkům,“ říká etický hacker a jednatel brněnské společnosti Patron IT Martin Haller.

Hallerova firma se snaží získat zpět od zločinců ukradená data svých klientů nebo posílit jejich ochranu díky preventivním opatřením. Ve zlepšení systému Hallerovi pomáhá právě to, že umí hackovat – snaží se nabourat do systému svých klientů a tím odhalit slabá místa, která potom posílí. Mezi zákazníky společnosti je například ČEZ, Česká spořitelna nebo pražský IKEM.

Jak firmy, třeba banky, dosud používaly umělou inteligenci k zajištění kyberbezpečnosti?

Firmy ji používají pouze částečně, jako výpomoc. Banky nebo pojišťovny třeba využívají AI pro rozpoznávání hlasů svých zákazníků od hlasů podvodníků. Hlas používají v podstatě jako otisk prstů, akorát je to otisk mluveného projevu. Jenže toto využití AI je úzce zaměřené, často jednoúčelové.

Dá se to s použitím novějších technologií, o kterých v poslední době mluvíme, obejít?

Nově vzniklo několik nástrojů: například konverzační ChatGPT nebo umělá inteligence, která umí generovat obrázky. Teď už máme i umělou inteligenci, která generuje videa nebo umí napodobovat hlas. Umí hlasem někoho jiného říct, cokoliv jí zadáte. A nejen že se ten hlas bude podobat originálu, bude shodný i s intonací a rychlostí řeči reálného člověka – umělá inteligence do hlasu dokáže přidat i emoce. Proto tady existuje strach, že budou vznikat kybernetické útoky, které toho zneužijí.