Týden s technologiemi: Hrozby ze všech stran a umělá inteligence jako golem

Už dnes můžete vzít elektronickou knížku, nahrát ji na jednoduchou webovou stránku a poté si o jejím obsahu povídat s umělou inteligencí. Stejný nástroj můžete využít třeba k tomu, abyste se lépe vyznali ve smlouvách, manuálech nebo jakýchkoliv jiných textech. To je ideální příklad rozdílu mezi tím, co umí klasické vyhledávače a generativní umělá inteligence. Je to jednoduché, praktické a ušetří to spoustu času.

Podobných způsobů použití umělé inteligence je spousta a kromě pozitivních přínosů to ale také znamená rizika. Očividnou hrozbou je přímé zneužití umělé inteligence zločinci, ať už k vytváření přesvědčivějších internetových podvodů, nebo k odhalování slabin populárních aplikací, což už se děje. AI má i potenciál ekonomické hrozby.

Jako příklad poslouží společnost Chegg, která podniká ve školství. Mimo jiné nabízí doučování a pomoc s domácími úkoly a nástup systému ChatGPT od společnosti OpenAI podle šéfa firmy začíná mít negativní vliv na počty nových zákazníků. Po tomto oznámení v rámci zveřejnění finančních výsledků se hodnota firmy propadla o polovinu. Zčásti je to projev klasické investorské hysterie, ale podobných případů bude přibývat.

Stejně tak se začínají naplňovat obavy o pracovní místa. IBM už oznámilo, že přestane nabírat nové zaměstnance na provozní pozice. Během pěti let by firma měla do back officu přijmout až o 30 procent méně lidí, protože jejich práci nahradí umělá inteligence. Šéf IBM Arvind Krishna odhaduje, že by mohl během pěti let ušetřit 8000 pracovních míst z přibližně čtvrt milionu pozic. Velké technologické firmy začaly po letech „nekonečného“ růstu na lidech šetřit už v minulém roce a možnost nahradit některé pozice počítačovým systémem pro ně bude lákavá.

Zprávy o zkáze pracovního trhu jsou ale pravděpodobně přehnané. Podobně se o budoucnost ekonomiky báli luddité (angličtí řemeslníci a dělníci, kteří na počátku 10. let 19. století utvořili sociální hnutí za účelem zničit stroje), hrůzu vzbuzovaly i osobní počítače, internet… Lepší než bát se umělé inteligence je naučit se s ní pracovat. Zatím totiž umělá inteligence hlavně otevírá nové možnosti.

Zkáza předpovídaná sci-fi filmy ale úplně vyloučená není a hrůzy vzbuzují větší pozornost než pozitivní zprávy. Nepříjemné je, když před možným koncem lidstva varuje Geoffrey Hinton, člověk, který stál nejprve u vzniku „primitivnějších“ systémů umělé inteligence, neurálních sítí, aby v roce 1986 vytvořil prvního „chatbota“, tedy předchůdce dnešních systémů generativní umělé inteligence proslavené systémem ChatGPT.

Neomezená umělá inteligence za 500 měsíčně i zdarma: ChatGPT není jediný a konkurence sílí

2. 5. 2023 ▪ 11 min. čtení

Posledních deset let Hinton pracoval v Googlu na systému Google Brain a tento týden oznámil, že z Googlu odešel, a začal veřejně kritizovat překotný a nekontrolovaný vývoj umělé inteligence. „Je těžké ignorovat všechny možnosti zneužití umělé inteligence zločinci,“ uvedl Hinton v rozhovoru pro The New York Times, podobnou myšlenku opakoval i v interview pro britský časopis The Spectator. Jeho hlavní obavou v krátkodobém horizontu je zahlcení internetu a veřejného prostředí falešnými informacemi, fotografiemi, videi a texty generovanými systémy umělé inteligence v takové míře a kvalitě, že lidé nebudou schopní poznat, co je reálné a co lež.

Už během pěti let ale může přijít ještě větší potenciální hrozba: obecná umělá inteligence (artificial general intelligence, AGI) schopná uvažovat podobným způsobem jako člověk, ale s řádově vyšší schopností zpracovávat a analyzovat data. Tam Hinton vidí ještě větší hrozbu, která v podstatě odpovídá obavám apokalyptických sci-fi filmů. Pokud bude umělá inteligence chytřejší než lidstvo, nemusí se chtít podřizovat. „Představte si domácího robota s obecnou umělou inteligencí. Ten robot bude mnohem chytřejší než vy. Jste si jistí, že vás bude chtít poslouchat? My na to neznáme odpověď, může to dopadnout jako s golemem,“ vysvětloval svůj opatrný postoj Hinton pro The Spectator.

Hinton nakonec prozradil i motivaci pro odchod z Googlu – chce upozornit na to, že hlavní problém představuje neřízený konkurenční boj velkých firem, primárně Microsoftu (společně s OpenAI) a Googlu. Podle něj se Google deset let choval zodpovědně, držel pokroky v oblasti umělé inteligence v rámci vědeckých experimentů, bez veřejného přístupu. To se ale změnilo ve chvíli, kdy Microsoft začlenil umělou inteligenci do svého vyhledávače Bing. Do hry navíc vstupuje i soupeření Západu a Číny. Volání po moratoriu na vývoj umělé inteligence je podle Hintona zbytečné. Pokud se bude omezovat Západ, jenom dá šanci Číně a dalším nepřátelským režimům dosáhnout úspěchů dříve a získat tak větší moc.