Umělá inteligence jako jaderná zbraň. Zneužití schopnosti strojů učit se už není science fiction

Představte si, že se najednou na sociálních sítích objeví mnoho videí, v nichž lidé, které znáte a věříte jim (a nemusí to být nutně politici), tvrdí naprosté nesmysly. Nebudete věřit vlastním očím a uším. Vy a lidé okolo dostanete strach, zpanikaříte.

Nebo si představte, že se stovky kilometrů daleko najednou od země odlepí hejno desítek až stovek bezpilotních letadel, které zamíří nad hlavní město vybrané země s bombami. Protiletadlová obrana možná pár dronů sestřelí, ale nebude schopna zničit všechny. Bude jich mnoho a budou se navzájem koordinovat.

S podobnými příklady využití umělé inteligence v praxi reálně pracují vědci, kteří začínají mít obavu z toho, kam její vývoj povede. Její zneužití či využití k útoku a získání moci už není tématem sci-fi literatury, ale vědeckých studií. Nikdo neví, jak daleko je doba, kdy se podaří vyvinout umělou inteligenci, která začne obnovovat sama sebe a nebude k tomu potřebovat člověka. Bude mít stejné etické standardy jako člověk?

Zatím jsou v pozadí lidé. Ale už jen představa, že pro teroristický útok za použití hejna dronů stačí jeden člověk a vyspělá umělá inteligence, je mrazivá. Ne nadarmo je vývoj "hejna" − dronů či miniponorek − jedním z nejnovějších trendů mezi zbrojařskými firmami. A co teprve kdyby taková umělá inteligence nabídla autoritářským státům možnost vytvořit politickou alternativu liberální demokracie?

Umělá inteligence, kterou vývojáři nejčastěji představují jako cestu k lepší budoucnosti lidstva, se snadno může stát novou jadernou zbraní. Ten, kdo první předběhne ostatní, bude mít výhodu a bude si moci diktovat i politické podmínky, navíc v globálním měřítku. Britští experti v tomto odvětví na letošní červnové globální konferenci think-tanku Chatham House zdůraznili, že v přemýšlení o budoucnosti umělé inteligence jsme málo invenční. "Může se změnit nejen představa o tom, co je to práce, ale i svoboda a demokracie," zdůraznili.

Ve světě se debatuje spíš o dopadu robotizace a umělé inteligence na pracovní místa, protože to je tak nějak představitelnější. Ale druhý okruh debat je spojen s tím, jak zabránit jejímu mocenskému zneužití a jak jí v budoucnu předat hodnoty a etiku, kterými se člověk řídí. Regulace či kontrola není v silách jednoho státu. Zatímco technologicky jsme v situaci, kdy si systémy samy zjišťují, co se mají učit, vlády nejsou ani náhodou připraveny na obrovskou změnu, která se chystá.

Podobných debat, jako byla londýnská Chatham House, jsou nyní stovky. Jednu z nich, konferenci Human-Level AI, hostila i česká firma GoodAI letos v srpnu v Praze. Společnost založená podnikatelem Markem Rosou se snaží prosadit zodpovědný rozvoj umělé inteligence. "Není pochyb o tom, že v příštích letech její význam jako ekonomického a politického nástroje poroste," říká Rosa. "Ať už půjde o extrémně silnou úzce zaměřenou, nebo obecnou umělou inteligenci, má velký potenciál proměnit politickou a ekonomickou si­tuaci a dát obrovskou výhodu těm, kteří k takové technologii budou mít přístup," předpovídá.

Pokud podle něj získá nejsilnější umělou inteligenci nedemokratický stát, tak ji využije jen pro sebe. Demokracie naopak budou mít neocenitelnou možnost pro vylepšení systému liberální demokracie a jeho prohloubení.