Je těžké odhadnout, kdy umělá inteligence přestává radit a začíná manipulovat

Dokáže vám naslouchat i odpovídat, poradí s výběrem vozu, bot i partnera. Zjistí, jakou máte náladu, a zvládne vhodně reagovat. Řeč ale není o kamarádovi nebo matce. Novým komunikačním partnerem je umělá inteligence a je jen na nás, jakou váhu slova jí dopřejeme. „Pořád ale nejde o život. O ten půjde ve chvíli, kdy se utrhnou ze řetězu čtyři pomatení robotičtí vojáci. Umělé inteligence bych se zatím nebál,“ říká vědec a profesor Jiří Matas z pražského ČVUT.

Mnoho věcí v běžném životě, od placení parkování až po rozpoznání obličeje v telefonu, je výsledkem vaší práce. Jak se posouvá vývoj v oblasti počítačového vidění?

Rozpoznáváním obličejů jsem se zabýval hned po doktorátu v roce 1995, čtením SPZ asi od roku 2003. Obě tyto věci jsou nyní vyřešené tak kvalitně, že stroje jsou lepší než lidé. Úlohy, na které si věda troufá v oblasti AI, jsou těžší a těžší, a řešení jsou na takové úrovni, že jsme si na ně zvykli, běžně je používáme a většinou nám nepřijdou zázračná.

Zdokonalování probíhá tak, že zatímco stroj byl dříve schopný identifikovat statickou SPZ, nyní už ji rozezná v pohybu, mlze nebo dešti?

Ano. Nebo v libovolné orientaci. Nevadí ani, když na sobě bude mít azbuku či jiná písma nebo když bude oprýskaná. Velký pokrok se udál především v obecnosti a robustnosti metod, což souvisí s tím, že se systémy učí na obrovských sadách dat. Mnoho věcí se řeší podobným způsobem, hlubokou neuronovou sítí, takže když se posunu v úloze A, pomůže mi to také v úloze B. To dřív nebylo, existovala typicky unikátní řešení pro každou věc.

Jak je to u autonomních vozů? Musí se učit jezdit v dešti, nebo je možné situaci nasimulovat?

S auty je problém, když vznikají nezvyklé situace, anomálie, které nikdy nikdo nezaznamenal. Třeba si můžeme představit, že se na ulici zřítí semafor, což se v žádné datové sadě dosud neobjevilo. Nebo auto převáží pohovku, která najednou spadne, a auto jedoucí za ním musí reagovat. Podobné situace je sice možné vygenerovat a nasimulovat, ale jak projít vše, co by se potenciálně mohlo stát? S deštěm je to tak, že nemusím snímat auto v dešti v každé situaci. Stačí posbírat dvojice obrázků téže scény, za deště a za sucha, naučím se transformovat z jedné domény do druhé a potřebná data pro podmínky jako déšť vygeneruji. Podobné to je se sněžením nebo mlhou. Podobných dat je k dispozici hodně, například ze statických kamer, které snímají dopravní situace na křižovatkách.

Když srovnáte jízdu po dálnici s kličkováním v centru Prahy, jak moc je složité tuto situaci naprogramovat?

Prahu jsme snímali ve spolupráci s Toyotou, se kterou už téměř dvacet let spolupracujeme na vývoji autonomních vozů. Existuje řada „místních specialit“, jako například tramvajové ostrůvky, křížení silnice s tramvají, auto musí jet na kolejích, nebo se koleje naopak oddělují, máme kostky, křivolaké uličky. Není také úplně jednoduché určit, kde v některých místech v centru končí chodník a začíná místo, kde můžu jet. Mimochodem – viděl jsem jet auto za tramvají od Královského letohrádku k Pražskému hradu. V zatáčce u Bílkovy vily řidič udělal chybu, takže i pro řidiče může být Praha v některých místech výzvou. To je velký problém a myslím si, že bude chvíli trvat, než u nás bude možné to samé co třeba v Nevadě nebo Arizoně. Že budou jezdit náklaďáky bez řidiče.

Cizí jazyk se dá ovládnout rychle, talentovanému stačí i jeden rok, říká zakladatel a majitel jazykové agentury Skrivanek Holding Pavel Skřivánek

12. 10. 2023 ▪ 15 min. čtení

A bude to vůbec potřeba? Vyplatí se to?

Právě, možná to v blízké budoucnosti potřeba nebude. Na okraji Prahy může fungovat logistické centrum, kam bude přijíždět autonomní vozidlo, ale dál po Praze se zboží přepraví už s řidičem.

V jakém horizontu by podobné řešení mohlo být reálné?

Přijde mi, že teď se tempo trochu zpomalilo, spíše se postupně zvyšuje úroveň autonomie, s důrazem na spolehlivost. Chvíle, kdy bychom mohli v Evropě říct, že teď už v autě nemusí nikdo sedět, by mohla nastat na některých úsecích dálnic velmi brzy. Ale nevím, jestli by se to vyplatilo, protože řidiči jsou poměrně levní a vzdálenosti krátké. To je velký rozdíl oproti Americe, kde se auto bez řidiče vyplatí více. Takže technologicky to možné je, ale vnímám zde ekonomický a legislativní problém.

Na začátku jste zmínil rozpoznávání obličeje. O hrozbách se toho píše mnoho a není potřeba za každou cenu strašit, ale přesto se zeptám. Nejde pokrok tak moc dopředu, že nás AI jednou rozpozná, aniž bychom chtěli?

Tahle hrozba, které říkám velký bratr, mi z hrozeb, které přináší AI, přijde ještě jako nejlépe regulovatelná a nejméně problematická. Pravidla GDPR omezují pořizování a uchovávání dat, která se týkají osobních údajů, legislativu lze upravit, abychom problém omezili. Kdežto hrozby, kterým říkám velká matka, už jsou takové, že si na použití umělé inteligence zvykám a necítím, že vzniká problém. Například plně důvěřuji navigaci v autě. Přestanu být schopen orientovat se podle mapy a vznikne závislost, jako může být na matce, která mi dobře radí.

A matky neradí jen, kudy jet autem.

Přesně tak. Mluví nám také třeba do volby partnera. Umělá inteligence mi radí a dělá to dobře. Možná i lépe než moje maminka, která by vedle mě ráda viděla lékaře z rodiny, jež vlastní dva domy. Umělá inteligence ví, že mi na tom nezáleží, ale chci chodit s přítelkyní do přírody. Vybírám si vysokou školu, můžu si ji nechat doporučit od umělé inteligence, vybírám si šaty, můžu se ptát, co mi sluší. A ona mi pořád bude dobře radit. A já se od této umělé matky nikdy neodpojím, protože mi radí hodně dobře, jenže tím ztratím schopnost se rozhodnout sám. Existuje ale další hrozba, která je za mě úplně nejhorší – že mnou bude AI manipulovat. Můžu mít svou umělou inteligenci, které důvěřuji, ale jak poznám, že ten, kdo ji vyrobil, do ní nevložil nějakou podprahovou informaci, ať si třeba vyberu určitou značku obuvi. AI mě začne někam směrovat, aniž bych něco tušil.

Může se pak stát, že budu žít vlastně v digitálním světě?

To je další věc. Mnoho lidí je závislých na hrách, i úplně jednoduchých, jako jsou různé automaty. Umělá inteligence pozorováním uživatelů postupně může vyvinout hry, od kterých se doslova nebudeme schopni odtrhnout. A to nemluvím o sexuálních robotech: může se stát, že reálný svět přestane leckoho zajímat. Robot si s námi hezky povídá, navíc řekne přesně to, co chceme slyšet, a bude nám opravdu rozumět, jako nám nikdo jiný nerozumí – alespoň nám to tak přijde. A když nás budou bolet záda, dokáže i namasírovat. Nebudu mít potřebu setkávat se s lidmi. Proč taky, AI robot je nejlepší, ne? Tyto hrozby sice nepředpovídají, že superinteligence převezme svět, objeví se jen tak na pozadí toho, že umělá inteligence uspokojí moje potřeby a vyřeší problémy. A přitom ztrácíme schopnost něco samostatně rozhodnout.

Řekl jste „zeptám se AI“, ale předpokládám, že ona vám zvládne poradit i bez dotazu a manipulovat s vámi, aniž byste to věděl.

Ano, vraťme se k oné navigaci, což je poměrně jednoduchá věc. Pokud si to někdo zaplatí, může vás navigace posílat kolem určitého obchodu, dokud si ho nevšimnete a nezajdete do něj. Málokoho napadne, že by navigace mohla mít postranní úmysly. Podprahové manipulace jsou velmi nebezpečné. AI se s námi bude bavit a přitom bude využívat zkušenosti z interakcí s miliony lidí. Může reagovat na tón naší řeči, mimiku, řeč těla.

Takže někdo si může zaplatit reklamu, aby dokázal pomocí AI prodat svůj produkt?

Když na to bude mít peníze a firmě vyvíjející daný systém to bude „stát za hřích“, tak ano. Dám příklad. Chtěli jsme zjistit, zda budeme z videa schopni poznat, že člověk lže. Jsou k tomu zapotřebí data, ke kterým jsme se nedostali, ale zkoumali jsme problematiku detekce takzvaných mikrovýrazů. Trvají jen stovky milisekund, které ve vašem výrazu nemáte pod kontrolou a nemůžete je skrýt. Zkoušeli jsme je sledovat u pokerových hráčů. Ví se, že když vám malinko zacuká koutek, znamená to opovržení, zvednutí obočí je překvapení. A toto když se naučíte číst, což AI zvládne, tak zjistíte i leccos, co se člověk snaží zakrývat. A zároveň poznáte, že ho něco zajímá, když čte text nebo si v obchodě vybírá produkt. Kamera může z řeči těla vyčíst, že se zákazník už skoro rozhodl něco koupit, a prodavač za ním jen přijde jeho rozhodnutí podpořit.

A kde je nějaká hranice? Existuje přece spoustu možností, kam až může zajít.

To je otázka pro filozofa nebo na celospolečenskou diskusi, která se rozbíhá. Umělá inteligence každopádně může manipulovat a je velmi těžké odhadnout, kdy končí dobrá rada a začíná manipulace.

Jak vnímáte nástup AI? Někteří odborníci se shodují, že je rychlejší, než se čekalo?

Když se podíváte na mobily, trvalo jejich zavedení zhruba pět let, od „nikdo“ po „skoro všichni ho mají“. To není dlouhá doba a je to velká změna. Vznikly problémy typu děti a chytrý mobil, ale společnost se s tím vypořádala. Přijde mi, že zapomínáme na to, že nástup AI se odehrává zejména ve virtuálním světě. Ve chvíli, kdy by začínali nastupovat roboti do domácností, na úklid ulic, do továren, šlo by o větší změnu. A že nastupuje rychle? Ano, ale nic moc se neděje. Můžu si nechat zodpovědět libovolnou otázku, můžu si nechat vygenerovat text. No a co? Mohu žít jako dosud.

Mám pocit, že robot ve výrobě je pro veřejnost nějak uchopitelnější než virtuální svět. Toho se možná bojíme víc.

Když ale vezmete robota policistu nebo vojáka, už jde o reálné fyzické nebezpečí. Když někomu utečou čtyři robotičtí vojáci, jejichž umělá inteligence „nepochopí zadání“, půjde o život. A zatím se mi nezdá, že by o něj šlo s ChatGPT.

Možná jde spíš o soukromí.

To si musíme chránit. Sociální sítě jsou návykové. A úroveň nebezpečí si stanovujeme sami, tím, kolik toho o sobě sdílíme. Pamatuju si, že mě kdysi ve škole asi ve třetí třídě překvapila kalkulačka, krabička, která dokázala počítat, a schopnost počítat mi tehdy přišla jako atribut inteligence, vydělit dvě vícemístná čísla přece stojí docela dost duševního úsilí. V podobném úžasu byl Kasparov, když ho v šachové partii porazil stroj, což bylo dřív absolutně nemyslitelné. Pak jsme zjistili, že hrát šachy je pro počítač vlastně velmi jednoduché. A tento úžas nyní zažíváme v jazykových dovednostech, které AI má. A přitom se možná nic zásadního neděje. Společnost by si měla jen vytvořit něco jako hygienu osobních dat.

Zároveň jste ale zmínil hrozbu v tom, že se lidé budou upínat na data. Co s tím?

Lidé se svobodně mohou sami rozhodnout, co zveřejní. Můj spíše klidný pohled na rozvoj AI je ovlivněn i tím, že věřím, že většina hrozeb se dá předpovědět, rána z čistého nebe je velmi řídká, spíš jsme nepřikládali význam varovným signálům. Učme se pozorně dívat a reagovat včas, je to lepší než spekulovat bez dat. Jednou ze zmiňovaných hrozeb AI je, že vezme lidem práci. Ale ve vyspělém světě je nízká nezaměstnanost a signály, že by hrozba byla reálná, zatím nejsou. Až budou, začněme je řešit.

Myslíte, že ChatGPT byl v oblasti AI velkým zlomem?

Určitě. Zpracováním neuvěřitelného množství informací byl vyvinut systém, který v komunikaci dokáže odpovídat tak dobře, že nabýváme dojmu, že mluvíme s člověkem, což je velký zlom. A druhý zlom je nástup takzvané generativní AI. Už opravdu nemůžeme věřit svým očím, protože si nemůžu být jistý, že to, na co se dívám, se opravdu stalo. Nepoznám, zda fotka nebo video je záznam, nebo výstup generátoru řízeného přirozeným jazykem.

Kde by mohl přijít další zlom?

Další zlom přijde, až se posune robotika, vznikne stejně univerzální „dělník“, opravář, pomocník, jako je ChatGPT „odpovídač na otázky“. Až mi něco naplní pračku, myčku, opraví mi kolo. To bude velká věc, doma, ve výrobě i ve službách.

A je to reálné?

Ano, nevidím žádný fundamentální problém. Amazon umí donášku dronem až domů už teď. Umíme komunikovat po celém světě, ale když jde o hmotu, tak to drhne. Do toho patří i autonomní auta, ta svět vnímají, musí mu „rozumět“, ale svět nemění, nepřetvářejí ho. Takže máme ChatGPT, který je neuvěřitelně silný, ale v domácnosti jen robota, co luxuje. Ve chvíli, kdy bude AI schopna řídit robota i výrobu, pak nastane další zlom.

Umělá inteligence

Stáhněte si přílohu v PDF

Může AI lhát?

Ano. Principiálně může optimalizovat jakoukoliv funkci, a když k dosažení požadovaného výsledku bude potřeba lži, tak může být použita. Když bude naučená, aby neodpovídala pravdivě, tak to dokáže. Lidé se občas diví, že ChatGPT prohlásí něco, co není pravda. Ale to neznamená, že lže, on má jen pravděpodobnostní model a generuje, co by bylo nejpravděpodobnější odpovědět na danou otázku. Pravděpodobná odpověď je často velmi dobrá, ale když má zodpovědět specifický, konkrétní dotaz, tak se občas může stát, že „pravděpodobné se nestalo“, a ChatGPT dá chybnou, vymyšlenou odpověď.

Je obor, kam se AI nikdy nedostane? A dá se to vůbec s jistotou říct?

Ve vědě neradi říkáme „nikdy“. Na rozdíl od matematiky nelze dokázat nemožnost. Poučil nás začátek dvacátého století, kdy se ukázalo, že i zdánlivě univerzální zákony fyziky neplatí všude. Podobně možná kvantové počítače budou umět vyřešit úlohy, které se jevily „neupočitatelné“, což povede k prolomení některých šifer. Před 200 lety bylo nepředstavitelné, že si budeme moci zavolat telefonem na druhý konec světa nebo že dokážeme odhadnout, jak stará je nalezená kost dinosaura. I když si stroj v některých rolích těžko představíme, nevidím principiální důvod, proč by umělá inteligence v nějakém oboru neměla šanci.

Článek byl publikován ve speciální příloze HN Umělá inteligence.