Sloupek Miloše Čermáka: Na tenkém ledě rasismu, sexismu a podobných ošklivostí

Jestli čtete tento článek někde mezi lidmi, zvedněte na chvíli oči a najděte si nějakého člověka, kterého neznáte. Dobře se na něj podívejte. A zkuste si v duchu říct. Jakou má asi sexuální orientaci? Jde to z tváře vůbec poznat? Ptal jsem se na to pár známých a většina si myslí, že nikoliv. Jiní nesouhlasí. "Samozřejmě že to jde poznat! A speciálně to poznají homosexuálové. Můžeš tomu říkat instinkt. Ale je to důležité pro to, aby se navzájem poznali!" tvrdil mi jeden kamarád. Nevím, po odpovědi jsem zas tak moc nepátral. Ale našel jsem psychologické studie, které to zkoumaly, a v některých údajně vyšlo, že určitý instinkt v tomto směru může existovat. Respondenti, kteří měli sexuální ­orientaci určovat z fotek, měli o něco větší úspěšnost, než kdyby o odpovědi rozhodovala čistě náhoda. Nepíšu o tom proto, že bych to považoval za důležité téma. To ostatně nepovažoval ani Michal Kosinski, výzkumník z americké Stanfordovy univerzity. V jeho studii šlo o něco jiného.

Společně s kolegyní Youyou Wu z Cambridgeské univerzity udělali v roce 2018 následující experiment. Ze seznamovací aplikace stáhli tisíce fotografií společně s informací, zda dotyčný člověk hledá partnera opačného, anebo stejného pohlaví. Tyto fotky pak použili, aby "naučili" poznávat sexuální orientaci počítačový algoritmus. Lépe řečeno aby zjistili, zda je to možné. Algoritmus zkoumal vše, co lze na lidské tváři měřit a porovnávat. A snažil se najít rysy, které by mohly být společné homosexuálům a které heterosexuálům. V druhé fázi experimentu dali oba výzkumníci algoritmu fotky nové, tentokrát už bez informace o sexuální orientaci. A výsledek? U mužů ji určil správně v 81 procentech případů, u žen v 71 procentech. Výrazně lépe, než se to dařilo lidem.

Experiment vyvolal velkou odezvu, včetně té negativní. Sexuální orientace dnes v západní společnosti není tabu, spíše naopak. Ale není to tak všude. Stále jsou země, kde lidé homosexualitu tají, protože by jim její odhalení mohlo způsobit problémy. Kosinski se dočkal kritiky, ale i výhrůžek smrtí. "Lidé nepochopili, že naším cílem nebylo ukázat, jak je skvělé určit počítačovým algoritmem sexuální orientaci. Cíl byl přesně opačný. Naše studie měla být varováním, že moderní technologie ohrožují naše soukromí," řekl Kosinski časopisu Scientific American.

◼

Kosinski a Wu spolu ostatně nebádali poprvé. V roce 2015 spolupracovali s Davidem Stillwellem, rovněž z Cambridge, na algoritmu, který měl určit osobnostní rysy uživatelů Facebooku. A to pouze na základě toho, jaké lajkují články, statusy nebo fotografie. Využili přitom data, která Stillwell sbíral v letech 2007 až 2012. S pomocí facebookové aplikace získal vyplněné dotazníky zhruba od šesti milionů uživatelů této sociální sítě. Použil standardizovaný test pro zjištění pětifaktorového modelu osobnosti, Big Five. Z něj se dozvíte, jak moc jste otevření novým vjemům, jak jste přívětiví, svědomití, komunikativní a neurotičtí.

Jinými slovy se dozvíte, jak asi budete reagovat v různých životních situacích a co od vás ostatní mohou čekat. Je to informace zajímavá pro vás, ale ještě víc pro vaše okolí. Pro vaše přátele, blízké, ale také třeba kolegy či zaměstnavatele. Zhruba tři miliony lidí daly − výměnou za zaslání tohoto profilu − Stillwellovi povolení použít jejich facebooková data. Na tomto rozsáhlém souboru v roce 2015 "trénovali" Kosinski a Wu svůj algoritmus. S cílem použít pouze znalost o tom, jaký obsah člověk lajkuje, k sestavení profilu jeho osobnosti.

Výsledky byly naprosto ohromující. Cituji ze shrnutí výsledků studie: Stačily informace, čemu nebo komu jste na Facebooku dali 10 lajků − a algoritmus o vás věděl zhruba tolik, kolik ví průměrně kolega z firmy. 70 lajků stačilo k tomu, aby o vás věděl tolik co váš přítel nebo kamarád. A jen 300 lajků stačilo k tomu, aby vás počítač poznal stejně dobře jako váš životní partner. Samozřejmě že se algoritmus může mýlit. Stejně jako se ve svých kolezích, přátelích a někdy i životních partnerech můžeme mýlit také my. Pointa je jinde. Totiž že se umělá inteligence mýlí méně.

◼

Nikomu do hlavy nevidíme. My ani počítače. Ale snažíme se s použitím všech dostupných informací přijít na to, co si jiný člověk myslí, jaké má zkušenosti a co udělá. Zda neudělá něco, co by nás mohlo ohrozit. Tím nás vybavila evoluce. Je to dobré k našemu přežití. Ale může to také bezdůvodně ubližovat lidem, kteří se ničeho nedopustili a žádnou hrozbou pro nikoho nejsou. Říká se tomu předsudky nebo stereotypy. A nemají dobrou pověst. Snažíme se od nich osvobodit, nebo s nimi aspoň bojovat a nepodléhat jim.

Všichni známe z YouTube videa, kde skrytá kamera pozoruje muže, který leží bezvládně na chodníku. Když je oblečený jako bezdomovec, trvá až desítky minut, než někoho napadne zjistit, zda nepotřebuje pomoc. Když je to týž muž oblečený v obleku s kravatou, je to otázka desítek vteřin. Když jdu v noci tunelem pro pěší ze Žižkova do Karlína a proti mně se vynoří dva třicátníci, kteří vypadají jako dva manažeři, kteří se po práci "zapomněli" na pivu v hospodě, uleví se mi. Ale když to jsou dva stejně staří Romové v džínách a mikinách s kapucí, zrychlí se mi tep. Nemám jedinou indicii, že by mi mělo hrozit nějaké nebezpečí. Ale stejně mi bleskne hlavou, že by mě mohli okrást. Nejsem na to pyšný. Ale takhle funguje stereotyp v mé hlavě. Raději bych ho neměl. Avšak je tam.

A další stereotypy samozřejmě všichni dobře známe. "Holkám nejde matematika", "muži nemají žádnou empatii", "staří lidé mají problémy s ovládáním počítačů", "Romové nepracují a berou sociální dávky" atd. Americký psycholog Gordon Allport napsal v padesátých letech ve slavné knize O povaze předsudků, že stereotypy jsou přehnaná, většinou nepravdivá tvrzení. A že je nelze podceňovat, protože mohou vést k tragédiím, jako jsou války nebo genocidy. Od té doby se pohled psychologů trochu pozměnil. Jako bychom stereotypy vzali malinko na milost. "Schopnost zobecňovat a kategorizovat je důležitou součástí lidské inteligence," napsala v nedávném článku Mahzarin Banajiová, psycholožka Yaleovy univerzity.