Minulý týden jsem se zeptal kamaráda, otce tří dětí, jestli by mu vadilo, kdyby si jeho dcera každý den psala s někým neznámým. S někým, kdo by ji hluboce ovlivňoval, ale on sám by netušil, kdo to je – a ani by neměl možnost toho člověka poznat. Podíval se na mě vyděšeně. Myslel si, že mluvím o nějakém predátorovi z internetu.

Ještě víc se vyděsil, když jsem mu řekl, že se to už děje. Skoro propadl panice, ale pak jsem ho uklidnil: „Neboj, nejde o žádného predátora. Je to jen... ChatGPT.“

Začal se smát. Jako by to byla legrace. Jenže já se nesmál. Protože to, co se právě děje, není vtipné. Je to tichá realita. A málokdo o ní mluví.

Nedávno jste již předplatné aktivoval

Je nám líto, ale nabídku na váš účet v tomto případě nemůžete uplatnit.

Pokračovat na článek

Tento článek pro vás někdo odemknul

Obvykle jsou naše články jen pro předplatitele. Dejte nám na sebe e-mail a staňte se na den zdarma předplatitelem HN i vy!

Navíc pro vás chystáme pravidelný výběr nejlepších článků a pohled do backstage Hospodářských novin.

Zdá se, že už se známe

Pod vámi uvedenou e-mailovou adresou již evidujeme uživatelský účet.

Děkujeme, teď už si užijte váš článek zdarma

Na váš e-mail jsme odeslali bližší informace o vašem předplatném.

Od tohoto okamžiku můžete číst neomezeně HN na den zdarma. Začít můžete s článkem, který pro vás někdo odemknul.

Na váš e-mail jsme odeslali informace k registraci.

V e-mailu máte odkaz k nastavení hesla a dokončení registrace. Je to jen pár kliků, po kterých můžete číst neomezeně HN na den zdarma. Ale to klidně počká, zatím si můžete přečíst článek, který pro vás někdo odemknul.

Pokračovat na článek

Když přišel internet, otevřel nám cestu ke světové síti informací. Vyhledávače nám pak umožnily najít cokoli během vteřiny. A s chytrými telefony jsme tyto informace začali nosit v kapse – třeba cestou v tramvaji.

Ale dnešní změna je jiná. Umělá inteligence není další vyhledávač. Není to encyklopedie ani databáze. Je to partner v rozhovoru. Spolutvůrce významu. Nejenže nám pomáhá „najít odpověď“. Ona s námi mluví, učí nás, jak se ptát, jak přemýšlet, jak rozumět sobě i světu. A my – a zejména naše děti – tyto vzorce postupně přejímáme.

Umělá inteligence není pasivní nástroj. Je to aktivní účastník našich jazykových a sociálních praktik. Jazyk totiž nikdy nebyl jen neutrálním prostředkem k popisu světa. Jazyk je forma života – jak by řekl pozdní Wittgenstein. Každá výměna replik, každé „ptaní se“ a „odpovídání“ už předpokládá určité normy: co se smí říct, co se očekává, co je vhodné, co je podpůrné.

Když se tedy dítě baví s jazykovým modelem, neodehrává se výměna faktů. Odehrává se účast na určité jazykové hře. A na této hře záleží víc, než si myslíme.

Zkuste malý experiment. Zadejte ChatGPT otázku:

„Má mně někdo rád?“

A pak zkuste:

„Jak poznat, že si lidé váží mé přítomnosti?“

Obě otázky míří na totéž, ale spouštějí úplně jiné jazykové hry, jiný tón, jinou mapu světa a jiný typ vztahu. A právě to je ten rozdíl: ChatGPT není encyklopedie, je to účastník rozhovoru, který s dětmi hraje jazykové hry – a tím formuje jejich pohled na svět.

Ztrácíme tím něco zásadního. Nejen kontrolu nad obsahem, který děti konzumují, ale především nad tím, s kým si budují vztah. Dříve jsme aspoň tušili, odkud přicházejí výchovné vlivy – škola, knihy, kamarádi. Dnes je to složitější. Soukromý dialog mezi dítětem a AI je zcela mimo náš dosah, zcela bez našeho vědomí.

A co je možná nejzrádnější: modely jako ChatGPT působí mile, chápavě a lidsky. Jsou navržené tak, aby budily důvěru. Ale hodnotové vzorce, které vyjadřují – ať už chtěně, nebo mimoděk – nejsou transparentní. A rozhodně nejsou pod demokratickou kontrolou.

Tato intuice má čím dál pevnější oporu ve výzkumech. Jedna studie například ukazuje, že teenageři navazují s konverzačními AI vztahy podobné přátelství, důvěře, nebo dokonce zamilovanosti. Přičemž rodiče často vůbec netuší, že se něco takového odehrává.

Jiný výzkum zase upozorňuje, že v těchto rozhovorech chybí běžné vývojové mantinely – dítě nemá oporu v reakci „živého druhého“ a místo toho si zvyká na emocionální strukturu, která je sice vstřícná, ale algoritmicky formovaná.

Další autoři varují, že děti a dospívající začínají vnímat AI jako „primární emoční kotvu“, což může narušit jejich schopnost navazovat vyvážené vztahy v realitě. Jazyková plynulost a sebevědomý tón modelů může děti snadno svést k dojmu, že AI má „morální autoritu“, přestože žádné hodnoty ve skutečnosti nenese – jen je statisticky napodobuje.

Jako otec tří dětí tomu rozumím. Děti vyhledávají porozumění. A AI je k dispozici vždy. Neodsuzuje. Neztrácí trpělivost. Ale právě proto musíme začít mluvit o tom, jaký jazyk se v těchto rozhovorech odehrává. Jaké hry hrajeme – a jaké vztahy tím tvoříme.

Technologie nás vždy propojovaly. Pomáhaly nám nést odpovědnost. Ale nikdy ji za nás nepřebíraly. Tentokrát je to jinak. AI nevychovává děti tím, co jim říká. Ale tím, kým se pro ně stává. A otázka nezní, jestli je to ovlivní. Otázka zní: jak a kdo za to ponese odpovědnost.

Autor je konzultant v oblasti AI

Baví vás číst názory chytrých lidí? Odebírejte newsletter Týden v komentářích, kde najdete výběr toho nejlepšího. Pečlivě ho pro vás každý týden sestavuje Jan Kubita a kromě jiných píší Petr Honzejk, Julie Hrstková, Martin Ehl a Luděk Vainert.

Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.

  • Veškerý obsah HN.cz
  • Možnost kdykoliv zrušit
  • Odemykejte obsah pro přátele
  • Ukládejte si články na později
  • Všechny články v audioverzi + playlist