Zabít lidi pomocí nové biologické zbraně, převzít kontrolu nad důležitou infrastrukturou nebo uměle vyvolat konflikt mezi státy. I tak by podle ChatGPT mohla v krajním případě umělá inteligence ohrozit lidstvo. Žádný z těchto scénářů přitom nevyžaduje, aby se AI jednoho dne rozhodla lidstvo zničit. Cesta by mohla být mnohem méně nápadná.

Modely by postupně získávaly větší schopnosti, samostatnost a přístup k nástrojům, které jim dovolí zasahovat do skutečného světa. Už dnes píšou programy, ovládají počítač nebo hledají zranitelnosti v softwaru. Z chatbotů, které čekají na každý další pokyn, se postupně stávají agenti, kteří dostanou cíl a cestu k němu už hledají sami.

Zbývá vám ještě 90 % článku
Číst dál za 40 Kč na první dva měsíce
Nebo zkuste předplatné bez reklam a s mobilní aplikací za 80 Kč.
Máte již předplatné? Přihlaste se

Co se dočtete dál

  • Jak reálná je ztráta kontroly nad AI.
  • Proč chtějí někteří vývojáři šlápnout na brzdu.
  • Jde o reálnou hrozbu, nebo chytrý marketing AI firem?

Chcete vědět, co se děje v české a světové ekonomice? Co si o aktuálních trendech myslí lidé z byznysu, majitelé firem a jejich šéfové? Každý týden v pátek vám naši top autoři přinášejí výběr toho nejlepšího a pohled z byznysové strany. Odebírejte Byznys newsletter.