Minulý týden přinesl několik zpráv, které se nečetly úplně dobře. Jacob Coxon, výzkumník, který odešel z Anthropicu, varoval, že největší AI společnosti míří k samostatně se zlepšující superinteligenci a „hazardují s našimi životy“. Jeho kolega v reakci na tento příspěvek (ani se mi o tom nechce psát!) odhadl, že šance na zničení lidstva do deseti let je více než 10 procent.

Pro mnohé není snadné si představit, jak by k tomu mohlo dojít. Jisté je, že AI zvládá stále složitější úkoly bez přímého lidského vedení. Její výkon roste rychleji než schopnost lidí kontrolovat tento proces. Připomeňme incident ve firmě Hugging Face, při němž se skupina AI agentů při testování sama a bez vědomí lidí pustila do kybernetických útoků. Představme si, co by se stalo, kdyby američtí AI agenti zaútočili třeba na čínskou infrastrukturu. Kolik času by měl Západ na to, aby vysvětlil, že šlo o omyl? Podobných příkladů přibývá.

Zbývá vám ještě 80 % článku

Co se dočtete dál

  • Jak by soutěžní právo posoudilo dohodu největších AI firem o koordinovaném zpomalení vývoje.
  • Jaké formy regulačních nebo zákonných výjimek USA a EU zvažují pro sdílení informací a odklad vývoje AI.
  • Jak by mohl fungovat globální mechanismus dohledu, auditů nebo standardů bezpečnosti AI.
Vyberte si přístup na míru Předplatné Hospodářských novin
HN mini
45 Kč první dva měsíce
Od 3. měsíce 229 Kč
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Vyzkoušet za 45 Kč
HN měsíční
90 Kč první dva měsíce
Od 3. měsíce 329 Kč
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Koupit za 90 Kč
HN roční
3290 Kč za rok
2 měsíce zdarma
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Koupit na rok
Máte již předplatné? Přihlaste se

Baví vás číst názory chytrých lidí? Odebírejte newsletter Týden v komentářích, kde najdete výběr toho nejlepšího. Pečlivě ho pro vás každý týden sestavuje Jan Kubita a kromě jiných píší Petr Honzejk, Julie Hrstková, Martin Ehl a Luděk Vainert.