Minulý týden přinesl několik zpráv, které se nečetly úplně dobře. Jacob Coxon, výzkumník, který odešel z Anthropicu, varoval, že největší AI společnosti míří k samostatně se zlepšující superinteligenci a „hazardují s našimi životy“. Jeho kolega v reakci na tento příspěvek (ani se mi o tom nechce psát!) odhadl, že šance na zničení lidstva do deseti let je více než 10 procent.

Pro mnohé není snadné si představit, jak by k tomu mohlo dojít. Jisté je, že AI zvládá stále složitější úkoly bez přímého lidského vedení. Jejich výkon roste rychleji než schopnost lidí kontrolovat tento proces. Připomeňme incident ve firmě Hugging Face, při němž se skupina AI agentů při testování sama a bez vědomí lidí pustila do kybernetických útoků. Představme si, co by se stalo, kdyby američtí AI agenti zaútočili třeba na čínskou infrastrukturu. Kolik času by měl Západ na to, aby vysvětlil, že šlo o omyl? Podobných příkladů přibývá.

Zbývá vám ještě 80 % článku
Číst dál za 40 Kč na první dva měsíce
Nebo zkuste předplatné bez reklam a s mobilní aplikací za 80 Kč.
Máte již předplatné? Přihlaste se

Co se dočtete dál

  • Jak by soutěžní právo posoudilo dohodu největších AI firem o koordinovaném zpomalení vývoje?
  • Jaké formy regulačních nebo zákonných výjimek USA a EU zvažují pro sdílení informací a odklad vývoje AI?
  • Jak by mohl fungovat globální mechanismus dohledu, auditů nebo standardů bezpečnosti AI?

Baví vás číst názory chytrých lidí? Odebírejte newsletter Týden v komentářích, kde najdete výběr toho nejlepšího. Pečlivě ho pro vás každý týden sestavuje Jan Kubita a kromě jiných píší Petr Honzejk, Julie Hrstková, Martin Ehl a Luděk Vainert.