Minulý týden přinesl několik zpráv, které se nečetly úplně dobře. Jacob Coxon, výzkumník, který odešel z Anthropicu, varoval, že největší AI společnosti míří k samostatně se zlepšující superinteligenci a „hazardují s našimi životy“. Jeho kolega v reakci na tento příspěvek (ani se mi o tom nechce psát!) odhadl, že šance na zničení lidstva do deseti let je více než 10 procent.
Pro mnohé není snadné si představit, jak by k tomu mohlo dojít. Jisté je, že AI zvládá stále složitější úkoly bez přímého lidského vedení. Její výkon roste rychleji než schopnost lidí kontrolovat tento proces. Připomeňme incident ve firmě Hugging Face, při němž se skupina AI agentů při testování sama a bez vědomí lidí pustila do kybernetických útoků. Představme si, co by se stalo, kdyby američtí AI agenti zaútočili třeba na čínskou infrastrukturu. Kolik času by měl Západ na to, aby vysvětlil, že šlo o omyl? Podobných příkladů přibývá.
Článek již není odemčený!
Váš známý vám umožnil přečíst si článek zdarma, ale limit zobrazení už je překročený.
Pro neomezený přístup ke všem článkům na našem webu si můžete zakoupit předplatné za 40 Kč.
Co se dočtete dál
- Jak by soutěžní právo posoudilo dohodu největších AI firem o koordinovaném zpomalení vývoje.
- Jaké formy regulačních nebo zákonných výjimek USA a EU zvažují pro sdílení informací a odklad vývoje AI.
- Jak by mohl fungovat globální mechanismus dohledu, auditů nebo standardů bezpečnosti AI.
