Strach z toho, že se umělý mozek nebo jiný komplexní systém postaví proti svým stvořitelům, se objevil už dávno. Literárně ho ztvárnil například slavný spisovatel science fiction Arthur C. Clarke v povídce „… A ozve se Frankenstein“, publikované před více než šedesáti lety.
Clarke se odrazil od myšlenky, že poté, co satelitní spojení propojilo telefonní sítě po celém světě, dosáhl jejich společný systém kritické složitosti a uvědomil si sám sebe. V jeho představě se z miliard telefonních přepínačů propojených do jediného systému stal jakýsi obří mozek. Protože měl přístup k obrovskému množství informací a zároveň byl propojen s řadou technických systémů, mohl při sledování svých cílů zasahovat do reálného světa. Nejprve se projevoval chaoticky, velmi rychle však začal ovlivňovat finanční trhy, vojenské systémy, dopravu i průmysl. Nevysvětlitelných katastrof začalo rychle přibývat.
Katastrofické scénáře provázejí i vývoj umělé inteligence, která už dnes dosahuje schopností a univerzálnosti, jakou si Clarke v době, kdy počítače například v šachu dokázaly porazit jen úplného začátečníka, jen těžko mohl představit. Růst schopností velkých jazykových modelů je mimořádně rychlý a jeho dopad na svět byznysu, práci i kapitálové trhy je obrovský. S tím roste i přesvědčení, že potenciální přínosy AI jsou příliš velké na to, aby si společnost mohla dovolit její vývoj regulovat, a tedy v některých oblastech zákonitě brzdit.
O to pozoruhodnější je varování, které jako blesk z čistého nebe přišlo v noci na středu od člověka, který roky pracoval na základním výzkumu AI ve dvou firmách stojících v samotném čele vývoje.
Co se dočtete dál
- V čem už se vlivné literární proroctví A. C. Clarka naplnilo nebo bylo překonané?
- Kdo přišel s varováním před AI a co má za sebou?
- Kdo má vlastně dnes vývoj AI pod kontrolou?
