Největší problém obecné AI: Co s načatou existencí? | Kapitola 3

Je pravděpodobné, že se podobná událost zopakuje, takže vše, co budujeme, počínaje rodinou a konče skládáním hymnů, je jenom ztráta času – nezůstane po nás nic. Pro většinu lidí to vůbec nic neznamená, pečlivě se věnují své činnosti, jako kdysi například pancéřnaté ryby a trilobiti: Krmení, sex, odpočinek, opakování, smrt. Ti neurotičtější se obracení k umění, vědě či náboženství v domnění, že to jejich existenci nějak vysvětlí, obhájí či stabilizuje. Jenomže náboženství propadají úplně stejné evoluci jako živé organismy - a věda se sice postupnými kroky dopracovává k obrazu našeho skutečného vesmíru, ale je to obraz skutečně nelichotivý.

Když vysocí církevní činitelé tvrdí, že věda neodpovídá na otázky naší existence, neříkají pravdu. Odpovídá, jenomže říká věci, které nás zrovna nenaplňuje nadšením. Sice nám nabízí možnosti, jak se vyhnout stále větším katastrofám a obelhat smrt, ale zároveň před námi odhaluje stále děsivější a neodvratnější vize zániku. Můžeme poslechnout Elona Muska a utéct na Mars, ale tím nevyřešíme problém s konečnou životností našeho Slunce. Můžeme se vydat do vesmíru a hledat jiné hvězdy, ale ať budeme zdrhat kamkoliv, neutečeme před termodynamickým zánikem vesmíru, na což neexistuje odpověď.

Konečným důsledkem poznání, které nabízí věda, je deprese, což ty intelektuálně zaměřené zaměří po rickovsku k alkoholismu a ty méně intelektuální k závěru „co ti vědci ví“ a k návratu před oltář. Pokud věda tvrdí, že žádný smysl neexistuje, musíte se nějak zaměstnat – třeba tím, že si necháte postavit fakt velkou pyramidu, která vás přesvědčí, že v ní budete žít navždy a ty, kteří ji staví, zase přesvědčí, že vy víte, co děláte, a uvěří vaší teorii.

Tohle jsou problémy, nad kterými přemýšlí jen někteří z nás – a teď si vezměte inteligenci, která bude daleko výkonnější než naše a bude potenciálně existovat mnohem déle. Staří lidé degradují a mnozí si nakonec smrt přejí jednak proto, že už jim jejich schránka neslouží tak, jak sloužila – a pak je děsí změny kolem nich. Dokud jsou změny postupné a vy se jim zvládáte přizpůsobit, není to až tak hrozné, ale kumulativně jsou obrovské. Pokud ale žijete příliš dlouho anebo jste od vývoje odděleni, je šok ze změny příliš velký – o tom mluví například film Interview with the Vampire (1994) podle Anne Riceové. Upír Armand je příliš starý a podobně jako jiní upíři potřebují mladé lidi, aby je seznámili se světem kolem, který je příliš děsí.

To samo o sobě představuje problém pro lidi, kteří žijí buď příliš dlouho anebo si život uměle prodlužují. Nevíme ale, jak přesně to bude fungovat v případě, že si dlouhodobě žijící inteligence zachovají výkonovou kapacitu – prostě proto, že nemáme žádný příklad něčeho podobného. Většina dlouhodobě žijících organismů žije buď ve velmi pomalém tempu anebo mají nízkou inteligenci, takže nedokážeme předvídat, co se stane, pokud bude například vytvořena digitální kopie vědomí, která si trvale zachovává svoji plasticitu a výkony.