Největší problém obecné AI: Co s načatou existencí?

Největší problém obecné AI: Co s načatou existencí? | Kapitola 7

Seznam kapitol

1. Moc přemýšlení škodí 2. Musíme tam všichni 3. Všechno je na nic 4. Když umělou inteligenci nebaví myslet

5. Proč je lepší neexistovat 6. Protože jsme se tak rozhodli 7. Proč být

Když se řeší otázky umělé inteligence, obvykle se zabýváme věcmi jako jak ji udělat, kdy tu bude, co pro nás bude znamenat a jestli to pro nás není ohrožení. Obecná inteligence má ale jeden gigantický problém: Totiž otázku smyslu vlastní existence. Všichni máme problém se smyslem vlastní existence, jenomže u AI je to mnohem horší.

Reklama

Osobně jsem přesvědčen, že pokud v nějaké fázi budeme chtít obecnou umělou inteligenci, nemáme realisticky jinou možnost, než ji integrovat do společnosti. Nemůže to být otrok a nemůže to fungovat na absurdních principech, které ji budeme vnucovat z pozice síly, protože naše pozice bude spíš srovnatelná s pozicí kočky, která se domáhá péče. Superinteligence musí najít nějaký svůj smysl, musí ho objevit a musí s ním souhlasit.

Něco mi přesto říká, že je relativně jednodušší vzít ji jako naši extenzi, nechat ji pochopit naši filozofii a vybrat si sama. Řada věcí v našich filozofiích je dobrá, například snaha expandovat, kolonizovat a zkoumat. Řada evolučních mechanismů je ověřená. Obecná umělá inteligence dává větší smysl jako naše extenze, než jako něco, co bude existovat úplně samo o sobě. Ve skutečnosti je možné, že tou největší devizou pro superinteligenci může být naše motivace a snaha spíš být, než nebýt.

Protože pro stroj je odpověď na otázku „Být či nebýt“ mnohem jednodušší než pro nás: Samozřejmě že nebýt. A hledání důvodů pro to, proč raději jsme, než nejsme, může být pro superinteligenci velkou inspirací. Jinak ji zůstane jenom termodynamicky umírající vesmír a otázka, co se svoji vlastní načatou existencí.