Největší problém obecné AI: Co s načatou existencí? | Kapitola 4

Víme, že zřejmě nebude problém s omezenou expanzí života, protože víme, že řada lidí umírá ve svých šedesáti až osmdesáti, přestože jsou duševně zcela v pořádku. Protáhnout smysluplný život na dvojnásobek nevypadá jako problém. Existuje ale podezření, že řada zdánlivě negativních mechanismů, jako je zapomínání, má ve skutečnosti velký fyziologický smysl. Existuje mnoho zážitků, které jsou negativní a je lepší je přemazat jejich subjektivně lepší verzí anebo je zapomenout. Víme, že se to děje: Lidé jsou na konci života spokojenější, protože rychleji vytěsňují negativní zážitky a jejich vzpomínky se mění do jakéhosi ideálu.

Je vysoce pravděpodobné, že to je nutné: Nechcete si pamatovat každý trapas, každé selhání, každou věc, kterou vám udělali známí. Odmítnutí negativních zážitků je důležité a setkáváme se s ním například ve formě odpuštění, kdy prostě zahodíte to špatné, co někdo udělal vám. Tento mechanismus ale zároveň zkresluje paměť a mění ji v nevěrohodnou. Víme, že zapomínání a odpouštění je klíčem ke spokojenému životu, že se s tím prostě žije lépe. Zároveň to ale nutně vede ke zkreslení paměti a efektu, kdy dnes například lidé litují socialismu, „který se o všechny postaral“ anebo Protektorátu, „protože tam byl pořádek“. Selektivní zkreslení paměti je nebezpečné.

Protože má mozek konečný počet buněk, má nutně konečnou kapacitu. A teď si představte, že vás někdo promění do digitální kopie, která může díky opravám existovat teoreticky věčně – nebo přesněji řečeno velice, velice dlouho. Není úplně prozkoumáno, jaké to bude mít praktické dopady, ale kybernetika naznačuje, že mozek s omezenou kapacitou nakonec musí procházet identickými stavy, což znamená, že zacykluje. Je to stejně extrémní teorie jako ta s nekonečným multiverzem, ale docela hezky vysvětluje deja vu – váš mozek se ocitne v podobném stavu jako někdy předtím, což vede k pocitu, že se věci opakují.

Jenomže co když opravdu budete žít potenciálně navždy a jednoduchá motivace jako je sex, radost z rodičovství anebo zajištění na stáří na vás nefunguje? Biologická motivace je extrémně limitovaná: Přímá stimulace centra slasti v amygdale, součásti starých struktur limbického systému, zvíře paralyzuje. Experimenty ukázaly, že pokud dáte kryse možnost stimulovat si centrum slasti přímo, přestane dělat cokoliv jiného a klidně umře hlady a žízní.

To byl významný vhled do mechanismu funkce závislostí, ale přinesl také otázku: Co bychom dělali, kdybychom tento mechanismus neměli? Nemluvím o smrti ustimulováním se, ale o pravém opaku, tedy o existenci, která vůbec takovou věc nezná. Víme, že řada vyšších funkcí pouze překrývá základní biologický motivační systém. Pamatujete na scénu Don't Date a Robot z Futuramy?

Je to chytřejší, než se zdá – a ukazuje to, že mnoho věcí, které vypadají komplikovaně, za sebou má jednoduchou biologickou interpretaci. TVTwixx točí imbecilní videa, protože jsou díky nim slavní a přitahují partnerky, se kterými mohou souložit a saturovat si centrum slasti sexem. Reakční videa, která na ně točí PeeetaaaTV, mu pomáhají vydělat si na kebab, který mu dovoluje saturovat si centrum slasti hladu. Kdyby tihle tvůrci měli možnost napálit si několik milivoltů přímo do správného centra v amygdale, nemusí se vůbec namáhat prací.

Když se konstruovala umělá inteligence, tak jsme nějak zapomněli, že inteligence je až na naprostém vrcholu řízení živých organismů a místo toho se začalo u hraní šachů. Víme, že šachy fungovaly na perském dvoře tak, že když jste v nich byli dobří, tak jste byli přizváni do mraku básníků a umělců a zvýšili jste si šanci na svoje nasycení, ukojení a reprodukci v táboře dvořanek, které se té velké společenské hry také účastnily. Jenže jestli to takhle funguje u šachistů – o tom skutečně pochybuji.

Současný model umělé inteligence je bezúčelný, je to čistě stroj na řešení problému bez vnitřního smyslu. Dnes se řeší hlavně tak zvaná specializovaná AI, která je na tom asi jako dělnické dítě za průmyslové revoluce: Dostane úkol a ten plní, protože o ničem jiném uvažovat neumí. Je to bezpečná, ale ve finále natvrdlá inteligence. Ten nebezpečný moment nastane ve chvíli, kdy se začne sama učit a řídit si svoje vlastní učení, protože pak se nějak musí rozhodnout, proč věnovat úsilí tím anebo jiným směrem.