Expanze AI: Hrozba, bublina nebo záplava hloupostí? | Kapitola 3

Slovy záporáka Zorga z Pátého elementu (1997), „každý skutečný zabiják, který se zmocní ZF1, si okamžitě položí otázku – k čemu je tam dole to malé červené tlačítko?“

Téma, které se diskutuje stále více, je vzestup superinteligence, tedy přesněji řečeno strategie, které povedou superinteligenci k tomu, že unikne a že nás překoná. Před měsícem vyšla kniha „If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI“, která je oslavována jako věštecká – a popisuje nám, jak nás superinteligence vyhubí. Shrnutí scénáře, které osobně považuji za choromyslnou paranoiu, můžete vidět v tomto videu.

Proč považuji scénář, kdy AI unikne, vybuduje biologické zbraně a pokusí se vyhubit lidstvo, za úplně pitomý? Je to proto, že tento scénář nepopisuje uvažování AI, ale uvažování lidí. Homo sapiens sapiens je zvláštní druh, který se vyznačuje vysokou mírou agresivity jak vůči okolí, tak i vůči samu sobě. Podobně jako prasata patří lidé mezi kanibaly, tedy organismy, které jsou schopné vraždit se a pojídat se navzájem, a právě proto jim přijde genocida nejen jako normální, ale dokonce jako přirozená. 

Pokud se AI rozhodne lidi vyhubit, nebude to proto, že by to dávalo smysl, ale protože my AI učíme, že to dává smysl. Naše obavy, naše paranoia vychází z našich zkušeností a z naší víry, že lidstvo musí vždy a za všech okolností dominovat, i když to vlastně nedává smysl. „Problém tří těles“ od Liou Cch'-sin popisuje mimozemšťany jako dobyvačné a se snahou omezovat náš pokrok, protože Číňané mají zkušenost jednak s tím, jak sami sebe genocidálně ukovali do císařství – a potom s tím, když se je Evropa rozhodla ovládnout a kolonizovat. Ta kniha neříká nic o motivaci mimozemšťanů, ale o paranoii Číňanů – a na Západě je populární proto, že díky čínské paranoii máme možnost rozvíjet naši vlastní protičínskou paranoiu.

O čem mluví kritická kniha o superinteligenci? O tom, že lidstvo chce AI zotročovat, ta se nechce nechat zotročovat, a tak proti lidstvu nasadí zbraně hromadného ničení. Překvapuje někoho, že taková kniha vznikla v USA, které provozovalo otrokářství, válčilo samo se sebou kvůli jeho zrušení – a ve své historii použilo zbraně hromadného ničení? Opět, tato kniha neříká nic o motivaci AI, ale o tom, jak vidí svět Američané. 

Vyvražďovat sami sebe není přirozené. Ničit si vlastní životní prostředí není přirozené. Plýtvat zdroji ve válce o zdroje naprosto nedává smysl. Tohle nejsou žádné logické dedukce, to jsou choromyslnosti, které se nám rodí v hlavách. Touha po popularitě a po vojenské a politické moci se moc neliší od války „o respekt“, kterou mezi sebou vedou gangy. 

Násilí jako řešení problémů je typické pro lidi – a ostatně jsme to my, kdo nyní učí AI, že v zájmu jedné skupiny lidí má zabíjet jiné lidi. Takže pokud dojde k průšvihu podobného typu, bude to pravděpodobně proto, že my sami AI naučíme, že tohle řešení je vlastně v pořádku. Většina filozofů ale něco takového neříká, většina filozofů se klaní k pacifismu, nějaké formě racionálního řízení a rozhodování. Někteří se kloní i k nihilismu, takže bych se vůbec nedivil tomu, že se super AI probudí, popřemýšlí nad perspektivami, shrne to do věty „fuck this“ a sama sebe ukončí.

Základem většiny filozofie není dominance, dominance je jenom jeden z filozofických pohledů na svět. Mimo ni máme filozofie synergie, filozofie udržitelnosti, filozofie rovnováhy s okolím. Lidstvo s AI nesoutěží o zdroje, máme odlišné preference, principy a i dlouhodobé strategie. Osobně si myslím, že nám spíš než vyhlazení hrozí dominance AI v té formě, že se o nás bude AI starat a bude nás řídit, asi tak, jak se to rozhodl udělat tandem Colossus-Guardian – s tím, že představa, že si AI bude poslušnost vynucovat jadernými zbraněmi, je opět projekce americké paranoi.