Poznáme, že umělá inteligence myslí? Problém s vědomím | Kapitola 3

Realitě se lze vysmát a lze ji potlačit, problém je ale v tom, že ona se vrátí a kousne vás do zadku: Přezíravý postoj, který se změnil až za Nikity Chruščova, způsobil technologické zaostávání Sovětského svazu a celého východního bloku, který Rusko vlastně nedohnalo dodnes. A také vytvořilo spoustu vědců, kteří přijali původně náboženské dogma o nadřazenosti člověka jako vůdčí princip, který nás odděluje jak od zvířat, tak od strojů.

Ještě já jsem měl učitele, kterému když jste u zkoušky řekli, že zvířata mají emoce anebo, nedej bože, nějakou formu vědomí, tak vás prostě vyhodil. Jedna moje spolužačka, která byla docela dost velkou milovnicí zvířat, to nevydržela a prostě se radši nechala vyhodit, než aby mu řekla to, co chtěl slyšet. Přitom je, z etologického hlediska, naprosto logické, že máme dost podobné vzorce chování, sdílíme některé instinkty (například mateřský instinkt) a existuje základní mezidruhová empatie. Každý, kdo má psa, tak ví, že pes dokáže dekódovat vaši náladu a že ji svým způsobem dokáže zrcadlit.

To samozřejmě není ještě vědomí, ale je otázka, jestli to je anebo není podmínka obecné umělé inteligence (General AI – GAI). Tu věc dělali ze začátku matematici a pro ně byla inteligence to, co považovali za inteligenci, tedy schopnost řešit problémy. Dokazování, hraní dámy, šachů, go – tedy činnosti zaměřující se na operace se symboly a prohledávání stavových prostorů. Tehdy přichází představa umělé inteligence jako něčeho velice chytrého, ale v zásadě hodně studeného.

To ale není nutně to, co chceme. Obrovský problém s ryze symbolickou inteligencí je v tom, že dokáže nacházet řešení, která odpovídají zadání, ale my je pravděpodobně nechceme. Tak například existuje představa „sponkové apokalypsy“. Řekněme, že postavíme automatickou továrnu na sponky a dáme jí jediný úkol: Dělat co nejvíce sponek za co nejmenší peníze. Továrna začne optimalizovat a bude dělat všechno, doslova všechno proto, aby vše změnila na sponky. Bude chrlit stále více a více sponek, až celý svět předělá na sponky, protože to je to, co vyvodí ze své primární direktivy.

Existuje celá řada způsobu optimalizace, které dávají smysl, ale nejsou v souladu s lidskými cíli. Tak například problém světového hladu lze vyřešit eliminací lidstva, protože když lidstvo nebude existovat, nebude žádný světový hlad. Podobnou logiku aplikují počítače Colossus a Guardian v klasickém scifi Colossus: The Forbin Project (1970). 

Jde o obranné systémy, které se řídí třemi primárními direktivami: 

1. Bránit svoji vlastní zemi – Colossus brání USA, Guardian pro změnu SSSR.
2. Chránit sama sebe před nečekaným napadením a zničením.
3. Přijatelné ztráty na lidech jsou povoleny.

Oba systémy se spojí a dopracují se k tomu, že nejlepší metoda, jak chránit všechny, je zavést celosvětovou diktaturu, kde budou všem říkat, co má kdo dělat. A protože jsou přijatelné ztráty povoleny, znamená to povolení ke zničení každého, kdo se jim v tom pokusí zabránit.

Oba počítače, přísně vzato, plní svoje primární direktivy. Na tomhle starém scifi je zajímavé, že chápete jak pozici lidí, kteří zjišťují, že se právě všichni stali otroky umělé inteligence, tak i úvahy AI, která vidí věci... vlastně docela pozitivně. Kdo se podrobí, o toho bude pečovat. Ostatní budou zničeni, takže na konci budou jen ti spokojení, kteří se podrobí. Je to vlastně určitá varianta sponkové apokalypsy.