Poznáme, že umělá inteligence myslí? Problém s vědomím | Kapitola 4

To důležité je sladit zájmy lidstva a AI. Nejde jenom o to, aby to umělo řešit problémy, ale aby to bylo schopné rozeznat, které úlohy se řešit nemají a které výsledky jsou neetické a nedávají smysl v kontextu naší civilizace. A v tomhle, paradoxně, je vědomí blíž váš pes, který umí rozeznat, že jste se zranili na procházce a doběhne vám pro pomoc. Nikdo ho to neučí, nikdo ho to neprogramuje, jsou to instinkty, které už má – a jsou v souladu s našimi cíli.

Moderní AI se dnes zaměřuje na specializované úkoly, je to narrow AI. LaMDA je chatovací inteligence, emuluje dialog, ale není to obecná inteligence. Určitý problém je s tím, že stále považujeme za významný Turingův test, který je ale spíš filozofický, než aby šlo o reálný test. 

Turingův test je subjektivní: Testující konverzuje přes terminál s někým, kdo je buď reálná osoba, anebo stroj. Pokud nedokáže rozeznat mezi člověkem a strojem, systém prošel Turingovým testem. 

Problém je v tom, že testující je subjekt a výsledek testu hodně závisí na něm. Rovněž tak testované osoby jsou subjekty a jejich úroveň a psychologie se velice liší. Proto existují kombinace testujících a testovaných, které testem projdou lépe a naopak kombinace, které projdou hůře. Není to prostě dobrá metrika, je to určitý myšlenkový koncept, ale aby se dal použít, musíte mít velké množství testujících, z nichž alespoň někteří chápou koncept chatbotů a ví, jak je identifikovat.

Chatboty jsou specificky navržené pro automatizované telefonní hovory – a proto mají podstatně větší šanci, že Turingovým testem projdou. To, že jimi projdou, není důkazem jejich vědomí, ale kvalitní emulace dialogu. Je to spíš emulátor emoční inteligence než obecné inteligence. Ostatně – jsou známé případy velmi dobrých obchodníků, kteří nemají vysoké IQ, ale umí komunikovat a díky tomu jsou úspěšní.

To, že nás inteligence úspěšně oblafne v dialogu, rozhodně není důkazem jejího vědomí. Vědomí je složitější, dnes se považuje za důležité, aby vykazovalo určité samostatné aspekty:

1) Stav pozornosti. Opravdová inteligence s vědomím není pouze reaktivní, neprobouzí se pouze na dotaz, ale je neustále aktivní, sleduje okolí a reaguje. Systém dotaz-odpověď vědomý patrně nemůže být. Trvalá aktivita možná vytváří nutnou podmínku pro to, aby systém mohl uvažovat sám o sobě.

2) Schopnost učit se. Vědomí není fixní, umí identifikovat nové informace a kontexty, umí je zatřídit. Systém, který má jenom fixní znalosti, nemůže být vědomý, postrádá schopnost autonomní adaptace.

3) Mít vlastní perzistentní paměť. Systém s vědomím umí ukládat informace tak, že se k nim může vracet, vytváří si svoji vlastní zkušenost. Existují teorie inteligence, které fakticky považují inteligenci za formu paměti – vysoce adaptivní, asociativní paměti, která se sama organizuje na základě podobností. Řada scifi sice předpokládá dokonce sdílenou paměť, sdílenou zkušenost, ale je velká otázka, jak něco takového může fungovat. Tesla takhle učí autonomní řízení, ale biologický analog k tomu nemáme.

4) Schopnost předvídat. Skutečné vědomí není jen „tady a teď“, pracuje s vnitřními modely a předvídá, co se stane v budoucnosti. Tyhle modely vytvářejí dojem „normálnosti“ (když vše vychází tak, jak modely předpokládají) a naopak „neobvyklosti“. Právě neobvyklost nám říká, že něco nefunguje správně – to je přesně ten faktor, který dokáže překvapit opici, před kterou kouzelník předvádí triky. Opice ví, jak se mají věci chovat normálně, nesoulad mezi očekáváním a momentálním stavem ji překvapí a pobaví. 

5) Subjektivní prožívání. Vnímání sama sebe, své vlastní existence, se často považuje za jádro problému s vědomím. To je přesně ta věc, která odděluje zvíře chápající sama sebe před zrcadlem od toho, které nedokáže rozeznat své vlastní já. Nutno podotknout, že zatím nevíme, co je pro to třeba, zda například není nutné, aby měl systém nějaké senzory, nějaké svoje vlastní tělo, se kterým může experimentovat a sledovat, jak interagují s okolím. Je otázka, jestli může vzniknout čistě abstraktní „duch ve stroji“, jestli právě schopnost experimentovat se světem, mít zpětnou vazbu, není nutná.