2024 je rokem, kdy jsme se naučili nenávidět AI | Kapitola 2

Ve skutečnosti se zvířata intenzivně učí i děti se v prvních letech extrémně rychle učí – a to, že se to přehlíželo, souvisí s tím, že umělá inteligence se začala zkoumat od vrcholu pyramidy, tedy formální logiky, dokazování a teorie her, zatímco děti se první roky učí chodit, ovládat svoje fyziologické procesy, rozeznávat okolí, učí se jazyk a dost možná se učí i své vlastní self.

Self se skládá ze dvou výrazných komponent, podvědomé, kdy se podvědomě učíme používat svoje tělo, tedy například jak se rozhodnout mezi konfliktními myšlenkami a jak koordinovat svoje pohyby, abychom se dostali tam, kam chceme. To není ani náhodou tak jednoduché, jak se nám to intuitivně jeví. Vypadá to jednoduše jenom proto, že to je zcela podvědomé a nemusíme o tom vůbec přemýšlet. 

Chápu, vypadá to jako legrace – legrace z toho, že výběr z menu v restauraci anebo z oblečení ve skříni na dnešní den je mentální práce, ale my víme, že to je intenzivní práce. Kolize motivů a jejich řešení k jediné finální volbě je tak mentálně náročná věc, že spousta teoretiků efektivity říká, že máte mít v šatníku jenom jedny samé šaty, protože absence každodenního rozhodování vede k tomu, že máte více energie pro „to důležité rozhodování“. Přitom to je plně nevědomý proces!

Druhá komponenta je vědomé self, u kterého se předpokládá, že vzniká tak, že se učíte být sami sebou, odděleni od okolí a od ostatních, učíte se komunikovat s ostatními a vytvářet si tak sociální vazby. Řeč, která se mění nejprve v samomluvu a potom se kompletně internalizuje, se mění na to, co vnímáme jako vnitřní hlas svých myšlenek, svoje ego, vlastní „já“. Paradoxně toto verbální uvědomování si sama sebe, trefně vystižené Descartesovým „cognito ergo sum“, se stalo základem úvah o umělé inteligenci – přestože jak poznamenávají sýčkové, „mnoho lidí vůbec nemyslí – a přesto existují“.

Zkrátka a dobře – tradičně chápaná AI, jak ji známe z představ 50. a 60. let a z mnoha sci-fi, je založená na jazykové formální inteligenci. A to, že se ji nám nedařilo realizovat, podle všeho souvisí hlavně s faktem, že jsme se pokusili tenhle dům podstavit od komína, pokračovat střechou a půdou a postupně mířit k základům. 

Teprve v 70. letech, kdy se významněji studovalo počítačové vidění a rozeznávání scény, se kybernetici dopracovali k závěru, že jim asi něco uniklo, protože jenom rozeznat scénu a to, co na ní je, je zatraceně složité. Nakonec zjistili, že se podobnými otázkami zabývají i ontogenetičtí psychologové. 

Takže teď se nacházíme v explozi modelů různých typů, od modelu počítačového vidění, který dovolí vašemu vysavači nezahynout uvíznutím na kabelovém klubku a vyhnout se bitvě s kočkou, přes analýzu mluveného slova, která snad už konečně dovolí chápat dotazy a příkazy vyslovené běžnou řečí, až po řadu vysoce specializovaných úloh, které představují problém i pro špičkové odborníky. 

V současnosti tedy začínáme stavět onen dům znova, tentokrát od základů nahoru s tím, že doufáme, že najdeme nějaké zkratky, které nám dovolí obě poloviny propojit – a konečně tím vznikne ten dům, po kterém tak toužíme. Zatím vypadá vývoj optimisticky, protože současné modely AI představují skutečně velký průlom – a momentálně jsme v extenzivní fázi, kdy se studuje, jak velké sady na učení vlastně potřebujeme a jestli tím, že nacpeme opravdu hodně informací do učeného systému, přece jenom nevznikne superinteligence jen tak.

Nemyslím si, že to bude tak jednoduché – ostatně proto, že i jednotlivé modely mají vnitřní architekturu, kterou je třeba navrhnout. A kdo ví, třeba by bylo nejlepší vytvořit nejprve AI, která bude vyvíjet a optimalizovat modely AI. Každému je tak trochu jasné, že tady maličko taháme tygra za ocas, protože nikdo není realisticky připravený na příchod superinteligence, pro kterou budeme všichni jenom iracionální blbečci – a je otázka, jak by vypadala interakce s takovou superinteligencí.