Ten zvládne to a ta zas tohle: AI vstupuje do zoologické zahrady inteligencí

Řeknete si – a jéje, budeme na světlo světa vytahovat sociální inteligenci a podobně, ale ne, ne: Mám na mysli strukturálně odlišné inteligence, tedy různé způsoby, jak se dopracovat ke stejným anebo podobným výsledkům. Sociální inteligence je cena útěchy pro lidi, kteří nebyli obdarováni skutečně efektivní inteligencí, a tak si mohou říkat, že lidi z vývoje možná rozumí těm vícerozměrným integrálům, ale oni si pro změnu umí objednat přesnídávku v kantýně tak, že se u toho pokaždé nepohádají s pokladní.

Inteligence je matoucí pojem proto, že ji každý v určité míře má, což nás intuitivně vede k přesvědčení, že jde o schopnost podléhající metrice, tedy můžeme ji měřit. Dokonce, v extrémnějším případě, nás vede k domněnce, že jde o kardinální metriku, tedy že můžeme měřit mohutnosti různých inteligencí, i když dávají různé výstupy. 

Každý učitel ví, že inteligence netvoří jasnou škálu, tedy že neplatí, že inteligentnější žák vyřeší vše, co vyřeší i ti méně inteligentní a něco navíc. Každý, kdo kdy hodnotil nějaký test, ale taky ví, že může příklady obodovat, úspěšnost sečíst (a změřit tedy kardinalitu testového hodnocení) a tuto kardinalitu pak srovnávat. Tenhle model je jednoduchý, dovoluje známkování, dovoluje konstrukci inteligenčních škál a je všeobecně praktický –  i když zanedbává a míjí tu nejdůležitější otázku: Jak přesně testovaný problém vyřešil a proč nevyřešil to, co nezvládl.

Měření inteligence patří dnes mezi nepopulární témata, tedy alespoň mezi pokrokáři. Původně s měřením inteligenčního kvocientu přišel v roce 1905 Alfréd Binet, který navrhoval nástroj, jak identifikovat děti s poruchami učení – tedy ty, které vyžadují zvláštní péči. Protože šlo o představu z vývojové psychologie, pracoval s konceptem „mentálního věku“, který poměřoval se skutečným věkem dítěte. 

Netrvalo ale dlouho a o měření inteligence se začala zajímat armáda, tedy specificky americká armáda, která přišla s testy Army Alpha a Army Beta. Alpha verze byla určena pro gramotné rekruty, Beta pro negramotné – a cílem je bylo roztřídit podle zbraní, protože čím komplexnější je nástroj, který máte ovládat, tím vyšší by měla být vaše inteligence.

Potom následovala celá éra opovrhovaná pokrokáři – počínaje zneužíváním IQ screeningu pro genocidu a konče zneužitím pro diskriminaci. Důležité je totiž to, že IQ se měří jako relativní pozice jedince vůči populaci, není v čase a populačně stálé a podle toho, jak si vyberete referenční populaci, vám můžou vyjít zkreslující výsledky. Průměrné skóre je definováno jako 100 bodů, jedna sigma je 15 bodů, takže v rozsahu 85–115 bodů je 68 % populace, v rozsahu 70–130 bodů 95 % populace a v rozsahu 55–145 bodů pak 99,7 %. 

Toto je NÁVOD jak zkonstruovat relativní metriku, ne nějaká absolutní škála. Pokud například pro kalibraci použijete oblíbenou testovací skupinu amerických vysokoškolských studentů, dostanete diametrálně odlišnou škálu, než když ji budete kalibrovat na rurální populaci střední Ameriky. IQ není absolutní metrika a její hodnota je závislá jak na testu, tak i kalibraci (tedy populaci a datu, ke kterému se kalibrovalo). To dost komplikuje věci jako sledování změn IQ mezi generacemi, protože musíte přihlížet ke spoustě faktorů, které ovlivňují měření.

Vedle samotné metriky, samozřejmě, přichází otázka jakým způsobem měřit a co vlastně měřit. Na to existuje spousta teorií, některé zahrnují časový faktor (rychlejší řešení implikuje vyšší inteligenci), jiné se zaměřují pouze na kvalitativní faktory (zda se problém podaří, anebo nepodaří vyřešit v neomezeném čase), některé zahrnují verbální schopnosti (a snaží se podchytit obecnější chápání inteligence), jiné se soustřeďují na rébusy, případně chytáky (například že místo jednoho zjevně správného řešení bude jen jedno, které nelze zjevně vyloučit).

Z hlediska salónních debat je to do značné míry jedno. Občas je to zdroj zábavy, ale redukce na jediné číslo značně zastírá podstatu problému – totiž jsme právě provedli několik kroků abstrakce, které nám zjednodušují rozhodování, zda dát pana N. k obsluze radaru anebo k úklidové službě, ale kompletně nám zastřely podstatu inteligence. Základní problém abstrakce je totiž v tom, že vám vyřazuje z rozhodování informaci, která je možná podstatná, pokud se zajímáte o to, jak věci fungují.

Předně je obrovský rozdíl mezi testy, kde odpovídáte na otázky a multiple choice. U multiple choice je možná náhodná strategie – prostě něco zaškrtnete – a to dovoluje nejen ryze náhodné strategie, ale také pravděpodobnostní strategie, například z pěti variant vyloučíte dvě a náhodně se rozhodnete mezi zbytkem. Je to výraz inteligence? Svým způsobem ano, ale nelze rozeznat, zda jste problém vyřešili, anebo jste měli kliku. S touhle strategií vám v libovolně složitém testu dá nějaký měřitelný výsledek i šimpanz.

To opravdu důležité je vydat se naopak proti proudu abstrakce a začít analyzovat JAK lidé jednotlivé otázky řeší. Existuje celá řada strategií řešení, které nás vedou k podstatě toho, co vnímáme jako inteligenci. Skutečný náhled na strategie řešení vám totiž nedají žádné testy, ale kvalitativní rozbor řešení jednotlivých problémů, kde začnete chápat ty rozdíly.

Prvním typem inteligence je znalostní neboli encyklopedická. Ta je založená na tom, že se naučíte obrovské množství informací a asociativně v nich hledáte podobnosti. Je překvapující, jak moc už tohle stačí na to, aby to vytvořilo dojem vysoké inteligence – a proto se do značné míry vykrývá absence inteligence drilem.

Existují celé obory, které jsou založené čistě na znalostech a na jejich kategorizaci, aniž by to zahrnovalo nějakou extra složitou inferenci. Podle toho, jak komplexní inferenci používáte, se dokonce mění způsob, jak v oboru pracujete. Klasickými obory tohoto typu jsou ty založené na encyklopedických znalostech, jako je právo, medicína, filozofie a podobné obory. 

Obrovské množství znalostí vám stačí na to, abyste dokázali mít v podobných oborech úspěšnou kariéru, přítomnost dalších specifických schopností tomu může dodat extra kvalitu, jako například rozsáhlé diagnostické schopnosti (znát medicínu a umět diagnostiku jsou odlišné věci) anebo mít schopnost hledat průřezy a paralely (jako rutinér máte svoje postupy, ale s netradičními metodami můžete inovovat a objevovat). 

Zajímavé je, že tohle funguje i u oborů, které nemají žádný smysl. Existují obory, jako jsou esoterické vědy, které standardní věda samozřejmě za vědu nepovažuje, ale i ty mají svoje znalostní báze a deduktivní procesy. Nemyslím tím pouťovou esoteriku, která se prodává nešťastníkům, ale opravdovou historickou esoteriku, která se dá srovnat například s historickým právem anebo historickou medicínou. 

Jde o rozsáhlé obory, které vytvářejí komplexní představu o světě a o tom, jak se tahle představa vyvíjela. Když šlápnete na chatě na střep, asi na to nevytáhnete staroegyptská zaklínadla, nicméně řada jejich postupů, jako uzavřít ránu medem anebo dát na to syrové maso, je ve skutečnosti funkčních. Zaříkání je k tomu extra – a dnes je to něco, co by pokrokový lékař nazval holistní medicínou: Když o vás otrávený lékař bude mluvit jako „o té noze“, ováže vám to a bez zájmu vás vyrazí z ordinace, bude to fungovat jinak, než když o vás projeví zájem, bude se vám věnovat a psychicky vás podpoří. Staří lékaři to věděli, ti moderní se to teprve učí.

Pokud budete mít dostatečně rozsáhlé znalosti, budete působit inteligentně a dokonce moudře, i když ve skutečnosti neumíte nic jiného a nedokážete provádět komplexní inferenci. Ta se podstatně více ukazuje u oborů, kde musíte znalosti aplikovat, což je například konstrukce anebo vývoj. To, že máte nějakou abstraktní znalostní bázi, je jedna věc, to, že z toho musíte udělat něco, co nějakým způsobem funguje, věc naprosto jiná.

Z důvodů, které jsou dost těžko pochopitelné, panuje obecná představa o tom, že například běžný právník je inteligentnější než například schopný instalatér, i když je to dost pravděpodobně naopak. V prvním případě můžete přežít s encyklopedickými postupy, v druhém případě musíte řešit problém, pak další problém a další problém, navzájem sice sobě podobné, ale každý jiný. 

V případě, že stavíte něco nového, už rutinní postupy úplně nefungují. S tím, jak se stavění ve 20. století industrializovalo, se rozhodování zjednodušilo – ale ve chvíli, kdy stavíte něco atypického, už musíte zapojit docela dost inteligence. Zedník, který nepřemýšlí, nedokáže ani postavit rovně zeď, natož aby vám postavil třípatrový palác. 

Osobně považuji za vtipné, že už v Akkadu se nahlíželo na stavitele domů jako na stejně zodpovědné, jako byli lékaři. To, co vnímáme jako absenci inteligence u podobných profesí, je obvykle zneužívání inteligence v duchu „do bude dobré, to se dá ochcat“. Je mi líto, ale schopnost efektivně ochcávat věci tak, že se ve finále nic nestane, je určitý temný rys inteligence – ona to není jen pozitivní věc.

Překvapivě velkou dávku inteligence najdeme i u řady zločinců. Okrádat ostatní tak, aby na vás nemohli, je také temná strana inteligence. Už na Divokém západě se říkalo, že s papírem v ruce se krade líp než s coltem – a to je věc, kterou bohužel musíme mít na paměti. Spousta úspěšných lumpů vstupuje do kalkulovaného rizika – a nakonec jim to projde. Mark Cuban, člověk považovaný za úspěšného investora, se přiznal, že si přivydělával na škole řetězovými maily, což je forma Ponziho schématu. Vy víte, že okrádáte spoustu lidí – a je vám to jedno: Inteligence sama nemá morální náboj.

Ještě vyšší formy inteligence najdeme u vědců a vynálezců, kteří vstupují na neprobádanou půdu. V okamžiku, kdy neoperujete nad horou dokumentů, kdy se není čeho chytit, už musíte mít vizi, musíte mít plán. Jít novou cestou vyžaduje podstatně více uvažování než replikovat funkční schémata – proto se většině lidí radí „dělejte jen variace toho, co funguje“: Většina jednoduše nemá na to, aby vymyslela něco opravdu nového.

Pak vstupujeme do temného území ryze abstraktního myšlení, které je mimořádné vzácné a opravdu těžko se analyzuje. Vysoké uvažování v matematice je velmi odlišné od jiných forem poznání, protože nestrojí na žádných znalostech a je to téměř čistá inference. Jako dobrý matematik si „nemusíte nic pamatovat, jen vše musíte umět odvodit“, jak jsem byl před lety poučen na matfyzu – a je to pravda.

Nedávno vyslovil populární standupový komik české ekonomie Tomáš Sedláček tezi, že matematika neexistuje. No – z jeho hlediska ano, protože to je disciplína, která se povětšinou pohybuje mimo jeho mentální horizont. Ve skutečnosti se dá podstatně lépe argumentovat, že ekonomická věda neexistuje, protože se zabývá buď ekonomickou historií anebo ekonomickými modely, které ale nemají prediktivní hodnotu – kdyby měly, fungoval by socialismus. 

Na rozdíl od Sedláčka ale nehodlám hanět ekonomiku, protože chápu, že jde o disruptivní obor, který nesplňuje řadu vědeckých kritérií, jako je Popperova falzifikovatelnost. Na základě bedlivých studií si vytvoříte ekonomický model – a ten obvykle nefunguje, protože vám do něj vstoupí inovace anebo těžko předvídatelné události. To samé jsou technologie, ve kterých rovněž lze jen těžko predikovat, protože se dostáváme do nových oblastí, kde jsme ještě nebyli. Tento pohyb je převážně poháněn inteligencí, která nemá deskriptivní, ale inferenční charakter, tedy vytváří nové. Existuje celá řada věd, které nemohou splňovat falzifikační kritérium, protože nedovolují opakování experimentů, jsou závislé na neopakovatelných datech (one off data) anebo mají jiný metodologický problém.

Když mluvím o těžko předvídatelných událostech, popisuji další z faktorů inteligence, tedy schopnost reagovat, adaptabilitu. Reakce není možná tak čistá jako abstraktní inference, je ale kriticky nutná k přežití. Je to schopnost identifikovat problém, vytvořit si model, jak problém vyřešit a hledat cesty, jak tento problém vyřešit. 

Reaktivní inteligence je svázaná se schopností vyšších zvířat učit se od sebe navzájem a je tak kritická, že ji najdeme u velkého počtu druhů. V situaci, kdy se změní životní podmínky anebo potravinový řetězec, se buď přizpůsobíte, anebo vyhynete. Lidé jsou jako druh speciální v tom smyslu, že na tuto schopnost vsadili evolučně skoro vše: Ztratili jsme srst, většinu síly, pořádné tesáky a většinu podobných rysů, takže dnes nepřepereme ani dospělého šimpanze (ne, nezkoušejte to, je to o kejhák).

Vsadili jsme na to, že přežijeme díky inovacím – a nejen to, protože sami jsme největší příčinou své vlastní disrupce, ocitli jsme se v soutěži nejen s přírodním okolím, ale hlavně sami se sebou. Nejsilnějším argumentem pro dark forest theory je představa, že technologická evoluce je tlačena hlavně vnitrodruhovou soutěží – a pokud ta neexistuje a všichni příslušníci druhu by žili v biblické harmonii, prostě bychom se k technologiím vůbec nedostali. (Ano, tohle je trochu strašidelné.)

To nás přivádí k otázce: Kde jsme dneska? Jak je na tom naše inteligence?

Naše inteligence se učí – takže je vlastně popisná. Učení se je proces extrakce podobností a znalostí přímo z dat, přičemž může vznikat implicitní model toho, jak to funguje. Implicitní model je to, co bychom označili za „intuitivní“, tedy víme, jak to asi tak je, aniž bychom dokázali precizně algoritmicky zformulovat, jak to přesně funguje (což je explicitní model). 

I když se implicitní model zdá jako méněcenný, ve skutečnosti je to dominantní způsob, jak se lidi cokoliv učí: Sice používáte rodný jazyk, ale teprve ve škole vám vysvětlí věci jako slovní druhy anebo větnou stavbu – mluvit a analyzovat řeč zvládnete naprosto bez této znalosti a většina lidí se dokáže implicitním způsobem naučit nejen mluvit více jazyky, ale také jimi uvažovat (tedy provádět mentální operace bez překladu do rodného jazyka). 

Bod, do kterého se dostáváme, je bodem s inteligencí, která zvládá tvorbu implicitních modelů. Ta je sice neexaktní, ale překvapivě užitečná, jak vysvětluje například nasazení umělé inteligence při predikci skládání proteinů. Skládání proteinů je komplikované, což popisuje tak zvaný Levinthalův paradox, což je myšlenkový experiment z roku 1969 týkající se komplexity skládání řetězců aminokyselin. Cyrus Levinthal odhadl, že komplexita skládání velmi dlouhých polypeptidových řetězců je 10³⁰⁰, což je „více než astronomické číslo“.

Intuitivně je zjevné, že vzhledem k obrovskému počtu proteinů, které se skládají vždy správně, musí existovat nějaké skládací mechanismy, které zatím neznáme. Přestože je neznáme, umělá inteligence dokázala vypozorovat implicitní pravidla, díky kterým má dnes zhruba 90% úspěšnost predikce při skládání proteinu ze zadaného řetězce aminokyselin. Její přístup bychom mohli nazvat informovanou intuicí, ale je to mezikrok mezi naprostým nepochopením problému a jeho exaktním popsáním: AI vypozorovala, že tam jsou přinejmenším pravděpodobnostní souvislosti a dokáže je popsat s prediktivním kritériem. Zkrátka a dobře vidíme, že tam je mechanismus, který neznáme, ale něco tam je.

To je fantastický pokrok. Mnozí nechápou, na co se to díváme, ale vtip je v tom, že řada souvislostí je vysoce komplexních. Klasická věda je redukcionistická, snaží se hledat naprosté minimum, ale většina přírodních procesů nám nedává ten luxus, že by nám dovolila svět oholit na kost, na pár základních rovnic. Svět je pravděpodobnostní, biologie je vysoce pluralitní a v rámci toho, co je povoleno, si dělá cokoliv. 

To, že se AI dokáže pustit do hory dat, která vypadá neprolomitelně a najít v ní implicitní model, znamená, že tam jsou zákony, které jsou možná složité, ale jsou tam. I relativně čiré obory, jako je zmiňovaná matematika, znají celou řadu problémů, které nemají jednoduché důkazy – a na Wikipedii si můžete snadno najít přehled matematických důkazů, jejichž délka je mezi 100 a 1000 stranami textu. Dnes i v tomto exaktním oboru existují důkazy, které nejsou bez počítačů proveditelné – a je prakticky jisté, že budou existovat ještě delší a ještě delší důkazy, jejichž komplexita sama se může blížit nekonečnu.

Krása matematiky je v tom, že na jednu stranu může jít v dokazování až na dřeň naprostých elementů (jako jsou důkazy formální logiky samotné) a na druhou stranu budovat aparát pro dokazování tvrzení, která jsou jinak „absurdně dlouhé“. Fakt, že si vybudujete aparát, ve kterém radikálně zjednodušíte takové dokazování, je prostě nádherný. 

Nastupující generace AI umí něco jiného: Umí se učit na datech, která jsou obtížně uchopitelná, ne-li zcela nemožná pro jednotlivce. A takových problémů je v reálném světě spousta, od molekulární biologie přes přirozené jazyky až – co já vím – pro psaní efektivních divadelních her. Většina řešení je založená na intuitivních principech, ale těžko najdeme kohokoliv, kdo by znal všechny zákony světa anebo přečetl kompletní literární produkci lidstva. Nejde to, nikdo to nestihne, je toho moc. AI tohle může zvládnout a najít v tom znalosti, které zatím nevidíme, protože je to na nás moc těžké.

Dneska už nejsou lidští polyhistoři, je to moc těžké. Není žádný literární kritik, který by přečetl všechnu beletrii, žádný filmový kritik, který by viděl všechny filmy, žádný politolog, který by se orientoval v politice celých dějin – a možná i jen dnešních dějin. Nedokážeme se tou horou prokousat, AI ano.

Tohle bude její inteligence: Inteligence založená na masivním učení se. Alespoň prozatím.