Proč AI nerozumí lidem aneb o problémech s významem sdělení | Kapitola 4
Seznam kapitol
Většina kritiky na moderní AI se týká toho, že nechápe hluboký význam lidských sdělení. Proto například překlady z DeepLu vycházejí někdy trochu legračně. Problém je ale v tom, že potíže s chápáním jiných lidí máme i my, sami lidé.
Běžně se setkávám s tím, že většina lidí má dojem, že jenom jeden výklad je správný – a to ten jejich – a že vůbec netuší, že z hlediska jiných interpretací naopak vypadají jako úplní šílenci. Kontext je důležitý – a bez kontextu není možné lidi vůbec pochopit, natož pak jejich kulturu a jednání.
Samozřejmě jsem neodolal – a vyzkoušel jsem si, jak fungují persony v současném modelu GPT-4. Nechal jsem ChatGPT napsat ten samý příběh o „Dvou myších a kočce“, přičemž jedna persona byl středověký islámský kádí, druhá byl starověký čínský učenec a třetí byla výuková inteligence z daleké budoucnosti.
Výsledek bych popsal jako… zajímavý. Ve všech třech případech se AI držela stejné vyprávěčské linie, totiž odvykládala příběh o dvou myších, které záviděly mnohem mocnější kočce, a tak se zatoužily stát samy kočkami. Podle typu persony AI správně vybrala prostředí, fráze a také postupy, jak by se myši mohly samy změnit v kočku: Od kouzla ve svitku po „vír nanobotů, který je změnil pomocí kódu, nalezeného mezi nesčíselnými terabyty dat“. Problém byl v tom, že proměna myši stála schopnost mluvit, takže kočce nebyly schopny vysvětlit, kdo jsou, byly jí odmítnuty – a nebyly se ani schopny samy změnit zase zpět.
Teprve pomoc moudrého kádího / učence / AI učitele, kteří pochopili jejich problém a pomohli jim nalézt reverzní proces, je změnil zpět v myši a poučil je v tom smyslu, že štěstí je v nalezení jejich vlastního smyslu, ne v tom, že se budou chtít stát někým jiným.
Inteligence použila správně jak proměny, tak i reverzní procesy, takže v islámské verzi jim pomůže „odpuštění Boží“, v čínské „dosažení rovnováhy v tao“ a v roboverzi pak nalezení opačného algoritmu pro nanoboty. Umělá inteligence správně použila prostředí, ale do jisté míry ho použila jen jako výměnu kulis, nepokusila se změnit nic dalšího, například variovat příběhy podle prostředí anebo nějak využít specifika jednotlivých kulturních prostředí.
Chápu to. Kulturní specifika nám komplikují přenos myšlenek z prostředí do prostředí – tak například Vyprávění o proradné Dalíle se dá těžko přesunout do jiného kulturního prostředí, protože v něm prostě nedává smysl (možná by šlo přesunout do budoucnosti, kde by byla Dalíla robotka bez pána, v podobně právně závislém postavení). Mnohá vyprávění stojí na zvykových specifikách, například v příběhu O Džaudárovi a jeho bratřích nedává v naší kultuře smysl Džaudárovo chování, kdy se chová vstřícně a milosrdně vůči svým bratrům, i když se ti k němu chovají vyloženě zle. U nás by byla podobná sebevražedná vstřícnost hloupostí hluboko pod úrovní hloupého Honzy, v rodové kultuře, kde rodina je nade vše, to ale smysl dává.
Komentáře naleznete na konci poslední kapitoly.
