Proč AI nerozumí lidem aneb o problémech s významem sdělení | Kapitola 5
Seznam kapitol
Většina kritiky na moderní AI se týká toho, že nechápe hluboký význam lidských sdělení. Proto například překlady z DeepLu vycházejí někdy trochu legračně. Problém je ale v tom, že potíže s chápáním jiných lidí máme i my, sami lidé.
Současné persony, kterými je GPT-4 vybavena, jsou poměrně mělké – a rozhodně to nejsou skutečné persony s vlastními hodnotovými žebříčky a vlastním viděním světa. Otázka je, jak moc je riskantní zkoušet emulovat reálné persony, které mají svoje vlastní postoje – a nemusejí se s námi ani shodovat, ani se nám nemusejí líbit.
Otázka je: Jak moc musíte pochopit nejen jazyková, ale i kulturní specifika, aby vám dávaly smysl místní texty? Musíte být opravdu Irem, abyste dokázali správně přeložit Odyssea od Jamese Joyce? Musíte chápat bídu ruské populace 19. století, abyste správně přeložili Dostojevského anebo Gorkého? A co musíte znát na to, abyste správě přeložili a interpretovali moderní vědecké a technické vizionáře?
Spousta lidí si neuvědomuje, jak jsou strašně nesrozumitelní – a mnozí jsou na to dokonce hrdí. Máme tu obří mezigenerační bariéry, kdy si starší generace neuvědomuje, že jí ta mladší nerozumí – a naopak se ta mladší ani nesnaží před fosily maskovat svůj newspeak, protože se tak sami vyčleňují. A takhle to je se vším, protože lidská zkušenost je navzájem jen těžko přenositelná.
Otázkou pak je: Co je vlastně zapotřebí, aby nám AI porozuměla? Stačí ji prostě pustit ke všemu a nějak se tím prohrabat – anebo nakonec zjistíme, že i ona bude muset postoupit něco, jako je hraní rolí, které známe ze skupinové psychoterapie? To, čemu se dřív říkalo psychodrama a dnes se to nazývá jako hraní rolí, je vlastně metoda, jak se vciťovat do jiných, do jejich postojů. Obejde se strojové učení bez toho? Nebo to bude naopak nutný krok k tomu, aby stroje pochopily odlišnosti lidských jedinců jako něco, čemu musejí porozumět a opravdu to musí pochopit?
