Když hloupý učí hloupého: Hloupne AI, hloupnou lidé | Kapitola 4

Že z omezených dat získáte omezené výsledky, by vlastně nemělo překvapovat nikoho, je to úplně to samé, jako když se učí lidé: Výsledek vašeho vzdělávání, to, čím se stanete, závisí na tom co čtete, co sledujete, kým se obklopujete. Zajímáte se o vědu, technologie, sledujete kanály se vzdělávacím obsahem? Pak se něco dozvíte. Sledujete ty pseudovědecké, konspirační a mystické? Pak vás svedou na scestí. Zajímáte se o youtube drama a o tom, který influencer zrovna koho pomluvil? No... tak se můžete donekonečna koupat v něčem, co vás možná zabaví, ale jinak vám to nic nedá.

O tom jsem uvažoval ve chvíli, kdy jsem tak nějak uvízl na hromadě moderních influencerských dramat, která patrně někomu, kdo onu scénu nesleduje, nebudou dávat žádný smysl. Ono vůbec – když vezmete vývoj sociálních sítí a formátů, které tam jsou úspěšné, je jasně vidět, že také podléhají evoluci, kde na jedné straně diváci hlasují svými interakcemi o úspěšnosti formátů a tvůrci se na druhé straně pokouší trefit evoluční optimum, což je maximální výnos monetizace tak, aby o ni zároveň nepřišli anebo neskončili v nějakém ještě větším maléru. Tohle evoluční prostřední je rychlé a drsné a stačí málo, abyste se v něm začali propadat anebo zmizeli úplně. 

Samotné youtube drama je moment, kdy influenceři přestávají řešit to, co obvykle řeší – a místo toho začínají řešit sami sebe, tedy reagovat na to, jak někdo jiný reagoval na to, na co reagovali předtím. V tu chvíli to už není o informacích, je to čistý echo chamber, který je informačně zcela samosnubný a tak nějak generuje neinformaci, kterou se všichni úspěšně baví.

Není tento jev podobný tomu, když se jedna AI zavěsí na druhou a začínají plodit cosi, co už nemá nic společného s realitou? Uzavřené komunity, které reagují samy na sebe, se stávají také „divné“. Sekty s naprostou vážností řeší otázky, které komukoliv jimi nenaprogramovanému přijdou úplně padlé na hlavu. Týmy si vytváří vlastní jazyky, kterým nikdo nerozumí. Velké korporace si vytváří projekty a problémy, které mimo ně nedávají naprosto žádný smysl. 

Ve finále mám dojem, že se lidská společnost a svět AI až tak moc neliší. Když mu dáte špatná data, dostanete špatné výsledky. Když cenzurujete vstupy, dostanete natvrdlé výstupy. A když to propojíte jenom do sebe, vznikne z toho něco podivného. Pokud to má fungovat, musíte zajistit kvalitní vstupy a dohlížet na proces, aby se úplně neodtrhl od reality.