Když hloupý učí hloupého: Hloupne AI, hloupnou lidé | Kapitola 5
Seznam kapitol
Pokusy s tím, že AI učí jinou AI, nevypadají úplně dobře. To by ale asi nepřekvapilo žádného rodiče, který nechává vzdělávání svých ratolestí nevzdělancům na TikToku a dalších sociálních sítích.
Pokud chceme kvalitní výsledky, musíme si na to dát pozor. To, co se stalo na YouTube, představuje zajímavý prostor pro velmi málo řízenou sociální evoluci – a která o nás vypovídá hodně zajímavého. Hlavně to ale ilustruje, že každá dostatečně odříznutá komunita, která se krmí svými vlastními výstupy, se stane nakonec divnou a pro okolí nepochopitelnou.
Je to zřejmě běžný adaptivní proces, který drží komunitu pohromadě, upevňuje to jejich sdílené hodnoty, a přitom podléhá vnitřní evoluci, která určuje, jaké hodnoty jsou důležitější a jaké se vytěsňují. Je to něco, co bude probíhat běžně a co je asi nevyhnutelné pro každou dostatečně uzavřenou skupinu, takže bychom se tím měli zabývat dřív, než se kolonisté na Marsu stanou divní, zaměření sami na sebe a pro lidi ze Země budou nepochopitelní. Vzájemné nepochopení či aktivní odmítnutí chápání je totiž skvělým zdrojem konfliktů.
A taky bychom si měli dát pozor, abychom věděli, co se bude dít s adaptivní umělou inteligencí, která se baví hlavně sama se sebou a vyvíjí sama sebe.
Tohle může být jednou docela velký problém.
