Když hloupý učí hloupého: Hloupne AI, hloupnou lidé | Kapitola 3

Problém je v tom, že každá data obsahují mnoho biasů – a pokud nechceme AI učit nějaké chování, musíme data upravovat. Podle toho, jaká máme data, budeme mít i výsledky učení, neboli garbage in, garbage out. A to se děje u pokusů učit AI jinou AI, protože čím vícekrát se tento proces opakuje, tím je výsledná AI „divnější“. 

Na tomto efektu není nic divného – jde o klasickou „tichou poštu“, protože, technicky vzato, AI učení je masivní ztrátová komprese původních dat. To, že je tato komprese ztrátová, automaticky znamená, že část původní informace opakovaně mizí. Je to vlastně stejné, jako když opakovaně masivně komprimujete JPEG, každá další generace se začne zanášet artefakty a původní informace mizí. Finální výsledek je tak dán nejen původními daty, ale také každým krokem komprese, tedy v případě AI každým jejím učením.

Čím víc předfiltrujete původní data, tím bude výsledek limitovanější a divnější. Univerzální báze pro učení bude produkovat přirozenější inteligenci, pokud z tréninkového datasetu vyházíte nějaká „tabu témata“, zmizí z výstupu nejen ona, ale vše, co s nimi souvisí. U generativních AI došlo k tomu, že v jednom experimentu se z obrazového datasetu vyhodilo porno – a AI se výrazně zhoršila ve schopnosti imaginovat lidské tělo jako takové. No tak ano: Když nebudete vědět, jak člověk pod šaty vypadá, tak ho nebudete schopni vyimaginovat.

Čím omezenější dataset, tím omezenější výsledky. Hloupost je výsledkem této omezenosti – a to souvisí i s fenoménem sociálních sítí a tvrzením, že způsobují hloupnutí. Obecně ne: Pokud se zásobujete kvalitními a různorodými daty, bude výsledek vašeho učení dobrý. Pokud si vstupní dataset omezíte, výsledek vašeho učení bude taky omezený.