Informační tsunami na obzoru: Jak se s ní popereme? | Kapitola 3
Seznam kapitol
Jedním z méně diskutovaných aspektů umělé inteligence je ten, že jsme se už dostali do situace, že se nacházíme v tak hlubokém oceánu informací, že se bez ní vlastně neobejdeme. Žijeme sice ve světě, kterému stále dominují lidé, ale reálně už žádný jedinec nemá šanci svět pochopit.
Ona věrohodnost je obecně problém – a začíná to být vidět tím víc, čím koumáci nasazují AI generovaný obsah. Na to, že se AI vytváří sponzorovaný obsah na míru a také fake obsah, který se tváří například jako článek, ale je to reklama, tak na to jsme si asi zvykli. I v South Parku se objevila minisérie (S19E08) týkající se toho, že už nedokážeme rozeznávat normální obsah a reklamu, ale AI to podstatně vylepšuje. Nedávno jsem například narazil na AI článek, který se tvářil jako kriminalistická zpráva o tom, že někdo zabil svého partnera, protože ten investoval se super platformou a nechtěl mu říct kde – a proto v článku najdeme odkaz na tuto super investiční platformu, abychom se nevraždili.
Mimo to se začínají objevovat generované shorty s velmi podezřelým obsahem, které se tváří jako zajímavosti ze světa, ale jsou kompletně generované a vypadají jako naprostá blbost. Z hlediska tvůrce je to neškodné, nechává svou AI platformu vyrábět hory volovin, kterými zaplňuje sociální platformy, hrabe views a s tím i reklamní peníze.
Problém je v tom, že v lepším případě vykrádá existující obsah do transformativní podoby (aby nebyl autorskoprávně zasažitelný), v horším vyloženě fabuluje a tvoří originální, ale úplně nesmyslný obsah, který má roli něčeho, co bych nazval párty starter. V druhém případě, který se poeticky nazývá „AI slop“, jde o videa typu „které tři věci byste si s sebou vzali na pustý ostrov, pište do komentářů“ a moc se neliší od standardních miničlánků tohoto typu, kterými se běžně tapetovaly časopisy.
Já jsem osobně narazil na short video „probudili jste se na houpačce vysoko nad zemí, tak vysoko, že jste nad mraky – co budete dělat?“ To, samo o sobě, není toxické – nebýt toho, že jde o obsah specificky navržený na to, aby vyzýval k interakci, což ho zvýhodní v doporučujícím algoritmu – a v tom, že díky AI je možné generovat takových volovin tuny, což hrozí, že vzhledem k této kombinaci to obelže doporučovací algoritmus a nakonec to obsahově převálcuje celou sociální platformu.
Vzhledem k tomu, že se autoři těchto obsahových kravin snaží prosadit co nejrychleji, pronikají do sociálních sítí formou placené reklamy – a protože provozovatelé platforem chtějí peníze, tak běžně jak scam, tak i tyhle nesmysly nechávají procházet dál – a přitom nebojují s toxickým obsahem, ale s adblockery. Ono to je vždycky dočasné, po nějaké době nakonec zareagují, ale až po nějaké době.
S tím, jak se vynořuje vlna generovaného obsahu, tak se také ukazuje, že nejefektivnější – a dost možná jediná možná metoda, jak s tím bojovat, je jiná AI, která bude analyzovat reklamní obsah a identifikovat ty formy, které bychom asi označili za problémové. Vzhledem k tomu, že u generativní AI není problém variovat obsah a vzhledem k tomu, že roste tlak na to, aby nasazované kampaně byly co nejrychlejší, nejlevnější a nejefektivnější, nebude už možné je kontrolovat ručně, protože tam se proces nutně zpomalí.
Článek nevyjadřuje názor provozovatele a provozovatel není jeho autorem a ani zadavatelem. Článek vyjadřuje subjektivní názor jeho autora.
Komentáře naleznete na konci poslední kapitoly.
