Google odborníci varují, že AI může narušovat realitu
Nová výzkumná zpráva varuje, že masová produkce spamu, nekvalitního či hanebného anebo syntetického obsahu vytvořeného AI může narušovat realitu.
Jedná se především a podnícení nedůvěry v digitální informace, které umí AI vytvářet stále jednodušeji. Konzumace informací v digitálním prostoru může být více vyčerpávající než kdy dřív, a to kvůli neustálé nutnosti ověřovat pravost informací.
Podle zprávy by “kontaminace” veřejně přístupných dat kontentem generovaným skrz AI mohla narušovat kolektivní chápání sociálně-politické reality nebo vědeckého konsenzu.
Většinou falšování pomocí umělé inteligence vede k podvádění lidí a k manipulaci jejich názorů, v neposlední řadě také k vydělávání peněz. Úprava lidské podobizny a falšování důkazů je nejrozšířenější taktika v reálných případech zneužití, tvrdí zpráva. Druhým problémem je, že k používání AI nástrojů nemusíte být odborník, zadat prompt dnes dovede vlastně kdokoliv. Třetím kamenem úrazu je to, že tyto zmanipulované materiály často nejsou v rozporu s podmínkami dané společnosti provozující AI nástroj. Velkou součástí tohoto problému je to, jak jsme my, lidé, vytvořili tyto prostředky a jaké mantinely jsme jim nastavili - nebo spíš nenastavili.
