Umělci válčí s AI: Příprava na lidskou obsolenci | Kapitola 4
Seznam kapitol
Zatímco před rokem měli z kreativní AI umělci většinou jen prču, nové verze jsou tak dobré, že přinesly údiv, pak šok a hněv – a nyní začíná otevřená válka, protože si uvědomili, že většinu z nich generativní AI dokáže plně nahradit.
Použití reálných obličejů lidí (deep fake)
Ze všech problémů diskutovaných umělci mi deep fakes přijdou jako největší problém, protože jsou nejvíce a nejpraktičtěji zneužitelné: Počínaje deep fake pornem s tvářemi celebrit a konče syntézou falešných důkazů.
Problém je v tom, že fair use v americkém slova smyslu dovoluje například karikaturu, tedy že využijete podobu nějaké veřejně známé osobnosti, abyste si z ní udělali prču. Tohle je tedy složité, protože u využití obličejů zásadním způsobem záleží na tom, k jakému účelu obraz použijete.
Principiálně to chránit asi nepůjde, ale bude možné postihovat zneužití ilustrací (misuse) například k tvorbě falešných důkazů anebo ke zbohatnutí ve velkém rozsahu – například když rozjedete fabriku na trička s portrétem Billie Eilish, abyste je prodávali, přičemž jí z toho nic nedáte.
Plošně se to dá udělat tak, že skutečnou podobiznu bude možné generovat pouze v případě, že využijete při generování jako tag přímo jméno dotyčného člověka, což lze omezit, lze mu automaticky vyplácet podíl anebo lze adresně určit, kdo obraz vygeneroval a použít to jako důkazní materiál proti tomu, kdo ho vygeneroval.
To samozřejmě u velkých systémů respektujících pravidla, malé modely, které si někdo vyvíjí bokem, kontrolovat nelze.