Zlá, zlá AI: Jak nám technologický pokrok přináší nové zločince a nové pány | Kapitola 4

Pointa není v tom, co dnes AI umí, ale jak ji lze propojit a co z ní lze vytvořit. Dnes umíme vytvořit deepfake porno, deepfake videa a také umíme AI přesvědčit, aby říkala, co chce, takže se s námi například naše oblíbené postavy ze Star Wars umí podělit o svá mladická sexuální dobrodružství.

ChatGPT zatím nepřekonává lidi v pravdivosti, ale je dostatečně věrohodný a produktivní, takže dokáže chrlit na zadání spoustu obsahu. Je jenom otázkou času, až se objeví nástroje, které nejenže dokážou generovat podvody s vysokou mírou věrohodnosti, ale zvládnou i individuální přizpůsobení, případně vytvoří celý komplex fake stránek, které se na sebe budou odkazovat s vhodnou SEO optimalizací tak, že prostě nepůjde snadno rozeznat, jestli jde o podvod, anebo ne. Začnete ověřovat, vyhledávat – a bude to vypadat podstatně věrohodněji, než to vypadá dnes.

Zatím se s rafinovanými podvody nikdo nepáře, ale AI je může automatizovat, čímž je učiní méně pracnými i pro lenivější podvodníky. Případně vzniknou nástroje, které to budou generovat přímo na míru – anebo hlasová komunikace, která na rozdíl od vnuků s těžkým jamaským dialektem bude telefonovat důchodcům s fake hlasem zcela věrohodně odpovídajícím regionu. Podvody zatím stojí na časovém nátlaku, který je pro ně charakteristický – co když jejich věrohodnost řádově vzroste?

Největším problémem dnešní AI je zatím to, že sice nevíme, co ji přesně máme učit, ale ona už pracuje velmi rychle a velmi efektivně. Na jednu stranu si dnes hraje na fízla, který ze záhadných důvodů cenzuruje vaše posty, ale už brzo to bude i nástroj pro hackery, kteří se z vás budou pokoušet vymámit přístupy sem anebo tam a ideálně i k vašim účtům a peněženkám.

Ano. AI je obrazem nás, lidstva. V tom dobrém – a bohužel i v tom zlém.