Zlá, zlá AI: Jak nám technologický pokrok přináší nové zločince a nové pány | Kapitola 3

Problém s vrozeným chováním je v tom, že evoluce udržuje širokou varietu chování a vylučuje jen ty jedince, kteří nejsou způsobilí přežít anebo se reprodukovat, případně nepřináší žádný benefit pro přežití ostatních. I to, co bychom hodnotili jako těžké poruchy chování, jako je psychopatie anebo naopak sebevražedný altruismus, zvyšuje šance na přežití skupiny, a proto se v ní takové vzorce uchovávají. 

A to je trochu problém pro život v civilizaci, která si přináší další omezení a to, co v evoluci fungovalo bez problémů, se do ní nějak musí integrovat. Pokud má být AI našim obrazem, není úplně moudré, abychom ji nechali replikovat všechny naše behaviorální vzorce, protože řada z nich nedává v rámci civilizace prostě smysl. 

Evoluce nás vede k chování, které je efektivní v našem prostředí, ale nefunguje moc rychle a nemáme záruku, že to bude nějak zvlášť príma. Evoluce nás dovedla k tomu, že máme jedince s altruistickým chováním, kteří se obětují pro jiné. Pak máme ty, kteří hledají příležitost v tom, jak využít jiné. A potom i takové, kteří se snaží ostatní aktivně podvést – ať už je to přímým zneužitím altruistů anebo pastí na ty, kteří chtějí vydělávat na příležitostech. 

Klasické příklady znáte: Toho týpka, co si půjčuje od známých a nic nevrací. Toho dobrého muže, který se vždy podělí. A taky toho vyčůránka, co rád kupuje za levno, když je nouze. Technologie tohle všechno multiplikovala, takže máme věci jako crowfunding, kde se dobří lidé skládají na potřebné, internetové podvody, kde podvodníci dělají například ten falešný crowfunding – anebo vyložené pasti, jako jsou úžasné investiční příležitosti a nigerijští princové v nouzi. 

Zjednodušeně řečeno se dá říci, že technologie zlepšuje život jak těm dobrým, tak těm zlým, protože dnes se dá podvádět přes půlku světa a ještě se dají využívat legální bariéry, které komplikují policejní zásahy. V USA jde o regulérní průmysl, který se zaměřuje zvláště na seniory, v roce 2022 šlo o těžko uvěřitelných 68 milionů případů pokusu o podvod, které podvodníkům vynesly téměř 40 miliard amerických dolarů. 

Prakticky přes kopírák se jedou stejné podvody i u nás – a podle všeho rovněž také velice úspěšně.

Trend přitom akceleruje – a nemějme iluze, že z relativně jednoduchých nátlakových telefonních hovorů, které vytváří stres na důvěřivé seniory, nepřejdou scammeři rychle sofistikovanějšího. S rozmachem smartphonů přišel spyware a ransomware – a dnes se na nás chystá nová generace podvodů. A nepochybujte ani v nejmenším, že se do toho plnohodnotně zapojí nová AI. 

Dnes už máme zprávy o tom, že hackeři využívají schopnosti ChatGPT psát skripty a malware, přičemž alarmující je hlavně to, že AI značně urychluje vývoj takových nástrojů. Zatím jde podle zpráv o skripty nižší úrovně sofistikovanosti, ale jsme teprve na začátku. 

OpenAI na to reaguje rozšířením Moderation API, které má za úkol eliminovat podezřelé a nelegální požadavky a také se řeší otázky watermarkování kódu – i když tam mám dojem, že watermarkování bude fungovat pouze do doby, než se zjistí, jak funguje a jak se dá odstranit.

Buď jak buď, ruští hackeři už údajně hromadně řeší, jak obejít limity OpenAI API, hlavně se řeší regionální omezení (geofencing) a věci, jak obejít OpenAI SMS verifikaci pomocí dočasných telefonních čísel. Je to jen první krok, ale pochybuji, že se zastaví jenom u průzkumu.