Zlá, zlá AI: Jak nám technologický pokrok přináší nové zločince a nové pány
Seznam kapitol
Standardní teze říká, že vše, co se dá zneužít, bude zneužito. Pro AI to platí jednoznačně: Už dnes jsme pod automatickou cenzorní knutou na sociálních sítích – a hackeři experimentují, jak využít nejen deep fake, ale i sémantickou AI k tomu, aby byli mnohem efektivnější.
Knuta umělostrojních pánů je nemilosrdná. Osobně jsem byl strojovým samosoudcem na Facebooku potrestán už dvakrát: Za prvé proto, že jsem citoval hlášku z Aliens na fóru věnovaném Aliens – a za druhé proto, že jsem sdílel vtip o čínském průzkumném balónu, který systém vyhodnotil jako „sexuální zneužívání dospělých“.
To první je zjevná neschopnost rozeznat citát a umístit ho do kontextu, to druhé je pro mě čirá záhada. Co na tom mašině přišlo divného, nedokázali detekovat ani mí teplí kamarádi, kterých jsem se zeptal, jestli to nějak není něco proti gayům nebo tak. Nevěděli a odhadovali, že to možná nějak souvisí s tím, jak umřel brazilský kněz při letu balónem, což je skutečně divná klasifikace do kategorie „sexuální zneužívání dospělých“. Facebookový umělý samosoudce své rozsudky nijak nerozebírá, takže jen hádáme.
Nemyslete si, že strojový systém Facebooku šikanuje jenom nás, oprsklé bílé heterosexuály, kdepak – mé teplé kámoše trestá taky přísně, protože občas taky sdílejí vtipy a říkají, co si doopravdy myslí. Noví strojoví páni mají menší smysl pro humor než Strana v románu Žert od Kundery – a s tím, jak je Západ stále více „korektní“ neboli méně svobodný, můžeme jen čekat utužování restrikcí.
AI na tom sama nenese vinu. Nedávno jsem četl optimistický článek o tom, že se AI nemusíme bát, že nám vlastně není cizí, protože ona sama je naším vlastním obrazem. Jinak řečeno – je vlastně esencí toho, co je lidstvo samotné. To může někoho uklidnit, mě úplně ne, protože lidstvo dokáže být sice vznešené, ale taky naprosto hrozné – a s AI to bude podobné podle toho, co ji naučíme.
Od počátků filozofie existuje řada tezí o podstatě lidského ducha, které se vyznačují tím, že je obvykle konstruují jedinci, kteří mají velmi, velmi odlišného ducha od drtivé většiny ostatních. Aristoteles, Seneca anebo Cicero skutečně nejsou příklady průměrného jedince, spíš patří do kategorie zvláštností. Z jejich produkce pak vypadávají „motivační citáty“ o „ctnostech“, které tak nějak vybudovaly představu o vznešeném člověku, občas po aristotelovsku kontaminovanou představu o superioritě ctnostného člověka nad těmi prostými.
Tato naivní filozofická představa byla celou historii narušována nejen realitou, ale ve 20. století také etologií, tedy naukou o chování. Konečně jsme se zbavili zamyšlených starců, kteří se vznáší na nehodným lidstvem a eticky klasifikují jeho behaviorální vzorce – a místo toho jsme dostali studie neutrálních etologů, kteří si položili zcela prostou otázku: Pokud nás formuje evoluce, proč v ní přežívají vzorce chování, odsuzované morálně superiorními jedinci jako úpadkové? Proč přežívá zuřivá agrese, zbabělost, promiskuita anebo sobectví?
Komentáře naleznete na konci poslední kapitoly.
