Zlá, zlá AI: Jak nám technologický pokrok přináší nové zločince a nové pány | Kapitola 2

Morálně superiorní jedinci teologického ustrojení na to mají prostou odpověď: Evoluce neexistuje, respektive je od ďábla. Vše Bohem stvořené bylo dokonalé, to ďábel to zkazil a my s ním jedeme na rollercoasteru do pekla. Věc se má totiž tak, že v evoluci koncept morálky vůbec neexistuje, přežívá jakékoliv chování, které nějakým způsobem zvyšuje pravděpodobnost přežití komunity. 

Jedním z klasických hlavolamů pro moralisty je tak zvaný Aschův experiment se sociální konformitou (1951). Je založen na tom, že je vytvořena falešná experimentální skupina a jen jeden člověk s tím nevyrozuměný je vlastním cílem experimentu. Zadavatel ukazuje skupině úlohy – a ti informovaní odpovídají špatně, přičemž se testuje, zda testovaný subjekt bude odpovídat správně anebo se přidá ke skupině. Téměř dvě třetiny odpovídaly správně, ale více než třetina se přidala na stranu skupiny. Jak je toto možné?

Popravdě, to, že „sociálnímu tlaku“ odolala více než polovina účastníků, souvisí s tím, že byli nadprůměrně vzdělaní. Kolem jevu se objevil zilion sociologických teorií, ale odpověď na podstatu jevu je zcela prostá: Zrcadlení je vrozené všem zvířatům žijícím ve skupině. Protože kritické myšlení je jevem evolučně novým, je statisticky výhodnější dělat to, co dělá zbytek skupiny: Za prvé je vyšší šance, že se spíš mýlí jedinec než skupina. Za druhé sociální konformita je technika, jak skupina sdílí znalosti, jak se společně učí. 

V minulosti se staly neuvěřitelné případy zneužití sociální konformity, jako například ten, který popisuje film Compliance z roku 2012. V něm se pracovnice rychlého občerstvení stane terčem šikany a nakonec i znásilnění, které nařizuje „policejní důstojník“ přes telefon. Lidi jsou neuvěřitelně naivní a zároveň připravení manipulovat ostatními pro svoje pobavení. 

Možná vám ten příběh bude připadat jako přitažený za vlasy: Ne, profesionální manažer nemůže být takový idiot, aby se nechal dirigovat po telefonu a už vůbec nemůže dojít k tomu, že na základě telefonických instrukcí fakticky někoho znásilníte. To je absurdní, ne? Bohužel ne, tato událost se stala v roce 2004 v Kentucky. A nešlo o první případ, podobné události se staly alespoň v 70 případech už od roku 1994 a pokrývá je například Wikipedie.