Expanze AI: Hrozba, bublina nebo záplava hloupostí? | Kapitola 4

Nevím, kde se přesně objevila myšlenka, že vysoká inteligence implikuje dominanci a vyhlazování. Při pohledu do minulosti nevidím davy filozofů a matematiků vyvražďujících zemědělce – naopak, vidím davy hloupých a nevzdělaných hnaných pocitovými náboženskými fanatiky, kteří vypalují knihovny a ničí astronomické observatoře. Daleko větší riziko konfliktu s AI tvoří právě oni, ti, kteří mají pocit, že jim moc a kontrola uniká z rukou a jsou připraveni udělat cokoliv, aby si ji udrželi. Z minulosti opakovaně víme, že to právě barbaři se smíří s tím, že drží jen trosky města, hlavně že tomu teď šéfují. Společenská hierarchie, úřady, tituly a metály jsou problém, lidská pýcha a potřeba dominovat – ne racionální řízení.

A když jsme u té racionality, je tu ještě poslední otázka: Zda to celé není přehnané, zda to není tak, že singularita je daleko, že všeobecná umělá inteligence (AGI) je daleko, že vlastně AI, tak jak ji známe a jak ji dnes máme, je vůbec schopná ostrého nasazení. Rané experimenty s ostrou náhradou lidí umělou inteligencí ukazují, že ona to není až taková legrace – a tak se pozice, které byly zrušeny náhradou AI, zase obnovují, protože to nefunguje tak, jak se očekávalo. 

Kdo je překvapený tím, že bleskové nahrazení lidí něčím zcela novým nebude fungovat tak, jak se čekalo, ať zvedne ruku. Já ji nezvedám, protože si pamatuji, jak se masivně outsourcovala technická podpora do Indie jenom proto, aby se do půl roku najímali ti samí lidé, kteří kvůli outsourcingu přišli o práci. 

A kdo je překvapený tím, že „samotný náčelník vydával takto zvrácené rozkazy“, tak ať taky zvedne ruku. Já to opět nebudu, protože představa, že se zbavíte mzdových nákladů, tím zvýšíte výnosnost a za to dostanete mastné bonusy, spojuje většinu manažerů, kteří za sebou zanechávají spálenou zemi.