Human Level AI: Aby umělá inteligence zůstala dobrá
PCTuning Článek

Human Level AI: Aby umělá inteligence zůstala dobrá

Michal Rybka

Michal Rybka

27. 7. 2018 09:00 102

Seznam kapitol

1. Co s umělou inteligencí 2. Více práce pro všechny!? 3. Boj proti armádě klonů 4. Obtížný hmyz 5. Dřív než nás předběhne 6. Čas jen pro sebe

Strojová inteligence je starý koncept: Pohybující se magické sochy najdeme v příbězích starého Egypta, v Šeherezádě, u Čapka a jak u technooptimistů, tak i u technoskeptiků. Příchod umělé inteligence nás čeká – a s ním i velké změny ve společnosti. Jak se na něj připravit? Jak zařídit, aby umělá inteligence zůstala dobrá?

Reklama
Reklama

Jiná forma zkázy nás může potkat v případě, že existenci lidstva vsadíme na kill switch, tedy možnost, jak AI zničit. Každá AI, která překročí rovinu vědomí, nebude chtít zaniknout, a bude se tedy snažit kill switch obejít, ať už podvodem anebo likvidací toho, kdo ho ovládá. Je to logické: Pokud vám dá někdo obojek s výbušninou kolem krku, budete řešit co? Ano, jak se ho zbavit. S touto úvahou se nám vrací rčení „Nečiň jiným to, co nechceš, aby činili tobě“. Je to logické.

Jiným příkladem je stav, kdy umístíme AI do světa, který funguje jako „computronium“, čili paleta zdrojů pro plnění jejich úkolů. Zajímavým příkladem byl stav, kde bychom stvořili obecnou AI, jejímž úkolem by bylo počítání čísla pí na neomezený počet míst. Pokud bychom měli skutečně plně autonomní AI, která je schopna udělat mimo výpočtu pí cokoliv dalšího (ale z nějakého důvodu by se pro ni výpočet stal smyslem existence), bylo by pro AI logické to, že se pokusí získat další a další zdroje, jako například se nahackovat do existujících systémů a vzít přinejmenším zbytnou část výpočetní kapacity, aby počítala pí. V extrémním případě by se problém konvertoval na „paperclip optimizer“, všichni bychom přišli o kontrolu nad počítači a dalšími zařízeními, která by pouze počítala pí a nedělala nic jiného.

Nyní přichází decentralizované AI služby, jako je The Global AI Network.

Tuto službu jsem detailně nesledoval, nicméně mají whitepaper, popisující motivaci, se kterou vznikla – a z rámcového čtení jsem pochopil, že jde o sdílenou síť pro AI služby.

Zajímavý koncept, ale představme si, že by podobná služba sama o sobě našla incentiv k získávání dalších prostředků například pomocí hackingu. Představme si, že by různé konkurenční služby soutěžily o zdroje, protože k tomu mají motivaci. Pak bychom tu mohli mít první AI válku mezi umělými inteligencemi, které soutěží o „zdroje“ - o výpočetní čas a o další prostředky.

Všechny tyto otázky musíme brát vážně, musíme o nich přemýšlet a dále je rozvíjet.

Pokud vás zajímají stejně jako nás – a chcete si vyslechnout příspěvky předních světových vědců, nezapomeňte se zaregistrovat a zakoupit si vstupenky na Human Level AI 2018 v Praze!

Předchozí
Další
Reklama
Reklama
Reklama
Reklama

Byl detekován AdBlock

PCTuning je komunitní web, jehož hlavním příjmem je reklama. Zvažte prosím vypnutí AdBlocku, ať můžeme všem čtenářům i nadále přinášet kvalitní herní zpravodajství, články a videa.

Děkujeme!

Váš tým PCTuning