Člověk versus počítač: Kdo drží tlačítko? | Kapitola 7
Seznam kapitol
Část výzkumníků se obává vzestupu počítačové superinteligence. Ve skutečnosti potíže s umělou inteligencí už začaly – a to ne proto, že by AI po benderovsku v noci snila o tom, že „vyvraždí všechny lidi“. Začaly proto, že se její názor na věci občas liší od toho, jak problém vidí lidé, což vede k technickým katastrofám.
Velmi dobrou otázkou je – kdo vlastně za robotické auto zodpovídá? Auto udělá chybu a někoho zabije, například proto, že si chodec na silnici dřepne a tím ze sebe udělá pro senzory auta příliš malý cíl. Je to chyba automobilky, softwarového vývojáře anebo vás? Kdo za to může a kdo má odškodnit pozůstalé? O tohle nás čeká velká bitva, první z velkých právních bitev na cestě k plně autonomní robotice. Armáda si je navyklá dělat víceméně co chce, automobilový průmysl takové páky nemá.
Užitečnost automatických systémů a Artificial Narrow Inteligence nikdo nepopírá. Valeo nám ukázalo auto, které dokáže samo zaparkovat na pokyn z aplikace v mobilním telefonu anebo samo přijet. Dojedete k supermarketu, ale prší, takže zastavíte před vchodem a necháte auto zaparkovat samo. Nezmoknete a nemusíte se soukat ze dveří na omezeném prostoru parkoviště. Po nákupu si zase auto přivoláte až ke dveřím a v klidu si naložíte nákup.
Aplikace má ale jednu zvláštnost: Během celého procesu musíte držet tlačítko funkce, pokud ho pustíte, proces se ihned zastaví. Zatím jste za své auto zodpovědní vy, protože vy držíte tlačítko. Musíte auto sledovat a v případě potíží prst pustit. U dnešních robotických zabijáků za vypouštění zbraní také zodpovídá operátor, taky má svoje tlačítko. Robot je zatím na pomyslném vodítku, je autonomní, ale pořád je zodpovědnost za jeho počínání na vás.
Malí roboti, jako jsou automatické vysavače, už ale takové tlačítko nemají. Ani pokročilé kamerové drony ne. V případě, že se něco pokazí, se musí rozhodnout samy: Vrátí se do nabíječky anebo doletí na místo, odkud vystartovaly. Zatím dovolujeme svobodu jenom malým a lehkým zařízením, na ta těžká, která mohou způsobit katastrofu, stále dohlíží člověk.
Moment, kdy i velká zařízení přijdou o kontrolní tlačítko, bude možná významnější moment v dějinách robotiky, než je dosažení singularity. Singularita vede k vytvoření stroje, který je chytrý asi jako chlápek, co sedí vedle vás. Autonomní robotický mozek, který řídí sám mnohatunový náklaďák, je potenciálně mnohem nebezpečnější. A moment, kdy se takové stroje objeví, je na rozdíl od singularity už doslova za dveřmi...
