Úvaha: (Nejen) technologie nás ženou do totality | Kapitola 6
Seznam kapitol
Jedno tvrzení říká, že každá technologie, která může být zneužita, taky zneužita bude. Scifi dystopie jsou v mnohem prorocké – v roce 1907 napsal H. G. Wells „Válku ve vzduchu“, která se za deset let stala surovou realitou. Z jakéhosi důvodu se ale zdá, že nejsme schopni sejít z cesty, kterou před nás podobní autoři s předstihem kreslí.
Ten, kdo vidí Ameriku, která mílovými kroky chvátá za vojenským letectvem bez pilotů a horou specializovaných robotů v první linii, se musí podivovat nad tím, zda jde vážně o zemi, ve které natočili sérii filmů o Terminátorech. Třetí díl filmové série je totiž až nepříjemně blízko realitě. Buď jak buď, americká armáda, tajné služby a částečně i civilisté jsou nadšení z vojenských robotů, které vydrží vegetovat ve vzduchu deset hodit a trpělivě čekat na to, až Al-Džihád dokouří ve své jeskyni šíšu a vyleze se protáhnout ven na vzduch.
Etika použití dronů má řadu nezávislých otázek. Jednou z poměrně častých, ale v podstatě iracionálních, je to, zda je použití dronů „fér“. Rozumíte, sedíte si v řídící centrále pět tisíc kilometrů od cílové oblasti a sledujete na monitoru bojovníky, kteří si pucují kvéry. Zmáčknete tlačítko a oni umřou. Na druhou stranu vám oni nemůžou udělat nic, maximálně dokážou sestřelit drone, což způsobí jenom materiální škodu. Řada lidí to považuje za „nefér“, v jejich vidění světa je třeba vést válku rytířsky, téměř v duchu samurajských či rytířských soubojů, kde se nejprve protivníkovu představíte a pak se, ideálně za co nejvyrovnanějších podmínek, pustíte do duelu. Tohle vidění je humanistické, spíše evropské a je šíleně naivní. Tento způsob válčení historicky využívaly poměrně stabilní společnosti, které si udržovaly profesionální armády a kde hrála svoji roli pověst soupeřů. V podstatě pak šlo o jakousi verzi gladiátorského či sportovního zápasu, kde se měly ztráty omezit.
V moderní válce to takhle nefunguje a nefungovalo to vlastně v žádném konfliktu, kde jedna strana tu druhou eliminovala nějakou technickou předností. Luk překonal zbroj, puška překonala luk a tak dále. Moderní války jsou dnes převážně asymetrické a armády se používají způsobem, na který nejsou navržené, jako je policejní služba. Ta značně zvýhodňuje útočníky: Vy jako voják patrolujete v uniformě, kolem jsou jenom civilisté, najednou někteří z nich začnou střílet a vzápětí zmizí v davu. Alkajdisté neváhají jako „platformu pro dopravu výbušnin“ využít ženy, děti a mentálně postižené, zatímco normální voják je svázaný spoustou pravidel. Asymetrická válka není založena na velkých bojových akcích, ale na pomalé psychologické erozi, která dokáže rozleptat morálku i v armádě, která se moc neohlíží na oběti. Takhle to fungovalo ve Vietnamu a i v ruské invazi do Afghánistánu.
A ideální protizbraní je dron. Dron si někde létá, velení se o průběhu akce radí v klimatizované místnosti s kávou a vodou Evian, je možné cíl trpělivě sledovat, analyzovat různými senzory, ověřovat jeho identitu a počkat si, až se dostane na vhodné místo, kde ho můžete rozmáznout při minimálních obětech z řad civilistů. Ať si kritici říkají co chtějí, Američanům se podařilo snížit v posledních dvou letech počet civilních obětí ze 20% na 5% a to je rozhodně úspěch. To s normálním vojákem děláte o poznání hůře, navíc mu stále hrozí odhalení a zabití / zajetí, což je spojeno s nepříjemnými propagandistickými dopady. Když dav ubije a upálí vojáka, je to mnohem nepříjemnější kauza, než když vám rozbijí hračku – pořídíte si prostě novou. Otřesné scény z válek minulého století, kdy jsou zajatí vojáci zohavováni a jejich lebky nabodávány na kůl, byly nahrazeny jen mírně zneklidňujícími scénami z řídících středisek, kde operátor může jíst pizzu, pít Colu a přitom likvidovat nepřítele stejně lehce, jako když hraje nějaký simulátor. Je to nefér, ale funguje to – určitě je to dobrý prostředek pro asymetrickou válku.
Více zneklidňující je fakt, že drony využívají tajné služby pro své operace – jak pro „black ops“, kdy likvidují lidi v zemích, se kterými formálně nejsou ve válce, ale i k běžnější činnosti, jako je špionáž. Malí roboti můžou špehovat, můžou k někomu zajít domů a zabít ho. S tím, jak se tyto technologie zlevňují, budou stále více dostupné pro země, které je dokážou snadno replikovat (Čína) a také budou dostupné i pro soukromé korporace. Dnes je dálkově řízené autíčko zábavné, ale je jenom otázkou času, až ponese nálož, se kterou budete moci zničit cíl a přitom vás přijde na černém trhu tak na 300 dolarů. Atentátník bude sedět v kavárně, „číst si v mobilu“ a přitom navádět robota o ulici dál na cíl. Je jenom otázkou času, až se v centru měst budou lidé rozprchávat před letícím či jedoucím robotkem-kamikadze, na který bude ze všech sil střílet ochranka v pokusu ho zastavit.
Daleko největší problém je ale otázka, zda se drone stane plnohodnotným robotem a dáme mu možnost samostatně se rozhodovat. Z mnoha důvodů je to logický krok – komunikační kanál bude rušený a nebo nebude smět být kvůli riziku zaměření aktivní. Hacking bude tak rozšířený, že drony prostě nepůjde řídit dálkově. Komunikační satelity budou oslepené a nebo zničené. Robot, kterému „dáte cíl, který má vyhledat a zničit“, je v takové situaci logické řešení. Mnoho současných zbraní tak funguje už dneska – raketu odpálíte do oblasti, kde se nachází nepřátelské lodě, ona tam doletí, vybere si cíl a zasáhne ho. Jistá autonomie už v tom je.
Jenomže právě tenhle krok poruší první Asimovův zákon robotiky: „Robot nesmí ublížit člověku, nebo svou nečinností dopustit, aby člověku bylo ublíženo.“ První krok k oslabení tohoto pravidla je „boj jen mezi roboty“, například dogfight mezi robotickými stíhači. Další krok bude úder na „převážně robotické cíle“, jako jsou vysoce automatizované lodi s minimem posádky. A v tu chvíli jsme za hranicí.
A nebo se na to rovnou vykašleme a pošleme roboty zabíjet cokoliv, co se jim zlíbí. Omyl je přece normální. Ostatně často kritizované „střílení afghánských civilistů z ruských helikoptér“ se nezřídka týkalo čističů bavlny, kteří nosili nástroje, které pilotům připomínaly těžké kulomety.
Když si splete čističe bavlny s kulometčíkem profesionální pilot, kdo může vinit robota, že se spletl? Kdo může vinit robota, že sestřelil civilní Mi-8, který vypadá prakticky stejně, jako vojenský transportní Mi-8? Kdo nese zodpovědnost za civilní ztráty?Programátor umělé inteligence? Voják, který o misi rozhodl? Politik, který použití takových zbraní schválil?
Komentáře naleznete na konci poslední kapitoly.
