Člověk versus počítač: Kdo drží tlačítko? | Kapitola 6
Seznam kapitol
Část výzkumníků se obává vzestupu počítačové superinteligence. Ve skutečnosti potíže s umělou inteligencí už začaly – a to ne proto, že by AI po benderovsku v noci snila o tom, že „vyvraždí všechny lidi“. Začaly proto, že se její názor na věci občas liší od toho, jak problém vidí lidé, což vede k technickým katastrofám.
Pokročilejší jsou parkovací systémy, které dovolí autu identifikovat vhodný prostor k zaparkování a automaticky zaparkovat. Prostě si vyberete místo, kde chcete zaparkovat a auto manévruje za vás. To je ideální pro řidiče, kteří nemají rádi couvání a manévrování pozpátku, za ně všechno zařídí stroj sám.
Zajímavé přitom je, že jde o systémy se smíšenou kontrolou, zároveň řídí člověk, ale i jeho počítačový asistent. Co přesně má auto dělat, pokud nastane kolize mezi jeho automatickým chováním a tím, co dělá řidič? V minulosti se už několikrát stalo, že došlo k letecké nehodě proto, že došlo k neshodě mezi automatickým systémem řízení a pilotem. Asi nejznámější případ je havárie Aeroflot let 593, kdy pilot posadil k beranům letadla svého syna. Letadlo mělo aktivovaného autopilota a nereagovalo na pohyb kniplem. Pilot ale netušil, že je možné částečně odemknout řízení tak, že se podrží knipl v krajní poloze, takže dojde k tomu, že ačkoliv se letadlo dále řídí autopilotem (a kontrolka autopilota svítí), letadlo zároveň reaguje na knipl. Letadlo přitom nedalo najevo žádné varování, že je částečně mimo automatický režim.
Podobné problémy hrozí pochopitelně i u robotických aut. Jsou situace, kdy autonomní řízení funguje perfektně, jsou situace, kdy řidič vyhodnotí situaci jinak. Auto se například pokusí před překážkou zabrzdit, zatímco řidič ji chce objet. V takovém případě zatím platí pravidlo, že řidič má pravdu a pokud se rozhodne do řízení zasáhnout, musí to automatický systém respektovat. Jak to pozná? Auto například sleduje, jakým způsobem řidič manipuluje s volantem a díky tomu vyhodnotí, zda se něco pokouší dělat anebo ne. Podobná analýza chování se používala i u VW při analýze, zda je auto na měření emisí anebo v normálním provozu.
Moderní auta jsou poloroboti. Většinou dělají to, co se po nich chce, někdy na pokyn automobilky ne. V podstatě jde o sofistikovanou počítačovou síť, na kterou je napojen hardware, jako jsou světla, motor anebo zábavní systém. Případy, kdy bylo auto hacknuto, jsou vzácné, ale objevují se.
Můžeme tedy brzy čekat, že se objeví samostatný obor „car computer security“, protože hackable vozidlo je docela děsivá věc. Navíc inteligence aut neustále roste, samořídící auta, která dokážou absolvovat celou cestu pomocí baterie senzorů, GPS navigace, mapového systému a vlastního vidění jsou skutečně za rohem. A nechcete, aby vám někdo takové auto hacknul.
Komentáře naleznete na konci poslední kapitoly.
