To jsou paradoxy! Ty největší rozpory ve světě moderní IT | Kapitola 2
Seznam kapitol
Žijeme v době, kdy se nám budoucnost předvádí v mnoha formách, které se, bohužel, navzájem logicky vylučují. Klasickým příkladem je představa některých politiků, že můžeme mít bezpečné systémy, ale toto zabezpečení bude pro bezpečnostní služby transparentní. To ovšem není zdaleka jediný paradox, se kterým se můžeme potkat
Big data versus soukromí
GDPR nepřímo koliduje s konceptem big data a data miningu. GDPR se snaží minimalizovat sběr soukromých dat, zatímco koncept big data je založen na myšlence sběru všech dostupných dat a jejich destilaci do nějaké vhodné podoby. Některé nástroje, jako například Facebook, byly přímo navrženy jako Informační pirát Tlamsa už od začátku. Za to, že máte nástroje zdarma, platíte vlastním soukromím.
Speciálním problémem bude nástup IoT (Internet of Things), které směrem od vás valí velké množství dat. IoT nabízí moře senzorů, které generují data o vašem chování – a z něj se dá o vás vyvodit spousta věcí, spousta zpeněžitelných věcí. Zatím se GDPR točí hlavně kolem ukládání dat a kolem poměrně jednoduché představy o tom, co osobní data jsou, jenomže senzory, které vás celý den sledují, se ve spolupráci s analytickými nástroji stávají zcela samostatným vysavačem, který pracuje, aniž byste o něm byť jen věděli.
Tak například senzory v domácnosti můžou dovolit analýzu počtu jejich členů, sledování jejich zvyků a dokonce můžou jednotlivé uživatele indentifikovat, i když o nich nic navíc nevědí. IoT je o inteligenci komponent, takže je víceméně jasné, že se data sbírat budou. A senzory jsou všude: Váš telefon ví, jak vypadáte, má kvalitní biometrická data nejen o vašem obličeji, ale mí i otisky vašich prstů, má logy o místech, kterými se pohybujete a díky chytrým hodinkám také detailní přehled, kdy a jak se hýbete.
A teď si vezměte, že analýza vašeho chování může být velice netriviální. Na Technetu vyšel článek o tom, jak YouTube analyzuje vaše preference a vybírá vám tipy na další videa.
Naprostou peckou je odkaz na článek o tom, jak YouTube využívá pro analýzu preferencí hluboké neuronové sítě.
A teď si vezměte, že podle GDPR máte právo na to, aby vám firma vysvětlila, co s vašimi daty dělá. To jde v případě použití neuronových sítí pouze přibližně, protože můžete říct, k čemu by síť měla fungovat, ale už to nemůžete detailně popsat, protože to nevíte. Síť se učí sama, můžete měřit její chyby, ale nevíte kauzálně, proč se rozhoduje v tom či v onom případě.
Agregací moře dat a složitých nástrojů vzniká deep knowledge, hluboké a komplexní porozumění problému, jenomže pokud je založeno na autonomním strojovém učení, už nemusí být vysvětlitelné. To znamená, že vaše neuronové sítě sice fungují a umí například správně předvídat, jaký obsah se vám líbí, ale už nelze přesně popsat, jak to dělají. Učením přetaví vaše data do formy, kdy to už technicky jaksi nejsou vaše data – a pokud se agregují, už z agregátu nemusí jít odstranit.
Jo, tohle je legrace.
Komentáře naleznete na konci poslední kapitoly.
