Google, Apple, Facebook, Amazon: Příliš velcí pro dobro?
Seznam kapitol
Bylo nebylo, jedna velká počítačová firma tvrdila, že nechce konat zlo – a měla to dokonce jako motto. A rostla a rostla, až zjistila, že tohle pravidlo přerostla. A tak ho odstranila. Jenomže svět si toho rychle všimnul – a tak je skandál na světě.
S tím, jak se firmy zvětšují, začínají dělat věci, které možná původně dělat neplánovaly. Tak například já jsem přesvědčen, že když se Sergej Brin a Larry Page pustili do světa výpočetní techniky, neplánovali dělat podporu automatizace války. A přesto se ukázalo, že Google spolupracuje na Project Maven, což je technologie pro strojovou analýzu obrazu z dronů. Není to autonomní inteligence na řízení dronů, ale je to významný milník po cestě.
Když někteří zaměstnanci a vývojáři Google zjistili, na čem to vlastně pracují, tak raději rezignovali. V reakci na negativní kritiku se nakonec CEO cloudových služeb Diana Greene rozhodla nepokračovat tímto směrem a další podobné zakázky odmítnout. Mělo jít o poměrně neškodnou spolupráci, která byla navíc zahájena v době, kdy vedení Googlu podobné úkoly nejenže nevadily, ale připadaly jim jako zajímavá cesta k vládním programům.
Gizmodo uvádí, že uniklé emaily naznačují, že Google přinejmenším zvažoval spolupráci s Ministerstvem obrany USA, která by se týkala strojového učení a vyvíjení technologií, které by dovolovaly monitorování celých měst. Intenzivní spolupráce byla tehdy vedením vnímána jako výnosná činnost, která ovšem vyžadovala vyšší stupeň autorizace pro práce s utajovanými daty FedRAMP čtvrté a páté úrovně. Google nakonec dočasnou autorizaci FedRAMP 4 získal. Vyšší stupeň bezpečnostní autorizace dovolil Google soutěžit v zakázkách nabídek cloudových služeb v objemu až 10 miliard USD.
Podle uniklých emailů ministerstvo projevilo zájem o služby Google Cloud Platform a Google Machine Learning. Je celkem pochopitelné, že možnost škálovat potřebný výpočetní výkon pro rychlé zpracování obrazu, která se podle bezpečnostní situace může velmi rychle měnit, představuje výborný příklad pro cloudové aplikace. Když je klid, nemusíte držet v pohotovosti svůj hardware. Když se něco stane a vaše nároky na zpracování dat prudce narostou, prostě si prioritně najmete cloud a tím máte efektivně dostupnou latentní výpočetní kapacitu.
Podle Gizmoda byla spolupráce úspěšná a vylepšený systém dokázal na snímcích detekovat například i vozidla, která lidé přehlédli. Někteří vědci nepřistupovali k projektu negativně, viděli ho spíše jako analytický úkol, přesto i oni vyjadřovali obavy z toho, co se stane, až se existence projektu provalí. Což se nakonec stalo, takže firma vydala prohlášení, že nebudou vyvíjet zbraně založené na umělé inteligenci a budou se podílet pouze na vývoji „neútočných technologií“, pod což spadá i výše uvedená analýza obrazu.
Chování Google je logické. Státní zakázky jsou zajímavé a zvláště ty, které se týkají obrany, jsou velmi výnosné. Proč je nechat konkurenci? Smyslem Google je vydělat peníze a za ně si koupit lepší odborníky a lepší startupy, které posílí jejich dominanci. Smyslem korporace je vydělat peníze, ne zachraňovat lidské duše.
A takhle se chovají všechny velké IT korporace. Každá z pětice velkých firem dělá něco problematického – Facebook vysává a monetizuje data, Google rovněž, Amazon expanduje jako o život i za cenu nulových výnosů, Apple se snaží vyškrabat poslední stodolarovku z kapes klientů a Microsoft jim vše tiše závidí a chtěl by to taky. Vsadím se, že těžce litují, že je ta věc s nemožností instalovat software mimo oficiální obchod, nenapadla jako první.
Komentáře naleznete na konci poslední kapitoly.
