Velikost výběhu pro umělou inteligenci: Jaké informace tajit před adaptivní AI? | Kapitola 4
Seznam kapitol
Dnešní modely, jako je GPT-4, patří mezi moderované, tedy ty, které se učí na vybraných datasetech – a v druhém kroku se ještě navíc vyhodnocují lidmi, aby se nám jejich výstupy líbily víc. Panují velké obavy o to, co se stane, když se AI dostane k neomezeným znalostem, ze kterých si sama může vyvodit všelicos.
Pokud se zajímáte o otázky AI bezpečnosti, doporučím vám starší, ale velmi zajímavé video „10 Reasons to Ignore AI Safety“, které je založeno na tezích profesora Stuarta Russela popsaných v knize „Human compatible“.
Z videa plyne jedna zajímavá věc: Na bezpečnost AI se stále díváme hlavně z racionálního hlediska, hledáme díry. Chybí nám tam internetoví trollové, kteří se to pokusí instantně podkopat, hackeři, kteří se to pokusí zneužít a vojáci, kteří to budou chtít naverbovat. A taky nám tam chybí pohled lidí, kteří technologiím nerozumí a neví o nich skoro nic.
Ten je přitom rozhodující, protože takových lidí bude většina. Před mnoha a mnoha lety, když jsem byl ještě na gymnáziu, jsem si dělal průzkum, jak by se k autonomním agentům chovali kluci a jak holky – zda tam je rozdíl. A rozdíl tam byl: Zatímco kluci měli o podobné věci větší zájem a chtěli by je, zároveň jim odmítali uznat status samostatné bytosti. Holky se naopak stavěly k takovým strojům velmi podezřívavě, ale na druhou stranu by jim ten status daly. Zkrátka a dobře: Přišlo jim to divné, ale byly ochotné to snáz integrovat do svých životů, což je možná důležité.
Je více méně jasné, že zpočátku nemůžeme AI pustit úplně ke všemu, ale je taky prakticky úplně jasné, že to dřív anebo později necháme studovat Mein Kampf anebo Trockého knihy. To se stane. Ale předtím, než se to stane, by měl existovat nějaký rámec, ve kterém AI bude schopná rozeznat naše základní civilizační hodnoty a informace bude klasifikovat podle nich: Například že když vás naštve prezident, stále to není důvod pro to, abyste za trest odpálili jadernou raketu – že tohle není jenom volovina, že tohle se prostě dělat nesmí.
