Betatest umělé inteligence na lidech běží naplno
Seznam kapitol
Ať už si o současné AI myslíte cokoliv, faktem zůstává, že jednou se populační betatest udělat musí. Nejde jen o to, jak ji lidé využívají, ale na co ji využívat chtějí. A to, že se pro betatest používá hlavně kecací a malovací AI, vlastně znamená, že na betatest jdeme od správného konce.
Google před nedávnem opustil laureát Turingovy ceny, profesor Geoffrey Hinton, který se zabývá otázkami umělé inteligence – a hned se objevila vlna strašení s tím, že prý lituje svých životních úspěchů. No, je mu 75 let a byl součástí týmu, který se v poslední době úplně neocitl na výsluní, takže si možná řekl, že je čas nechat to na mladších: Pětasedmdesát je totiž velmi pokročilý věk, zvláště v oblasti, kde se říká, že buď uděláte průlom do třicítky, anebo jste vyřízení.
To, co Hinton zmiňoval, jsou hlavně jeho obavy z toho, že jsme se ocitli na začátku exponenciály, což je bod, do kterého bychom se dříve anebo později dostali. „Podívejte se, kde jsme byli před pěti lety a kde jsme dnes. Pak si to interpolujte do budoucnosti. To vypadá strašidelně.“ ("Look at how it was five years ago and how it is now. Take the difference and propagate it forwards. That's scary.") Plus, samozřejmě, možnosti zneužití AI, což je věc, kterou si děláme my sami.
Mnoho vědců ze starší generace vyslovuje obavy, které se týkají dynamiky růstu AI – a obávají se, že se vymkne kontrole. Navrhují killswitche, testy v omezeném prostředí a takové věci, ale pravda je taková, že my prostě musíme testovat AI na skutečných lidech, přesněji řečeno musíme zkoumat, jak vypadá interakce běžné populace a umělé inteligence.
Nejde ani tak o to, že by současná generace umělé inteligence měla schopnosti nějak nás obelstít, protože se současné modely používají v režimu supervidovaného učení, tedy inteligence se zatím od lidí sama neučí. To, co potřebujeme otestovat, je interakce mezi umělou inteligencí a populací: Jak budou lidé na nástup AI reagovat, co zlého si na ni vymyslí, jaké aplikace začnou vyvíjet velké firmy a k čemu ji zneužijí hackeři. Je to nevyhnutelné, lidé jsou různí a my musíme vědět, jak ta interakce bude reálně vypadat.
A je vždy lepší, když se začne od AI, která si s vámi povídá anebo maluje, než od AI, která ovládá robota, řídí auto – anebo, nedejbože, nám přeskočí v palici jako ve filmech Colossus: The Forbin Project (1970) či Wargames (1983) a dáme jí do rukou rovnou klíče od našich nejmocnějších zbraní. Celý děj těchto katastrofických filmů totiž vychází z premisy, že právě tohle se stalo a že jsme začali, bůhvíproč, s nástupem umělé inteligence přímo od naší vlastní destrukce.
Komentáře naleznete na konci poslední kapitoly.
