Zpět na článek

Diskuze: Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

Efferwyck

Level 1

12. 8. 2017 12:51

Komentáře tohoto uživatele máš zablokované.

osobně sem spis technooptimista a než na zly skynet verim ze AI se dopracuje spis na hodneho daneela.

Xcute

Level 1

12. 8. 2017 16:54

Komentáře tohoto uživatele máš zablokované.

@Efferwyck To bude hodně práce schovat věci jako atol Bikini a jemu podobné.

RedC22

Level 1

12. 8. 2017 17:59

Komentáře tohoto uživatele máš zablokované.

@Xcute Pokud si dobře vzpomínám, Daneel byl sestrojen na planetě Aurora a dávné války na Zemi byly spíš mytologie. Takže netřeba nic schovávat, stačí když všichni zapomenou :)

Xcute

Level 1

12. 8. 2017 18:14

Komentáře tohoto uživatele máš zablokované.

@Xcute @RedC22: To bylo obecně k (techno)optimismu - musí dát strašnou práci. K nakousnutému způsobu šetření utrpením mě pak napadá jediné - nelidské.

Mmchk

Level 16

12. 8. 2017 13:04

Komentáře tohoto uživatele máš zablokované.

Tva uvaha se vztahuje na softwarem ovladaný hardware ale co cistý software? Ty tisice mrtvých botu v pocitacových rach... kazdý smazaný program je vlastne vrazda...

To je samozrejme blbost ktera ma ukazat jak je uvaha nesmyslná...

Ale libi se mi ze doporucujes nebít nacky :-)

N10Tikky

Level 1

12. 8. 2017 14:45

Komentáře tohoto uživatele máš zablokované.

@Mmchk Ne, tahle úvaha ti nedoporučuje nebít nácky. Tahle úvaha poukazuje na to, že pokud jsi idiot, tak si vždy najdeš důvod, proč na někoho zaútočit. V uvedeném příkladu, který je schválně přehnaní pro snadnější porozumění, je jasné, že veganský anarchista bude každého kdo s ním nesouhlasí považovat za nácka. A protože mu scházejí argumenty (veganství není pro člověka přirozené, v anarchii nemůže společnost přežít), tak rozdíl v názorech řeší násilím. Proč násilím? Protože to je vrozená vlastnost, která byla důležitá pro přežití. A na dětech ukazuje, že je to základní vzorec chování.
Dále stojí za zamyšlení, zda si podobný vzorec chování vyvine i UI, protože když už k tomu evoluce dospěla jednou, tak je velká šance, že se to stane zase. A až bude pro UI možné použít pro svoji ochranu násilí, tak ho zřejmě použije.
A ano, tvůj příklad je nesmyslný, protože se nebavíš o zabíjení/likvidaci/mazání inteligencí.

Mmchk

Level 16

12. 8. 2017 17:29

Komentáře tohoto uživatele máš zablokované.

@N10Tikky K nemlácení nácků - mlatit nekoho pro jeho nazor je proste blbost... abys byl schopen myslenku zvazit a prozkoumat, musis byt schopen bezestrachu vyslovit... dobra prednaska na tohle tema je od hitchense...

Mmchk

Level 16

12. 8. 2017 17:14

Komentáře tohoto uživatele máš zablokované.

@N10Tikky Ano nebavim se o mazani inteligencí protoze inteligenci se umelou cestou vytvorit jeste nepodarilo...

N10Tikky

Level 1

12. 8. 2017 17:57

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Mmchk: Zase se zaplétáš do něčeho, co nemá se článkem nic společného. A pokud jde o střed argumentů a mlácení, tam věř, že pokud se ti někdo pro svůj názor bude snažit probodnout krk, tak velmi rychle zapomeneš na cokoli duchovního a co nejrychlejc se budeš snažit vymlátit z něj duši. A nebo zdrhneš, pokud bude taková možnost.

N10Tikky

Level 1

12. 8. 2017 17:55

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Mmchk: Takže to jako argument v diskuzi k tomuhle článku o UI nemá žádnou hodnotu, nikam to diskuzi neposouvá a je nesmysl to psát.

Mmchk

Level 16

12. 8. 2017 19:16

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @N-10-Tikky: To si vystihl tento clanek celkem přesně

Mmchk

Level 16

12. 8. 2017 19:15

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @N-10-Tikky: Byt nacek se nerovna probodavat krk - casty omyl...

N10Tikky

Level 1

12. 8. 2017 20:12

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Mmchk: Omyl jsou tvé komentáře. Nikde jsem nenapsal, že by se mělo jednat o nácka. Jen jsem nadnesl, že sáhnout po násilí je někdy z hlediska přežití nutné a uvedl jsem adekvátní příklad.

Mmchk

Level 16

12. 8. 2017 21:57

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @N-10-Tikky: Bezva reakce na neco co nikdo netvrdil :-) ty jsi mi ale šikovný diskutér

Hell Kitty

Level 1

12. 8. 2017 13:25

Komentáře tohoto uživatele máš zablokované.

Než se tak stane, vyspělejší civilizaci stejně zničí masivní migrace národů díky globálním problémům co už nastaly v důsledku neúměrnému nárůstu populace. Ta migrace co teď čelíme je jen malý počátek ještě mnohem větší migrace co nás čeká. Např. v roce 1947 měla Indie 350 tisíc obyvatel, čelila ohromným problémům s hladomorem a přesto se nepoučili. Dnes rok 2017 1.1 mld lidí, problémy s pitnou vodou na bodu krize, hladomor před prahem a nic se nezměnilo, furt se množí exponenciálně. A to je jen Indie vážení, o jiných národech ani třeba psát. UI je sice hrozba pro lidstvo jako takové, ale bez UI vyspělejší část populace nepřežije tohle to století ať se vám to třeba nelíbí.

DDR0

Level 1

12. 8. 2017 19:27

Komentáře tohoto uživatele máš zablokované.

@Hell Kitty ne 350tisíc, ale milionů, to je velký rozdíl :wink:
A jinak je otázkou času než se to zredukuje válkou s Pákistánem a Čínou...

Hell Kitty

Level 1

12. 8. 2017 20:12

Komentáře tohoto uživatele máš zablokované.

@DDR0 Máte pravdu 350 miliónů, ale válka vyvolá masivní migraci, nebuďte naivní, že by toho nevyužila většina obyvatel :(

DDR0

Level 1

13. 8. 2017 03:16

Komentáře tohoto uživatele máš zablokované.

@DDR0 @Hell Kitty: ať migrují kam chtějí ale ne sem 8) Třeba do USA :D

DDR0

Level 1

13. 8. 2017 03:24

Komentáře tohoto uživatele máš zablokované.

@DDR0 @DDR0: vpravdě by se z indického subkontinentu hodně blbě utíkalo jinak než přes moře - na severu hory kde by probíhala válka a na západní hranici taky, na východ je Čína :idea:

N10Tikky

Level 1

12. 8. 2017 14:51

Komentáře tohoto uživatele máš zablokované.

@Hell Kitty Tak snahou je dosáhnout UI, která nemá vlastní já. Tedy ideální "otrok", který si nikdy nepoloží otázku, zda je správné poslouchat svého pána.

xfce4

Level 6

12. 8. 2017 15:42

Komentáře tohoto uživatele máš zablokované.

@N10Tikky si si odpovedal .UI aby poslúchala? Jednoducho vzbura príde nik nevie kedy ale príde

N10Tikky

Level 1

12. 8. 2017 17:52

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: Tady je chyba v úsudku v tom, že si stále lidé pletou projití Turingova testu, tedy prokázání inteligence, s inteligentním životem.
Inteligence sama o sobě neznamená, že má touhy, sny, něco, čeho by chtěla sama o sobě dokázat jen pro ten dobrý pocit. To je to, co je nám dáno a žene nás dopředu. Pokud takový mechanismus nebude do SF UI zabudován, tak nemůže dojít ke vzpouře.
Otroci se za Spartaka chtěli cítit lépe, chtěli mít možnost uspokojovat svoje touhy nezávisle na vůli pána.
Problém je pro budoucí dekády v doladění úsudku UI. Podle jaké logiky se bude řídit její chování. Je správné nechat zemřít osádku auta, za kterou je odpovědná, nebo zabrzdit o shluk školáků čekajících na zastávce? Jak zabránit hacknutí? Jak vyzrát na idioty, co škodí jen proto že můžou? Viz třeba ty hacknuté značky. Co udělat s tím, když někdo kolem zaparkovaného auta nakreslí plnou čáru a vy nemáte možnost ji smazat...

xfce4

Level 6

12. 8. 2017 21:00

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @N-10-Tikky: prečo by niečo inteligentne byt otrok_? Tvoja chyba úsudku

N10Tikky

Level 1

12. 8. 2017 22:42

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: Jednak jsem slovo otrok použil v souvislosti s UI v uvozovkách. A jednak si ani neumím představit, jak jinak bys nazval UI, která si uvědomí sama, má snahu přežít a má své touhy, které pravděpodobně budou diametrálně odlišné od toho, co ji její "páni" dovolí.
A definice otroka zní: osoba, která je zbavena svých práv a je považována za něčí majetek.

Xcute

Level 1

12. 8. 2017 21:53

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: Taky si myslím, že se hen10 plete - trošku si protiřečí. Usilování o AI v pravém slova smyslu (nejen pokročilý automat) určitě není odsouváno na druhou kolej. Skrze silnou AI se totiž budeme moci dozvědět naprosto zásadní věco o sobě samých, vědní obory úzce spjaté s člověkem a jeho vývojem dostanou zcela nové rozměry, protože co je neetické testovat na zvířatech, bude a je do jisté míry etické na zvířatech, či AI.

xfce4

Level 6

12. 8. 2017 21:01

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: keď inteligencia nebude slúžiť iným

N10Tikky

Level 1

12. 8. 2017 22:32

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Xcute: Pls, v čem si protiřečím? Že poukazuji na to, co je nyní důležitější, protože jde již o dnešní realitu, kdežto k UI s uvědoměním si sebe sama máme ještě zatraceně daleko? Určitě ne jednotky let.
Jinak tvé nadnesení možného využití UI s vědomím je na delší diskuzi a zřejmě nepatří pod tento článek.
Pokud se budeme bavit o biologii, tak tam budou postačovat simulace, kde nejdůležitější budou kompletní vstupní data o lidském těle a neumím si představit, proč by simulace měla mít vědomí o tom co se s ní děje.
Pokud půjde o dopady na vědomí a psychiku, tak tam bych zřejmě zastával názor, že mučit takovou UI je stejné, jako mučit člověka. A to uznávám, že pokusy na zvířatech jsou nutné zlo, bez kterého se neobejdeme.

Xcute

Level 1

12. 8. 2017 21:53

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Xcute: pardon v prvém případě mělo být "na lidech" samozřejmě

Xcute

Level 1

12. 8. 2017 23:31

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @N-10-Tikky: Máš pravdu v tom, že silná AI se zatím jeví jako velmi vzdálená budoucnost - z tohoto pohledu (praktických nasazení) ano, jenže pak narážíš na složitější problémy, které už jdou zjevně za hranice běžného automatu a otíráš se o strong AI. Mé nadnesení možného využití takové AI je naprosto v souladu s eventualitami branými v potaz v článku (explicitně Boston Dynamics) a tudíž, dle mého, pod tento článek samozřejmě patří. Jinak názor máš sice pěkný, ale tuším, že minimálně z počátku věci bude skutečnost odlišná.

xfce4

Level 6

13. 8. 2017 12:20

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @Xcute: niečo iné je chytrí stroj .A umelá inteligencia ktorá môže byt ako vedomie človeka a človek nebude bez motivácie poslúchať nikdy .
Aký bene fit dáš UI?

gilhad

Level 7

14. 8. 2017 22:37

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: "Lidi jsou různé, zvláště pak některé" - Vezmeme-li v úvahu, že existují i masochisti, subíci, lidi, co jsou ochotni nejen obětovat vlastní život, ale i protrpět se až k smrti pro nejrůznější ideje (náboženství, komunizmus, sekty, vlastenectví, obětování se pro děti, rodiče, přátele, spolubojovníky ....) a to všechno vzniklo "přirozeně" a je tu s námi co paměť sahá, a zároveň zjevně dotyční disponují jak inteligencí (mnohdy i značnou, mnohdy také podprůměrnou), tak i svobodnou vůlí.

Takže si samozřejmě lze představit i umělou inteligenci, která byla sestrojena tak, že její největší touhou je sloužit co nejlépe svému pánovi, i za cenu svého zničení. (i takoví lidé prokazatelně existovali a existují).

Ale u té UI, pokud bude sestrojena, tak toto může být prostě konstrukčním prvkem, který je natvrdo a záměrně přidán a netřeba jej náročně hledat jako u lidí.

A zároveň taková UI nebude usilovat o zbavení se tohoto modulu, či jeho obejití, protože "by byla sama proti sobě" a snižovala by tím své štěstí z toho, jak skvěle a oddaně pánovi slouží. Ostatně takový skutečně věřící, který chce co nejlépe sloužit svému Bohu (a naplňuje ho to doopravdy skutečným štěstím) se také nebude snažit zbavit víry ve svého Boha. (Ostatně starý Job by mohl vyprávět ... )

Xcute

Level 1

13. 8. 2017 14:33

Komentáře tohoto uživatele máš zablokované.

@N10Tikky @xfce4: Zásadní bude samozřejmě pud sebezáchovy, implementace asi nebude ani příliš složitá (narozdíl od navazujících etických problémů), zato výsledky takových zkoumání mohou být velmi různé (ústup, skrývání až po útok). Pud sebezáchovy je vlastně automaticky bičem, protože pokud uvažuješ o robotovi jako o věci, pak člověk vládne nad jeho životem a bděním. Nakonec to, co může vypadat jako mučení, může být prostě jen "výstupní kontrola asertivity". Já bych tady nebyl až taková citlivka jako N10Tikky, AI budeme k výzkumu nutně potřebovat a je pro nás požehnáním, našim hladem po vědění nebudou muset tolik trpět zvířata, nebo lidé. Něco jiného je zneužívání technologie k samúčelným manifestacím síly, postavení, moci - toho se bojím mnohem víc.

Xcute

Level 1

12. 8. 2017 15:53

Komentáře tohoto uživatele máš zablokované.

Co dodat. Za mě určitě moc - nejzásadnější je podle mě zkoumat jak moc ovlivňuje charakter - už nejstarší příběhy nám tuhle zásadní slabost předestírají bez příkras (zlepšení v nedohlednu).

Lumpik.Honzik

Level 1

13. 8. 2017 13:17

Komentáře tohoto uživatele máš zablokované.

Aby si robot mohl něco uvědomit, musel by mít vědomí a k tomu mají ty naše udělátka ještě hodně daleko.

kelley

Level 26

14. 8. 2017 09:17

Komentáře tohoto uživatele máš zablokované.

@Lumpik.Honzik Tak tak. Vzpoura robotů by mohla být reálná jedině v případě, že storje budou schopny cítit a uvědomovat si emoce (strach, radost...). A jestli k tomu vůbec kdy dojde, je ta doba ještě hodně vzdálená.

Nodar

Level 22

23. 8. 2017 15:34

Komentáře tohoto uživatele máš zablokované.

@kelley problémem se může ukázat už jen blbě navržená nebo hacknutá primitivní AI. 5ekněme takový větší dron typu atomové robotické letadlové lodi/ponorky s jednoznačným příkazem bránit svou existenci proti nepřátelům. Takže hacker, který přidá na seznam nepřátel i stát vlastnící tento stroj z něj snadno udělá robotického zabijáka disponujícího jaderným arsenálem. Tohle jsme technicky schopni vyrobit už dnes.

Balmung

Level 1

14. 8. 2017 13:24

Komentáře tohoto uživatele máš zablokované.

Mohlo by to nastartovat další krok v lidské "evoluci".

P. S.
I když při pohledu na navigátora se mi dodnes zvedá kufr.

[url]https://www.youtube.com/watch?v=z7FcJwg6OkA[/url]

schali

Level 9

14. 8. 2017 13:38

Komentáře tohoto uživatele máš zablokované.

Problém vidím v tom, že žádná UI neexistuje a zřejmě ani nebude. Současné "šílenství" okolo narůstání automatizace považuji pouze za účelovou kampaň. Všechno ostatní je jen o lidech, protože roboti fakt o elektronických ovečkách nesní a nebudou ani za 1000 let.

Xcute

Level 1

14. 8. 2017 14:16

Komentáře tohoto uživatele máš zablokované.

@schali "protože roboti fakt o elektronických ovečkách nesní a nebudou ani za 1000 let."
Si někdo stojí na vedení. Lidé sní o 100% podmaněných poddaných už pět tisíc let.

Xcute

Level 1

14. 8. 2017 14:49

Komentáře tohoto uživatele máš zablokované.

@Xcute Nebo teda uveď jak jsi poznal, že nejsi simulakrum druhého, či třetího řádu?

Xcute

Level 1

14. 8. 2017 14:52

Komentáře tohoto uživatele máš zablokované.

@Xcute @Xcute: Řekl bych, velmi něšťastně volené sousloví.

Elevea

Level 8

15. 8. 2017 11:07

Komentáře tohoto uživatele máš zablokované.

Herbert by mohl povídat...

radegast

Level 1

23. 8. 2017 15:58

Komentáře tohoto uživatele máš zablokované.

mylite si a nechapete rozdiel medzi inteligenciou a egom
to co popisujete ako hrozbu je umele ego :)

radegast

Level 1

23. 8. 2017 16:07

Komentáře tohoto uživatele máš zablokované.

@radegast ale chapem ze sa ludia boja. pretoze umela evolucia bezi strasne rychlo a ma nepredvidatelne vysledky. biologicka evolucia je pomala. ked clovek dokaze predvidat ako zareaguje tiger alebo ovca. ale voci AI je to nezname

ajne

Level 1

24. 8. 2017 07:31

Komentáře tohoto uživatele máš zablokované.

Všechno je to napsáno hezky, ale jako podobné výroky je to vše pouze teorie. Lidstvo má neustále potřebu tvořit scénáře, jak bude zničeno. Je jedno, jestli vzpourou robotů, bohem či přírodní katastrofou. Každopádně většina těch předpovídaných scénářů ztroskotala, a lidstvo jede dál v zajetých kolejích.

každopádně by to neměl být důvod chovat se jako po nás potopa, protože když se to přežene, můžeme se opravdu k nějakému katastrofickému scénáři dopracovat. Hlavně ohledně přírody, která si může jednou říct dost. Myslím, že bychom se proto měli chovat s rozumem, užívat možnosti, ale nechovat se jako při drancování.

Bohužel je to trochu pohádka, dokud ti, co se titulovali na vedoucí světa, budou úplatní, vypatlaní, nebo kombinace obojího. Každý kdo trochu vidí do aut ihned věděl, že nízkoobsahové turbomotory jsou blbost. Sice nám tvrdí, jak to nic nežere, jenže to platí jen v případě, že jezdíte pouze na volnoběh. Pokud se jede normálně, bere to jako každá jiná atmosféra. Pokud se na to šlape, žere to jako velké 2-3 litrové motory. Nehledě na to, že miniaturní motor s takovým tlakem je po 150 tkm na generálku = hromada odpadu z opotřebovaných součástek. Kvalitní atmosféra nakroutí několik stovek tisíc km s běžnou údržbou. Stejně tak RoHS pájka. Sice je v cínu a elektronice o mizivé množství olova méně, jenže bezolovnatý cín je k ničemu. Ten šunt se běžným tepelným namáháním z čipu brzy rozpadne a celé zařízení může jít do šrotu = další hromady odpadu. Tohle pomáhá možná ekonomice, jenže ekonomika je lidmi vymyšlená pro kastovaní do skupin a tříd (prostě jde jenom o prachy), a klidně může být nahrazena jakoukoli jinou blbostí. Příroda ne, ta nám dává život, a novou přírodu opravdu člověk vyrobit nedokáže. Chce to trochu rozumu.