Linux za Sve forum

AMA Linusa na Slashdotu: http://classic.slashdot.org/story/15/06/30/0058243

Malo starije, ima par dobrih pitanja i odgovora.

Q:

Kod: Označi sve

Some computer experts like Marvin Minsky, Larry Page, Ray Kuzweil think A.I. will be a great gift to Mankind. Others like Bill Joy and Elon Musk are fearful of potential danger. Where do you stand, Linus?

A:

Kod: Označi sve

The whole "Singularity" kind of event? Yeah, it's science fiction, and not very good SciFi at that, in my opinion. Unending exponential growth? What drugs are those people on? I mean, really..

^^

Ja mislim da cemo jednog dana imati A.I. I to ce biti najbolja stvar u historiji covjecanstva. Neki govore da ce nas ti roboti ubijati. Ja mislim suprotno, nemaju razloga za to jer ce biti I. A covjecanstvo ce morati prihvatiti da vise nisu najvazniji na Zemlji. Bit ce mnogo bolji od nas u vecini stvari zato ce raditi vecinu stvari. A covjecansto ce moci odmarati

Za to je potrebno kompletno razumjevalje ljudskog mozda i neka nova "infrastruktura", npr. neke od ovih:

src: https://www.youtube.com/watch?v=bm6ScvNygUU

Linus je tu potpuno u pravu kada govori da je to science fiction.

Priča o opasnostima AIja, točnije strong AIja na kakav se obično misli, je najobičnije pretjerivanje jer smo svjetlosnim godinama udaljeni od self-aware umjetne inteligencije, pa čak i od umjetne inteligencije u stilu VI (Virtual Intelligence) sustava iz Mass Effect igara.

Niti znamo kako uopće softverski izgraditi strong AI, a kamoli hardverski u smislu "mobilnih platformi" da se opet pozovem na Mass Effect, odnosno u smislu robota koji mogu imati napredno kretanje, dovoljno jak izvor energije i dovoljno procesorske moći da pogone umjetnu inteligenciju, a sve to u jednom malom kućištu.

Da se razumijemo ja nisam protiv istraživanja umjetne inteligencije, naprotiv mislim da bi razumno korištena mogla biti od velike koristi, na primjer roboti za rad na opasnim mjestima, svemirska istraživanja jer roboti bi mogli sletjeti na Titan i šetati po njemu bez potrebe za hranom, kisikom i odijelima, otporni su i na svemirska zračenja itd. Ali upozoravati da ćemo "uskoro" biti ugroženi od umjetne inteligencije je

JH-IM je napisao/la:Da se razumijemo ja nisam protiv istraživanja umjetne inteligencije, naprotiv mislim da bi razumno korištena mogla biti od velike koristi, na primjer roboti za rad na opasnim mjestima, svemirska istraživanja jer roboti bi mogli sletjeti na Titan i šetati po njemu bez potrebe za hranom, kisikom i odijelima, otporni su i na svemirska zračenja itd. Ali upozoravati da ćemo "uskoro" biti ugroženi od umjetne inteligencije je

Nisu baš na sva zračenja otporni jer neka vrsta zračenja također mogu naštetiti sklopovlju, stvoriti smetnje zbog koji postaju nefunkcionalni itd. Ali slažem se, bili bi dobri za poslove koji ljudima predstavljaju opasnost po život.

Osobno nisam fan antropomorfizacije AI, ali bi ozbiljno mogla dovesti kraju trenutačni socio-ekonmski model (plus još par tehnologija u tandemu ako se dobro odigra poput jeftinog 3D printanja sa više materijala). Uz malo sreće i pameti, mogli bi imati kompletnu renesansu ljudskog življenja u razine o kojma se sada ni ne usudimo sanjati. Dosta sam optimističan:)

trzalica je napisao/la:Nisu baš na sva zračenja otporni jer neka vrsta zračenja također mogu naštetiti sklopovlju, stvoriti smetnje zbog koji postaju nefunkcionalni itd. Ali slažem se, bili bi dobri za poslove koji ljudima predstavljaju opasnost po život.

Zato postoji shielding, isti koji se stavlja na sonde da svemirska zračenja da ne unište elektroniku, ali puno je lakše staviti shielding na robota nego zaštititi ljude od zračenja, pogotovo izvan broda, štaviše ne znamo za niti jedan način kako potpuno zaštititi čovjeka od jakih zračenja, pogotovo ne dok je u odijelu. Robotu treba samo zaštititi dio sa elektronikom i problem riješen, ima NASA svojeg Robonauta ali daleko je to od nekog autonomnog robota koji može uspješno zamijeniti čovjeka.

Nema rješenja deus ex machina, odnosno i A.I. će slijediti dosadašnju logiku razvoja čovječanstva.

Zgodan primjer je to što su ljudi nekada vjerovali da ćemo jednom imati komunizam i da će to biti najbolja stvar u ljudskoj povijesti. Problem je, međutim, bio u tome što su taj komunizam ostvarivali obični a ne idealni ljudi, pa smo dobili socijalizam kakva je bio u SSSR-u, Kini itd., a i u bivšoj je Jugoslaviji bilo svega (ne samo Goli otok, OZNA/UDBA itd., nego i potkradanje društvene imovine na svim nivoima, razmišljanja tipa "ne mogu me toliko malo platiti, koliko malo ja mogu raditi" itd.).

Isto će biti i s A.I.: njen problem će biti u tome što će postojati američka, ruska, kineska, indijska, njemačka itd. A.I. Sukladno tome, kineskoj A.I. će glavna briga biti Kina (jer će je stvoriti i isprogramirati Kinezi), pa će i onu A.I. u Americi (ili Rusiji) vjerojatno vidjeti kao prijetnju.

Stvaranje nekakve jedinstvene, općeljudske A.I., neće dopustiti pojedinačne države, a ako je se i stvori bit će jako ograničena (poput UN-a danas).

No ako se ipak nekim spletom političkih okolnosti stvori neka supermoćna, jedinstvena A.I. koja će raditi većinu stvari umjesto nas, onda će prije ili kasnije ta A.I. zaključiti da joj nismo potrebni, odnosno da smo paraziti kojih se treba riješiti. Zbog toga ljudi nikada neće dopustiti pravu A.I.

Inače, što se tiče toga da roboti neće ubijati ljude, tko prati novinske članke o vojnoj tehnici, taj zna da nas tek par godina dijeli od tenkova i zrakoplova koji će sami donositi odluke o ubijanju ljudi.

iStop je napisao/la:
No ako se ipak nekim spletom političkih okolnosti stvori neka supermoćna, jedinstvena A.I. koja će raditi većinu stvari umjesto nas, onda će prije ili kasnije ta A.I. zaključiti da joj nismo potrebni, odnosno da smo paraziti kojih se treba riješiti. Zbog toga ljudi nikada neće dopustiti pravu A.I.

Ne bi se kladio u to, ljudi su sposobni svašta iracionalno napraviti, neki radi profita, neki for the lulz, neki zbog "istraživanja", neki jer misle da čine dobru stvar itd. Ljudska glupost a i znatiželja je sposobna za sve.

Inače, što se tiče toga da roboti neće ubijati ljude, tko prati novinske članke o vojnoj tehnici, taj zna da nas tek par godina dijeli od tenkova i zrakoplova koji će sami donositi odluke o ubijanju ljudi.

U to mogu vjerovati samo zaneseni idealisti.

A.I. o kojemu Linus govori vjerojatno nikada neće napredovati više od toga. Ali s vremenom će se sigurno naći neka organizacija koja će testirati i A.I. na razini svijesti, tj. pokušati će raviti A.I. do te razine da postane svijestan svoga postojanja, a svatko tko može bar malo logično zaključivati shvaća da su ljudi bolest na ovome planetu, a baza na kojoj računala odlučuju je logika. Ok, ne mora tu nužno doći do robotske apokalipse ali ako stvarno bude netko razvio samosvijesnu inteligenciju i dao joj određenu razinu slobode, to neće biti dobro za one u neposrednoj blizini.