Google ima rešenje ako se roboti okrenu protiv čovečanstva

Knjiga Superintelligence  autora Nicka Bostroma je jedna od prvih u kojoj se pojavila tema veštačke inteligencije. Ovaj švedski filozof je upozorio da će jednog dana mašine prevazići ljude u pogledu inteligencije, što bi za posledicu moglo da ima potpunu katastrofu za čovečanstvo. Bostrom tvrdi da bi roboti vrlo lako mogli da preovladaju kao dominantni oblik života na Zemlji i da zbrišu čovečanstvo sa lica planete.

Nakon što je pročitao navedenu knjigu, milijarder i preduzetnik futurista Elon Musk se još 2014. godine obratio pratiocima na Twitter-u da ljudi moraju biti super oprezni sa robotima i veštačkom inteligencijom, jer su potencijalno opasniji od nuklearne bombe.

Elon Musk AI tweet credit TwitterKada se godinu dana kasnije pojavilo otvoreno pismo u kome se javnost poziva na veću pažnju i nadzor nad istraživanjima u sferi veštačke inteligencije(AI), Bostrom i Musk su bili među prvim potpisnicima.

Brojni stručnjaci širom sveta, uključujući Stevena Hawkinga, Elona Muska, i Bila Gatesa, smatraju da bi AI jednog dana mogla da postane dovoljno moćna da dovede u pitanje opstanak ljudske vrste.

army of robots

Iz tog razloga, Google-ov ogranak DeepMind radi na razvoju sistema koji će zaustaviti kompjutere u slučaju da se scenario sudnjeg dana ikada obistini. Istraživači Laurent Orseau iz Deep Mind-a i doktor Stewart Armstrong sa Oxford Instituta za budućnost čovečanstva, objasnili su, da su šanse da se tako nešto dogodi vrlo male.

“Ponekad će biti možda biti potrebno da ljudski faktor pritisne neko veliko crveno dugme kako bi sprečio štetnu posledicu softverskih akcija. U tom slučaju, ključno je bezbedno ometanje softvera. Na taj način uspostavila bi se kontrola nad neposlušnim robotom koji bi privremeno mogao da se iskoristi i za zadatke za koje nije pripremljen.  Ipak, velika je nepoznanica da li je moguće stopirati sve algoritme na svetu na ovaj način”, priznali su istraživači.

Doktor Armstrong veruje da će kompjuteri jednog dana funkcionisati brzinom koja je za čoveka neshvatljiva, i da će roboti izbegavati komuikaciju sa ljudima zbog “sporosti”. Ova pojava rezultovaće time da kompjuteri preuzmu kontrolu na polju finansija, transporta, zdravstva, itd.

AI red button

Ukratko, metode na kojima rade u DeepMind-u i na Institutu za budućnost čovečanstva možda i spasu svet od apokalipse jednog dana, ili barem njegov dobar deo. Bostrom sam kaže da bi bila velika šteta i tragedija da ne dođe do razvitka veštačke inteligencije do nivoa koju poseduje ljudski mozak, jer on ima potencijal da leči bolesti, iskorenjuje siromaštvoi unapredi čovečanstvo geometrijskom progresijom. Ali, na prvom mestu treba misliti na sigurnost, a da tu sigurnost upravo može doneti “veliko crveno dugme” na kome rade istraživači u okviru projekta koji je pokrenuo Google.

Please follow and like us:

Advert

Pin It