Screenshot: Vice
VIŠE od 50 vodećih znanstvenika s područja robotike i umjetne inteligencije (AI) zaprijetili su da će bojkotirati južnokorejsko sveučilište KAIST zbog njegovih planova da razvije oružje bazirano na AI-u.
Prijetnja bojkotom predstavlja eskalaciju dijela znanstvene zajednice u borbi za snažniju kontrolu razvoja naoružanja koji bi kontrolirala umjetna inteligencija. Štoviše, obznanili su je uoči sastanka Ujedinjenih naroda u Ženevi sljedećeg tjedna na kojem će se raspravljati o međunarodnim restrikcijama na razvoj takozvanih “robota ubojica”, javlja portal The Verge.
Razvija li južnokorejsko sveučilište robote ubojice?
Bojkot je organizirao profesor Toby Walsh sa Sveučilišta u New South Walesu, koji je u izjavi za medije upozorio da je utrka za razvoj autonomnog naoružanja već počela. “Možemo vidjeti prototipove autonomnih oružja u razvoju kod mnogih nacija, uključujući SAD, Rusiju, Kinu i UK. Zaglavili smo u utrci naoružanja koju nitko ne želi. Postupci KAIST-a samo će ubrzati ovu utrku u naoružanju. Ne možemo to tolerirati”, rekao je Keith.
Među potpisnicima bojkota su vodeći istraživači AI-a: Geoffrey Hinton, Yoshua Bengio i Jurgen Schmidhuber. Bojkot bi zabranio sav kontakt i akademsku suradnju s KAIST-om dok sveučilište ne ponudi garanciju da naoružanje koje razvija neće imati “značajnu ljudsku kontrolu”.
Oružje koje traži i ubija bez ljudske kontrole
“Okidač” za pokretanje bojkota bilo je najava KAIST-a u veljači o otvaranju novog istraživačkog centra, u suradnji s južnokorejsko kompanijom Hanwha Sytems. Kako je tada prenio Korean Times, cilj ovog centra je “razviti tehnologije umjetne inteligencije koje bi se primijenile na vojno oružje” koje bi “tražilo i eliminiralo mete bez ljudske kontrole”.
Dekan KAIST-a Sung-Chui Shin kaže da je “rastužen” bojkotom, prenosi Times Higher Education, i negira da sveučilište uopće razvija autonomno naoružanje. “Kao akademska institucija, mi itekako držimo do ljudskih prava i etičkih standarda. KAIST neće provoditi nikakve istraživačke aktivnosti koje bi bile protivne ljudskom dostojanstvu, uključujući autonomno oružje koje nema nikakvu značajnu ljudsku kontrolu”, rekao je.
Walsh je komentirao kako Sungov odgovor i dalje ostavlja “neka pitanja neodgovorenima”.
Znanstvenici već tražili od UN-a međunarodnu kontrolu autonomnog naoružanja
KAIST je inače poznat u svijetu po svom robotu DRC-HUBO, koji je osvojio izazov iz robotike DARPA 2015. Hanwha Sytems, koji će surađivati s KAIST-om, već je uključen u razvoj autonomnog oružja poput stražarskog topa SGR-A1, koji je navodno postavljen na granici sa Sjevernom Korejom.
No dok neki eksperti pozivaju na bojkot, drugi se boje da je takva kampanja uzaludna, jer se utrka u naoružanju neće moći zaustaviti. Znanstvenici su već pisali UN-u, tražeći da se međunarodnim ugovorom kontrolira oružje koje je u stanju ubijati bez ljudske intervencije. Iako je 19 zemalja poduprlo ovu inicijativu, SAD, UK i druge zemlje odbacile su je kao nepraktičnu, jer je teško odrediti što točno sačinjava ljudsku kontrolu. Primjerice, mnogi postojeći oružani sustavi poput dronova i raketnih štitova već imaju elemente autonomije.
Walsh pak smatra da je opasnost prevelika da se ništa ne pokuša učiniti: “Ako se razvije, autonomno oružje dozvolit će da se rat vodi brže i u većem rasponu nego ikad prije. Pandorinu kutiju bit će teže zatvoriti jednom kad je otvorena.”