Foto: 123rf

BBC U nedavnom članku izvještava o opasnosti koju predstavlja nova generacija robota te "treća revolucija ratovanja."

Toby Walsh, profesor umjetne inteligencije sa sveučilišta New South Wales u Australiji, kaže da se na svakom području ratovanja, u zraku, na moru, u podmorju i na kopnu iskušavaju prototipna autonomna oružja i dodaje da nove tehnologije poput dubokog učenja pomažu napretku i razvoju tog oružja.

Jedan je takav izum borbeni modul Kalašnjikova s "neuralnom mrežom", sa strojnicom i kamerom, povezan s računalnim sustavom koji samostalno bira mete i donosi odluke bez ikakvog ljudskog upravljanja.

Uobičajeno računalo funkcionira na temelju otprije programiranih uputa, pomoću kojih rješava određeni, ograničeni niz predvidljivih mogućnosti, a neuralna mreža napravljena je da uči na prijašnjim primjerima i prilagođava se okolnostima s kojima se prije nije susrela. Ta sposobnost donošenja vlastitih odluka ono je što brine mnoge, jer se ne može točno znati na temelju čega ta mreža donosi odluke za napad, napominje Andrew Nanson, tehnološki voditelj u poduzeću specijaliziranom za obranu imena Ultra Electronics.

Opasni smjer napretka

No, skeptičan je u vezi s nekim od tvrdnji proizvođača oružja. Automatizirani obrambeni sustavi već donose odluke na temelju analize prijetnji - na primjer, na temelju oblika, veličine, brzine i smjera dolazećeg projektila - i mogu odabrati prikladnu reakciju puno brže od ljudi.

Ipak, moguće je da se dogode katastrofalne pogreške, poput ubijanja civila i uništavanja nevojnih meta, ako se takvi sustavi susretnu s nečim novim, a imaju slobodu odlučivanja po načeli "najbolje pretpostavke".

Toga se najviše boje stručnjaci za umjetnu inteligenciju (AI) – ne da će ona postati prepametna i preuzeti kontrolu nad svijetom, već da je "preglupa", poput robota koji ne mogu razlikovati civilne i vojne mete.

No, unatoč toj zabrinutosti, kalašnjikovi nisu jedina autonomna i poluautonomna oružja koja se testiraju u Rusiji. Tu su i borbeno vozilo Uran-9, mali robot Platform M i tenk Armmata T-14 namijenjeni su različitim svrhama i mogu djelovati u različitim uvjetima.

Profesor Noel Sharkey, član grupe za pritisak Kampanja za zaustavljanje robota ubojica, nije optimist oko njihovog potencijala, osobito u slučaju da se tisuće autonomnih tenkova T-14 postroji uz granicu s Europom - a takva se oružja ne proizvode samo u Rusiji.

Globalno širenje

Prošle je godine američka Agencija za napredne projekte istraživanja obrane (DARPA) opremila uobičajeni dron za nadzor naprednom umjetnom inteligencijom napravljenom tako da razlikuje civile i pobunjenike tijekom testa iznad replike sela s Bliskog istoka u Massachusettsu. Slično je napravio i Samsung u Južnoj Koreji, a u Ujedinjenom Kraljevstvu razvija se autonomni dron Taranis, veličine borbenoga zrakoplova, koji bi trebao prenositi razno oružje, dok se u Sjedinjenim Američkim Državama testiraju autonomni ratni brodovi na moru.

Argumenti koji idu u korist upotrebe AI-ja vezani su uz obavljanje borbenih simulacija, logistike i analize prijetnji, a umjetna inteligencija može biti korisna ako se učinkovito i odgovorno primjenjuje u stvarnom svijetu. Usto, često se napominje da bi se upotrebom AI-ja zapravo mogao smanjiti broj ljudskih žrtava.

No, također postoji mogućnost da bi robotski sustavi mogli biti privlačni političarima, a u ratu se uvijek pronađe način da se napadne protivnike. Mogućnost autonomnog sustava oružja neminovno vodi do porasta terorizma ili kiber-ratovanja, pa bi se upravo zbog toga toj tehnologiji trebalo pristupiti s velikom količinom opreza, zaključuje BBC.