Foto: Index

DR. ANDREAS MATTHIAS sa Sveučilišta Lingnan u Hong Kongu pertprošli je tjedan sudjelovao na međunarodnom znanstvenom skupu "Zagreb Applied Ethics Conference" (ZAEC) koji se u organizaciji Udruge za promicanje filozofije (UPF) održava svake dvije godine, počevši od 2011.

BOGAT ŽIVOTOPIS

Dr. Matthias, koji je jedan je od zapaženijih autora na području robotičke i računalne etike, na ovogodišnjem je ZAEC-u u prostorijama Matice hrvatske održao predavanje o sadašnjosti i budućnosti interakcije između robota i ljudi - interakcije koja otvara čitav niz zanimljivih i sve aktualnijih moralnih i zakonskih pitanja.

Rođen je 1967. u Njemačkoj, a već s 14 godina, puno prije nego što su napravljena prva osobna računala, iz knjiga je počeo učiti programiranje. U vrijeme kada je krenuo na fakultet, u Njemačkoj još nije bilo računalnih znanosti pa je studirao filozofiju. Istovremeno je održavao tečajeve iz programiranja kako bi zaradio za džeparac. Kada je, po završetku studija, bio nezaposlen, prebacio se na programiranje u Njemačkom sveučilišnom računalnom centru. Dvadeset godina kasnije doktorirao je filozofiju kojom se bavio usput, noćima i vikendima, te se po prvi put zaposlio kao filozof. 2008. preselio je u Hong Kong gdje trenutno predaje filozofiju. Uža specijalnost mu je strojna etika, a njegova doktorska disertacija "Machines as Holders of Rights - Proposal for a Change in Legislation" (Logos, Berlin, 2008) bila je jedno od prvih akademskih djela o pravima strojeva na njemačkom jeziku. Među ostalim, piše za web stranicu moral-robots.com, a bavi se temama kao što su briga strojeva za djecu i starije, roboti koji lažu, problemi prijenosa odgovornosti na strojeve i sl. O sličnim temama rekao je mnoge zanimljive stvari za Index.

ROBOTI ĆE NAS ISTISNUTI

Bavite se etikom odnosa između ljudi i inteligentnih strojeva. Možete li ilustrirati koje su stvari predmet vašeg interesa?

Jedan primjer su etička pitanja vezana uz autonomne automobile. Automobili bez vozača raspolažu s gomilom podataka na kojima se temelji njihova vožnja. Kada čovjek, koji vozi takav automobil doživi sudar, postavlja se pitanje kako ćemo raspodijeliti i odrediti odgovornost? Za sada još nismo navikli na umjetnu inteligenciju i automobile bez vozača. No ako uzmemo u obzir da Teslini autonomni imaju ugrađeno iskustvo od tri milijarde milja vožnje, dok prosječan čovjek u Europi ima oko 20 sati instrukcija, jasno je da čovjek teško može biti bolji u vožnji. S vremenom će osiguravajuće kuće ocijeniti da je čovjek veći rizik nego automat. Stoga neće htjeti osiguravati automobile koje će voziti ljudi ili će osiguranje za njih postati značajno skuplje. Dakle, ljudi će biti istisnuti iz automobila. Zrakoplovi već sada lete s automatima. Pilot kaže računalu kamo da vozi, a potom je isključen. Postoje neke nesreće za koje su bile odgovorne greške u računalima i njihovim reakcijama, međutim, sigurnost zračnog prijevoza u posljednjih se nekoliko desetljeća značajno povećala zahvaljujući upravo računalima.

Drugim riječima statistički podaci će s vremenom pokazati da su automati bolji od ljudi u određenom poslu?

Točno. Slično vrijedi i u medicini. Primjerice, jedna prošlogodišnja studija pokazala je da su računala bolja od ljudskih liječnika u dijagnosticiranju raka kože, melanoma. Također su bolji u predviđanju srčanih udara. Stoga će bolnice s vremenom liječnike zamijeniti strojevima jer će se u protivnom bolesnici žaliti.

VEĆ POSTAJU LIJEČNICI

Postoje predviđanja da će strojevi nadići ljude u gotovo svim poslovima kroz 50-ak godina. Hoće li u tom procesu cijena robota igrati važnu ulogu? Roboti će za neke poslove ipak još neko vrijeme biti skuplji. Ne bi li trebati postati jeftinija radna snaga od ljudi da preuzmu sve poslove?

Mislim da će vrlo brzo postati jeftiniji jer ljude treba trenirati, obučavati. Ljudi vrlo sporo uče. Koliko treba djetetu da nauči čitati, potom pisati, da završi školu i fakultet i konačno se specijalizira kao liječnik? Strojevi će u tome biti mnogo efikasniji. Kada jednom dobro uredite neuronsku mrežu robota, moći ćete je kopirati koliko god vam puta treba. U kineskim bolnicama, primjerice, već godinama postoje strojevi koji liječnicima pomažu u dijagnosticiranju raka jer je trening za liječnike previše skup. Stoga je dovoljno imati liječnika koji nije posebno obučen u tome i stroj koji jest da bi u tandemu dali kvalitetan rezultat.

Hoće li strojevi postati isplativiji u svim zanimanjima?

Možda neće postati uspješniji i jeftiniji u svim zanimanjima. Postoje neka zanimanja koja su tipično ljudska, primjerice, psihoanalitičari ili književnici, koje će biti teško zamijeniti. No s druge strane vozače automobila neće. Uber je jedan od voditelja revolucije u autonomnim automobilima. Naravno, za njih će zamjena vozača strojevima biti ostvarenje sna.

Mislite li da tehnološki razvoj ide previše brzo da bi stvaranje novih poslova koje će ga pratiti moglo nadoknaditi gubitak koji će uzrokovati automati?

Prvi će se na udaru naći poslovi za koje nisu potrebne visoke kvalifikacije. Isto se dogodilo i tijekom industrijske revolucije u kojoj su radnike u tvornicama zamijenili strojevi. Poslove su uvijek prvi gubili ljudi na dnu socioekonomske piramide kojima su poslovi najpotrebniji. Oni na vrhu će ih teže gubiti. Čini se da svi danas smatraju da je jedino pravo rješenje za ovaj problem univerzalni temeljni dohodak.

JESU LI MOGUĆA DISTOPIJSKA DRUŠTVA IZ SF-A

Mislite li da razvoj umjetne inteligencije može olakšati stvaranja vrlo elitističkog društva u kojem će još manji broj ljudi imati sve svjetske resurse dok će mase biti siromašne, kako se to ponekad nastoji prikazati u SF filmovima?

Takva društva ne mogu ostati stabilna. Nešto se mora dogoditi s takvim siromašnim ljudima – ili će izumrijeti ili će biti silom porobljeni ili će se pobuniti. U konačnici će se morati pronaći neka ravnoteža. Postoje neke savezne države u SAD-u u kojima oko 60% ljudi radi na poslovima vozača, uglavnom kamiona i taksija. Ako u takvoj zemlji vozače zamijenite automatima, imat ćete 60% nezaposlenih. Stoga morate imati neki plan za njih.

Jeste li optimistični? U prošlosti nam je razvoj tehnologije donio veći komfor, duži život i veću sigurnost. Prosječan stanovnik zapadnih zemalja danas na mnogo načina ima bolji standard od kraljeva prije nekoliko stotina godina. Što očekujete od budućnosti?

Na to pitanje teško je odgovoriti jer postoje brojni aspekti života – u nekima smo ostvarili napredak, a u nekima nismo. S jedne strane imamo golemi napredak u udobnosti, a s druge goleme probleme u okolišu. Uništili smo dobar dio prirode. U mnogim zemljama nemamo čist zrak. U nekim zemljama kao što je velika Kina oko 60% podzemnih voda zagađeno je i nije za piće. Mislim da stoga nije točno reći da je naš život u svakom pogledu napredovao. Osim toga odvija se koncentracija moći u rukama nekoliko kompanija koje kontroliraju tehnologiju, kao što su primjerice Google, Apple i Facebook. Te kompanije ne posjeduju samo tehnologiju već i znanstvenike koji rade u području razvoja umjetne inteligencije. Također posjeduju i podatke. Danas je postalo praktički nemoguće odlučiti utemeljiti neku novu kompaniju koja će konkurirati tim divovima koji imaju monopol na podatke. To ponovno stvara novi jaz u moći, a nije lako vidjeti kako bismo mogli demokratizirati pristup podacima.

ROBOTI ZA RAT, SEKS I EMOCIJE

Budući da se bavite etikom u interakcijama između ljudi i robota, gdje vidite seksualne robote? Hoće li nas bliske interakcije s robotima promijeniti i kako?

Nisam stručnjak za to područje, no čini mi se da to nije bitno drugačije od onoga što već postoji u porno industriji koja nudi razne seksualne uređaje i igračke. Čini mi se da u toj priči ne postoji neka nova kvaliteta.

No što je s emocionalnim povezivanjem s takvim robotima? Već danas neki roboti se razvijaju na takav način da djeluju kao prijatelji, partneri ili kućni ljubimci s kojima možemo komunicirati, koje možemo maziti isl. Ljudi pokazuju sklonost da se emocionalno vežu za takve robote.

To je druga stvar. Naravno, čovjek može postati vezan za robota koji će imati funkciju kućnog ljubimca. Mislim da će to biti raširenija pojava. Seksualni roboti bit će zanimljivi ljudima koji neće predstavljati veliki segment društva. Slično stanje danas je i s pornografijom i vibratorima i sličnim stvarima. Seksualni roboti neće biti značajna promjena u odnosu na seksualnu telefonsku liniju ili na prijenos striptiza preko web kamere. Emocionalna vezanost bit će veći problem. Primjerice, ako ćemo imati robote koji će brinuti o starijim ljudima ili o djeci. U našem društvu ima sve više starijih o kojima će trebati brinuti, a sve manje mladih koji su to spremni raditi. Briga o starijima kao i briga o predškolskoj djeci veliko je opterećenje za BDP. Tu postoji veliki potencijal za emocionalnu povezanost. Stariji su ljudi usamljeni pa će postojati tendencija da se za njih stvaraju roboti nalik na ljude s kojima će se moći povezati. S time su već rađeni eksperimenti. Stariji ljudi očekuju da im strojevi uzvrate – ako osjećaju nešto za robote, žele da im oni za uzvrat kažu da ih vole. Pitanje je mislimo li da je to dobro ili nije? Treba li stroj reći 'Volim te', iako je to lažno? Osobno mislim da bi to bilo opravdano jer bi bilo okrutnije pustiti stare ljude da se osjećaju napušteno nego im dati iluziju da imaju neku emocionalnu skrb. Naravno, najsretnije rješenje bilo bi kada bi to radili ljudi, a ne strojevi. No budući da stanovništvo sve više stari, možda to nećemo biti u stanju.

Mislite li da najveća prijetnja čovječanstvu dolazi od robota vojnika, kako se to ponekad predstavlja u nekim SF filmovima? Ili je prava opasnost negdje drugdje?

Vojni roboti djeluju zastrašujuće jer mogu ubijati ljude. Oni su za to konstruirani dok drugi nisu tako da to mogu učiniti eventualno samo slučajno. No mislim da će ipak u nekoj većoj slici oni uglavnom biti ograničeni na bojna polja dok se većina nas neće zateći ondje. Stoga najvjerojatnije oni na nas neće moći puno utjecati. Na nas će najviše utjecati gubitak odgovornosti koji se događa zato što odgovornost za važne stvari predajemo tehničkim sustavima koji postaju sve složeniji i imaju sve više slojeva u kojima ona nestaje. Čisto za ilustraciju, kada imate problema s bankom, vi ćete je nazvati, međutim, nećete dobiti banku već ćete dobiti neki pozivni centar koji stoji ispred banke. Taj centar će vas preusmjeriti nekome u Indiju tko na svojem računalu može pregledati vaše podatke, ali zapravo nije predstavnik vaše banke. Ako se želite požaliti na nešto svojoj banci, to će se potpuno izgubiti u centru u Indiji. Čovjek koji će se javiti, neće moći obraditi vašu žalbu. Istovremeno nećete moći nikoga drugoga dobiti jer se banka skriva iza pozivnog centra. To se danas sve češće događa. Postavlja se pitanje koga ćete nazvati ako imate problema s Microsoftom ili Googleom. Velike kompanije teško je kontaktirati jer su one skrivene iza složene infrastrukture. Problem je u tome što se mnoge loše stvari mogu događati, a da nitko ne preuzme odgovornost, a takve loše stvari se događaju. Primjerice, ne tako davno na Facebooku su objavljene ratne fotografije stradanja djece iz Vijetnama koje su bile savršeno prikladne, pravi klasici. No Facebook ih je cenzurirao. Kada se netko htio požaliti, nije bilo adrese na koju je to mogao ozbiljno učiniti. Ne možete se žaliti Marku Zuckerbergu ili nekim njegovim ljudima. Vaša žalba prosljeđuje se nekome u Indiju gdje u biti završava u smeću. To je veliki problem jer nas to pogađa svakodnevno. U današnjem društvu sve je češća situacija da se ljudi ne osjećaju odgovornima za nešto što rade, govore ili pišu. To može rezultirati nastajanjem užasnih autoritarnih društava u kojima će svatko reći da nešto strašno nije njegov problem. Meni se to čini strašnijim od naoružanih robota.

NISMO EVOLUIRALI ZA GLOBALNO SELO

U pretraživanju interneta postoji veliki problem zamagljivanja vrijednih činjenica nekakvim alternativnim. Primjerice, upišete u tražilicu cijepljenje, a Google vam izbaci stranice koje su najviše klikane, a ne one koje su najrelevantnije, među ostalim i antivaksinalističke, bez obzira na njihovu znanstvenu i etičku vrijednost i težinu. Može li Google riješiti taj problem?

Mislim da je problem u biti još veći. Do nedavno smo imali društvo u kojem je pristup informacijama bio reguliran. Imali smo urednike novina koji su kontrolirali što će se objavljivati, imali smo odgovorne ljude, poput vas, koji su određivali koga će tražiti za intervju i mišljenje. Suvremeno društvo demokratiziralo je informacije, što je s jedne strane dobro, no s druge strane za posljedicu ima da svi imaju pristup objavljivanju svojih ideja. Neki će to zloupotrijebiti, bilo da će objavljivati stvari koje su gluposti i laži ili tako da će objavljivati nešto samo kako bi prikupili klikove i time zaradili. Mislim da je to ozbiljan problem demokratizacije informacija. Ako idete još dalje, do srži problema, vidjet ćete da smo stvorili globalno društvo koje komunicira kroz samo nekoliko kanala komunikacije. Jedan od njih je primjerice Facebook koji trenutno ima gotovo dvije milijarde aktivnih članova na ukupno 7,5 milijardi stanovnika. To znači da milijarde ljudi, koje se međusobno ne poznaju, imaju istu mogućnost objavljivanja informacija. To nasumično odabranu informaciju čini potpuno bezvrijednom. Ljudi su evoluirali u malim društvima u obiteljima u selima u kojima je svatko znao svakoga. Naši društveni mehanizmi danas su još uvijek na toj razini poznavanja drugih. Vi znate je li informacija dobra jer znate je li pouzdan čovjek koji vam je daje. Cijeli naš koncept prijateljstva i povjerenja temelji se na ideji da znamo tko su ljudi oko nas. U slučaju interneta to prestaje funkcionirati. U Hrvatskoj, koja je mala, stvari i dalje u nekoj mjeri mogu funkcionirati na principu poznavanja jer vi poznajete nekog profesora kojem vjerujete, a koji će vam mene preporučiti za razgovor. Međutim, na Facebooku, gledano globalno, to ne može funkcionirati. Dakle, nama su ti načini komuniciranja novi. Ako želimo obnoviti povjerenje, morat ćemo rekreirati strukture koje će nam to omogućiti. Morat ćemo uvesti mehanizme koji će mnoge ljude isključiti od mogućnosti da objavljuju informacije ili dati veći prioritet ljudima koji su vrijedni većeg povjerenja. Na Facebooku se to može učiniti kroz mrežu prijatelja koju sami stvarate. No to s druge strane onda može stvoriti novi problem – stvaranje mjehura informacija u kojima komunicirate samo s ljudima koji su vam istomišljenici dok sve druge isključujete. Ljudska evolucija odvija se tisućama godina. Sredinom 20. stoljeća stvorili smo sustav koji je bio vrlo fino uravnotežen i prilično je dobro funkcionirao. No sada se čini da smo ga uništili da bismo stvorili potpuno novi sustav. On je vrlo mlad tako da mu nedostaju mehanizmi koje smo razvijali. Možda će nam trebati narednih 100 ili tisuću godina da uspostavimo novi sustav koji će dobro funkcionirati. Naravno, ako imamo dovoljno vremena za tako nešto.

NE ŽELIMO SVJESNE ROBOTE, ŽELIMO ROBOVE

Ako pitate ljude koji se bave računalnom tehnologijom, oni će uglavnom reći da mozak funkcionira slično kao računalo što znači da bi računala jednog dana mogla postati svjesna. Ako pak pitate neurologe, odnosno ljude koji se bave mozgom, oni će često reći da za to nema garancije jer mozak ima bitno drugačiju konfiguraciju, a mi ne znamo je li ona ključna za doživljaj svijesti. Što vi mislite o tome i kakva bi to etička pitanja moglo otvoriti?

Mislim da to pitanje zapravo uopće nije produktivno. Mislim da trebamo postaviti pitanje zašto uopće marimo za svijest strojeva; želimo li mi uopće da strojevi imaju svijest? Naime, ako stvorite stroj koji ima svijest i ima emocije, onda ćete morati početi voditi računa o njihovoj volji i pravima. Pitat ćete svoj diktafon da snimi naš razgovor, a on će reći da danas baš nije raspoložen. Ili ćete tražiti mobitel da nazove vašu suprugu, a on će dogovoriti da danas nema želju čuti njezin glas. Dakle, mi zapravo ne želimo da strojevi imaju emocije i da postanu svjesni. Kada bi bili svjesni, mogli bi tražiti ljudska prava. Morali bismo prihvatiti da svjestan hladnjak radi samo osam sati na dan, a potom se odmara i zabavlja. Mi želimo da naš hladnjak radi 24 sata na dan. Prema tome, mi zapravo želimo imati digitalne robove. Kada bi imali svijest, mi ih ne bismo mogli držati kao robove. Stoga je to, kao i s vojnim robotima, pitanje koje je seksi, ali zapravo nije relevantno. Mogu li roboti razviti svijest može biti akademski zanimljivo pitanje, no ono nema neku praktičnu vrijednost.

MORALNI IMPERIJALIZAM

U kojim zemljama svijeta se najbrže razvija robotika, a u kojima umjetna inteligencija?

Ta dva područja treba razdvajati. Umjetna inteligencija se temelji na velikim količinama informacija, na njihovoj obradi i na vlasništvu nad njima. Tu su vrlo očito glavni Amerikanci. To je jedan od političkih problema jer ne postoji način da neka zemlja trećeg svijeta razvije vlastitu umjetnu inteligenciju. To može biti problem jer bi SAD mogao uspostaviti određenu moralnu dominaciju nad malim državama. To bi moglo postati temeljem kulturnog imperijalizma. Primjerice, kupite igračku robota za vašu kći koja bi joj trebala pričati priče pred spavanje. Postavlja se pitanje hoće li te priče biti neke u stilu kompanije Disney? Najvjerojatnije hoće. Naime, neki Eskim u nekoj zemlji trećeg svijeta sigurno neće moći naći priče prilagođene za Eskime, jer one jednostavno neće imati dovoljno veliko i zanimljivo tržište. Dakle, imamo tek nekoliko golemih kompanija koje razvijaju umjetnu inteligenciju i diseminiraju moralnost koja je kulturološki američka. Primjer je Disneyev film Aladin čija je radnja smještena na Bliski istok, ali su sve vrijednosti zapravo američke. To je posebno problematično kada je u pitanju odgoj djece jer roditelji svoju djecu žele odgajati u svojoj kulturi, a ne nužno američkoj. No mediji i umjetna inteligencija s kojom se sreću sve su više američki, dok društva koja ih neposredno okružuju nisu. Stoga će hrvatska djeca sve više postajati loše kopije američke, umjesto hrvatska jer nitko u Hrvatskoj neće moći razviti potpuno hrvatsku verziju umjetne inteligencije. Barem ne u skorijoj budućnosti. Mislim da je ta dominacija SAD-a u tom području veliki problem, no istovremeno je nešto u čemu ne možemo puno učiniti jer moć dominacije ima onaj tko ima najveće količine podataka. Na sličan način oni koji posjeduju Hollywood, izvoze vrijednosti koje stvara Hollywood. Naravno, postoje lokalna filmska tržišta, no ona se nikako ne mogu natjecati s Hollywoodom. Primjerice, Titanic je bio veliki hit u Tajlandu, no vrijednosti i kultura u filmu nemaju nikakve veze s tajlandskim. Slično, ali još problematičnije zbiva se s umjetnom inteligencijom jer ćemo joj povjeriti dio obrazovanja djece.

Što se robotike tiče, to je pitanje sposobnosti izrade strojeva. Roboti sami po sebi nisu etički toliko zanimljivi jer su samo strojevi u koje će se ugrađivati umjetna inteligencija. Inače su poput automobila, tek skupi uređaji koji će se izrađivati tamo gdje će to u datom trenutku biti najjeftinije. Trenutno je to vjerojatno Kina.

BIG BROTHER I DIKTATURA

Koji je vaš zaključak, odnosno poruka?

Mislim da trebamo biti oprezni s umjetnom inteligencijom; ne bismo trebali površno razmišljati. Trebamo razmišljati dugoročno, o dugoročnim posljedicama koje se ne vide na prvu loptu. Primjerice, o tome hoće li naše dijete odrastati uz moralne vrijednosti i uz kulturu uz kakvu mi želimo da odrasta. Drugi primjer problema je pitanje želimo li se odreći privatnosti kao vlasnici autonomnih automobila. Naime, Tesla bilježi naš svaki korak, gdje god da putujemo. Zamislimo da u budućnosti u nekoj državi na vlast dođe neki diktatorski režim, što nije nepojmljivo. Taj diktator će moći vidjeti gdje su se ljudi kretali u svojim automobilima. Na taj način otpor budućim diktatorima bit će značajno otežan. Više se nećete moći skrivati. Ja živim u Hong Kongu gdje koristim karticu Octopus s kojom sve plaćam – od vlaka, preko autobusa do robe u trgovinama. To je vrlo praktično, samo ubacite karticu u uređaj i sve je plaćeno. Slično se može i s pametnim telefonima. No sve, svaki vaš pokret, sve što ste kupili, sve ostaje zabilježeno. To nije SF, kamere i automati koji bilježe naše kretanje i transakcije već sada su posvuda.