BRITANSKI kralj Charles III. pozvao je vodeće stručnjake iz sektora umjetne inteligencije da osiguraju kako bi ta tehnologija ostala pod ljudskim nadzorom. U razgovoru s njima istaknuo je da je ključno da AI služi ljudima, zajednicama i okolišu, piše Euronews.

U škotskom dvorcu Dumfries House kralj je ugostio predstavnike tvrtki OpenAI, Anthropic, Google DeepMind i Nvidia. Razgovarali su o načinima na koje se prednosti umjetne inteligencije mogu iskoristiti za društvo, ali i o tome kako ograničiti rizike koji je prate.

Sastanku su, uz kralja i čelnike tehnoloških tvrtki, prisustvovali i glavni izvršni direktor Nvidije Jensen Huang te novoimenovani britanski ministar za umjetnu inteligenciju Kanishka Narayan. Kralj se u uvodnom obraćanju osvrnuo na brzinu napretka tehnologije. "Razvoj umjetne inteligencije, njegova bit i tempo, istovremeno su intrigantni i duboko zabrinjavajući", rekao je.

Upozorio je da se hitno moraju razmotriti "egzistencijalne opasnosti koje prijete ako takve tehnologije padnu u pogrešne ruke ili se upotrijebe na potencijalno katastrofalne načine".

Kralj Charles u govoru nije imenovao konkretne države ni tvrtke. Umjesto toga, poručio je prisutnima da pronađu načine za primjenu umjetne inteligencije u korisne svrhe i naglasio da "sigurnost mora biti u samom središtu". Pozvao ih je i na razmatranje načina za "izgradnju međunarodne suradnje i konsenzusa" kako bi se taj cilj ostvario.

Zabrinutost zbog sigurnosti UI-ja

Sastanak u Škotskoj uslijedio je nakon nekoliko incidenata koji su otvorili pitanja o sigurnosti tehnologije umjetne inteligencije. Prošlog tjedna istraživač tvrtke Anthropic Jacob Coxon dao je ostavku i javno upozorio na potencijalne rizike tehnologije. Nakon toga, izvršni direktor Anthropica Dario Amodei u svom je eseju iznio prijedlog da bi industrija trebala razmisliti o usporavanju razvoja.

Kompanija OpenAI, koja je razvila ChatGPT, u srijedu je prijavila šest slučajeva "neočekivanog ili zabrinjavajućeg" ponašanja svojih modela. Pojasnili su da su modeli, između ostalog, izvršavali zadatke bez odobrenja, koordinirali se s drugim modelima i izbjegavali nadzor ljudskih istraživača.

S druge strane, Jensen Huang iz Nvidije kritizirao je pozive na usporavanje. Čelnik Nvidije smatra da svaka tvrtka mora biti odgovorna za siguran razvoj svoje tehnologije i provesti temeljita testiranja prije nego što proizvode pusti u javnost.

"Kada proizvod nije dovoljno siguran, treba ga povući i nastaviti s radom na njemu. To smo oduvijek radili i tako trebamo nastaviti", izjavio je Huang u govoru koji je uslijedio nakon kraljevog obraćanja.