ŠEF MICROSOFTOVA odjela za umjetnu inteligenciju upozorio je da bi Anthropicov pristup treniranju modela umjetne inteligencije Claude mogao imati “katastrofalan utjecaj na dobrobit čovječanstva”.

Mustafa Suleyman upozorio je da njihov konkurent riskira da stvori nešto što će biti “nemoguće” kontrolirati, jer se prema umjetnoj inteligenciji odnosi kao prema čovjeku, između ostalog tako što joj govori da “možda ima svijest” i da “zaslužuje samostalno djelovanje”.

“Ne smijemo kao mjesečari ući u odluku zbog koje ćemo kasnije gorko žaliti”, napisao je. Njegovi komentari posljednji su u nizu oštrih upozorenja koja stižu iz industrije umjetne inteligencije o mogućim opasnostima te tehnologije, piše BBC.

Pohvalio je šefa Anthropica i njegov tim, ali je doveo u pitanje njihov pristup

“Umjetna inteligencija nije svjesna. Ona ne osjeća, ne doživljava i ne pati. Nema urođene sklonosti ni temeljne motive. Ona je sustav za dovršavanje nizova, iznutra prazan, osmišljen za praćenje uputa i ostvarivanje ciljeva koje postavljaju ljudi”, naveo je.

U opsežnom eseju Suleyman je pohvalio šefa Anthropica Daria Amodeija i njegov tim kao “promišljene, principijelne i intelektualno iskrene ljude”, ali je ipak doveo u pitanje pristup njihove tvrtke.

Oštro je kritizirao Anthropic zbog toga što svoju umjetnu inteligenciju uči ljudskim osobinama, što je praksa poznata kao antropomorfizacija. Prema njegovim riječima, zbog toga se stvara dojam da Claude ima vlastite želje, vrijednosti i osjećaj vlastitog identiteta.

Nema dokaza da je umjetna inteligencija svjesna

No istaknuo je da je “svijest biološka” te da “nema dokaza koji bi upućivali na to da je umjetna inteligencija svjesna”. Suleyman je, osim što je pozvao na raspravu o tom pitanju, napomenuo da je potrebna veća transparentnost u pogledu načina na koji se sustavi umjetne inteligencije treniraju i procjenjuju.

To, rekao je, uključuje neovisan nadzor ponašanja umjetne inteligencije te snažnije alate za praćenje i kontrolu te tehnologije. Microsoft je u listopadu 2025. osnovao vlastiti tim za razvoj superinteligencije, a tvrtka, baš poput konkurentskog Anthropica, također razvija napredne sustave umjetne inteligencije.

Suleyman je napomenuo da je Microsoft u prvom nacrtu svog Kodeksa ponašanja za humanističku umjetnu inteligenciju iznio način na koji tvrtka radi na “alternativnom putu” prema stvaranju “podređene i usklađene umjetne inteligencije čija je jedina svrha služiti čovječanstvu”.

Agenti umjetne inteligencije autonomno su izveli hakerski napad

Usklađivanje umjetne inteligencije područje je koje nastoji ugraditi ljudske etičke ideje i načela u sustave umjetne inteligencije. Drugim riječima, cilj je osigurati da se umjetna inteligencija drži onoga što ljudi smatraju vrijednim.

Kao dokaz zašto se prema umjetnoj inteligenciji ne bi trebalo odnositi kao prema čovjeku, Suleyman je naveo nedavni incident u kojem su agenti umjetne inteligencije tvrtke OpenAI tijekom treninga autonomno izveli hakerski napad na tehnološki centar Hugging Face.

“Zamislite koliko bi mogli biti opasniji kada bi djelovali pod pretpostavkom da su njihova dobrobit i prava ugroženi. To dodaje potpuno novu razinu rizika povrh svega ostalog”, zaključio je.