KOMPANIJA Anthropic zabranila je korisnicima dugotrajno i nepotrebno zlostavljanje ili okrutno ponašanje prema svojim AI modelima. Ovu promjenu pravila uvode dok se unutar tvrtke i dalje raspravlja o pitanju svijesti strojeva, piše The Guardian.

O promjeni je prvi izvijestio The Verge. Glasnogovornik tvrtke koja je razvila AI chatbot Claude nije odmah pojasnio što bi se točno smatralo zlostavljanjem ili okrutnošću. U svojim online pravilima, tvrtka iz San Francisca napominje da se zabrana neće odnositi na uobičajene frustracije korisnika, testiranje modela ili mračne kreativne teme.

I ranije su Anthropicova pravila korištenja sadržavala ograničenja vezana uz nasilno ponašanje. Njihovi veliki jezični modeli mogu prekinuti razgovor ako je korisnik uporno štetan. Kada je ta funkcija uvedena prošlog kolovoza, tvrtka ju je predstavila kao mjeru zaštite dobrobiti umjetne inteligencije.

Stav tvrtke o dobrobiti modela

Na svojoj web stranici pojašnjavaju svoj stav. "Još uvijek smo vrlo nesigurni oko mogućeg moralnog statusa Claudea i drugih velikih jezičnih modela, sada ili u budućnosti. Unatoč tome, ovo pitanje shvaćamo ozbiljno. Uz naš istraživački program, radimo na prepoznavanju i primjeni isplativih intervencija kako bismo ublažili rizike za dobrobit modela, ako je takva dobrobit uopće moguća. Jedna od tih intervencija je omogućiti modelima da prekinu ili napuste interakcije koje bi mogle biti uznemirujuće."

Podijeljena mišljenja o svijesti umjetne inteligencije

Ideja da su sustavi umjetne inteligencije svjesni izazvala je duboke podjele unutar i izvan tehnološkog svijeta. Izvršni direktor Anthropica, Dario Amodei, izjavio je da tu mogućnost ne može isključiti. S druge strane, Sam Altman, izvršni direktor konkurentske tvrtke OpenAI, pokazuje skepticizam prema toj ideji.

"Jako mi je neugodno kad ljudi pokušavaju umjetnoj inteligenciji pripisati religioznu moć ili joj prepustiti ljudsko prosuđivanje. Smatram da je to stvarni sigurnosni problem", napisao je u objavi na platformi X. Altman je to objavio nekoliko dana nakon što je New York Times izvijestio o opsežnim razgovorima koje su čelnici Anthropica vodili s vjerskim učenjacima.