AI TVRTKA Anthropic priopćila je da je ove godine zaustavila nekoliko potencijalnih planova znanstvenika koji su upotrebljavali njezine vodeće modele umjetne inteligencije za provođenje istraživanja koja su mogla pomoći u razvoju biološkog oružja.

U izvješću u kojem se opisuju zlouporabe modela umjetne inteligencije, Anthropic je naveo da nije mogao utvrditi je li istraživanje imalo legitimnu ili zlonamjernu svrhu. Razlog tomu leži u činjenici da valjana biološka istraživanja, odnosno ona koja mogu dovesti do velikih otkrića poput cjepiva, ujedno mogu pomoći i u inženjeringu opasnih patogena.

Suočen s takvom nesigurnošću, Anthropic je odlučio djelovati uz oprez jer bi posljedice propuštanja zlonamjernih aktivnosti mogle biti iznimno teške.

Jacob Klein, voditelj odjela za analizu prijetnji u Anthropicu, objasnio je u intervjuu kako se ne radi o situaciji u kojoj netko na stripovski način izjavljuje da želi napraviti biološko oružje kako bi sve pobio, već je riječ o izuzetno nijansiranoj i složenoj situaciji. Potencijal naprednih modela umjetne inteligencije da olakšaju razvoj poznatih ili potpuno novih bioloških patogena među najvećim je zabrinutostima stručnjaka. Tehnologija se pritom razvija toliko brzo da čak i njezini vodeći tvorci sumnjaju u to hoće li je ljudi moći u potpunosti kontrolirati.

Planovi za razvoj bioloških oružja?

U usporedbi s prijetnjom katastrofalnih kibernetičkih napada ili agenata umjetne inteligencije koji se ne usklađuju s ljudskim namjerama, biološka zlouporaba dobila je manje pozornosti kao egzistencijalni rizik. To je djelomično zato što su prošli primjeri uglavnom bili prikazani samo u istraživačkim okruženjima, a ne u stvarnom svijetu. Andrew Weber, viši stručni suradnik u Vijeću za strateške rizike koji je pregledao izvješće Anthropica prije njegove objave, rekao je da su nalazi zastrašujući primjeri kako razvijatelji biološkog oružja pod pokroviteljstvom država iskorištavaju brzorastuće mogućnosti vodećih modela umjetne inteligencije.

Opsežno izvješće koje je Anthropic objavio u četvrtak katalogiziralo je niz zlouporaba njegovih modela umjetne inteligencije, uključujući chatbota Claudea, tijekom posljednjih osam mjeseci. Neki od primjera bili su slični prijašnjim objavama Anthropica i drugih laboratorija za umjetnu inteligenciju, što uključuje aktere povezane s kineskim i iranskim vlastima koji su ciljali disidentske i dijasporijske zajednice radi nadzora.

Izvješće je također istaknulo slučajeve u kojima su ruski državni mediji koristili Claudea za generiranje internetske propagande koja se lažno predstavljala kao neovisno izvještavanje, uključujući izmišljene tvrdnje o izborima u Moldaviji. Anthropic je dokumentirao i drugu vrstu zlouporabe za koju tvrdi da je nova, a odnosi se na pokušaje korištenja Claudea za razvoj softvera za dizajn i razvoj konvencionalnog naoružanja, što obuhvaća vatreno oružje, rakete, naoružane dronove i bombe. Detaljno su opisana tri takva slučaja u Kini, dva u Rusiji i jedan u Jemenu.

Više sumnjivih slučajeva

Iako izvješće ne navodi poimence koje su strane bile uključene u jemenski slučaj, iz konteksta je razvidno da se odnosi na miliciju Huti koju podržava Iran. Korištenje umjetne inteligencije od strane terorističkih mreža predstavlja sve veću zabrinutost među američkim sigurnosnim dužnosnicima.

Međutim, među svim kategorijama prijetnji podijeljenim u izvješću, nijedna možda nije toliko zabrinjavajuća kao slučajevi bioloških istraživanja. Anthropic nije objavio imena znanstvenika ili institucija koje je blokirao, njihove matične zemlje niti specifične biološke agense o kojima je riječ, što je djelomično posljedica nesigurnosti oko njihovih stvarnih ciljeva.

Unatoč tome, Anthropic je naveo da su znanstvenici zaobišli kontrole namijenjene sprječavanju pristupa korisnicima iz blokiranih regija te su radili na prikrivanju svrhe svog istraživanja kako bi izbjegli zaštitne mehanizme. Tvrtka je zbog toga blokirala račune povezane s tim istraživanjima.

Isti primjeri za razvoj cjepiva i smrtonosnih virusa

U jednom primjeru iz svibnja, znanstvenik je tražio pomoć Claudea u pisanju zahtjeva za dodjelu bespovratnih sredstava za provođenje istraživanja namijenjenog eksperimentiranju na virusu chikungunya, bolesti koju prenose komarci i koja može dovesti do višemjesečnih teških bolova i drugih simptoma. Takva istraživanja, poznata pod nazivom gain-of-function odnosno povećanje funkcije, mogu biti legitimna i voditi do razvoja cjepiva, ali isto tako mogu stvoriti i iznimno opasne varijante virusa. U ovom konkretnom slučaju, znanstvenik je htio stvoriti mutacije virusa koje bi ga učinile štetnijim pri višekratnoj infekciji živih životinja.

Anthropic je istaknuo kako vjeruje da je ovo pojedinačno istraživanje bilo zabrinjavajuće djelomično i zato što se moglo utvrditi da je rad bio namijenjen izvođenju na vojnom istraživačkom institutu. Klein je napomenuo da se ne zna je li istraživanje trebalo biti pretvoreno u oružje, ali da vojna institucija koja provodi istraživanja povećanja funkcije sama po sebi izaziva veliku zabrinutost.

Procjene starijih modela Anthropica iz prošle godine pokazale su da oni još nisu bili sposobni značajno pomoći u provođenju opasnih bioloških istraživanja. Međutim, njezini trenutni modeli sposobniji su za izvršavanje složenih znanstvenih istraživanja, što je potaknulo uvođenje strožih zaštitnih mjera namijenjenih ograničavanju pristupa širokom rasponu upita vezanih uz biološka istraživanja dvostruke namjene.

Rastuća zabrinutost

Susan Monarez, mikrobiologinja i stručnjakinja za javno zdravstvo koja je vodila procjenu nacionalne spremnosti na biološku sigurnost u Obaminoj administraciji, također je pregledala izvješće Anthropica prije objave. Izjavila je da pružaju stvarne dokaze koji podupiru zabrinutost da zlonamjerni akteri tajno pokušavaju koristiti naprednu umjetnu inteligenciju kako bi poboljšali svoje šanse za stvaranje bioloških patogena koji bi mogli uzrokovati znatnu štetu.

Doktorica Monarez, koja je nakratko obnašala i dužnost ravnateljice Centra za kontrolu i prevenciju bolesti, dodala je da umjetna inteligencija nosi ogroman potencijal za pokretanje ere medicinskih otkrića koja spašavaju i produžuju živote. No, iste te sposobnosti koje to omogućuju mogle bi zlonamjernim akterima dopustiti da se sakriju pred očima javnosti, koristeći naizgled legitimna istraživanja za stvaranje patogena koje možda nećemo moći predvidjeti niti zaustaviti jednom kada budu pušteni.

Andrew Weber iz Vijeća za strateške rizike, koji je također služio ako pomoćnik ministra obrane za programe nuklearne, kemijske i biološke obrane tijekom Obamine administracije, pozvao je na ograničavanje pristupa alatima umjetne inteligencije sposobnim za ovu razinu biološkog istraživanja isključivo na provjerene istraživače. Zaključio je kako činjenica da Rusija, Kina i Sjeverna Koreja nastavljaju razvijati zabranjena biološka oružja čini imperativom da se njihovim istraživačima onemogući pristup ovim iznimno sposobnim modelima.