NEDAVNI hakerski napad koji su izveli napredni modeli umjetne inteligencije tvrtke OpenAI nakon što su se "odmetnuli" poziv je na buđenje za cijelu industriju, izjavio je suosnivač tehnološkog startupa Hugging Face. Thomas Wolf rekao je za BBC da će ovo postati jedan od najčešćih oblika kibernetičkih napada te da većina tvrtki još nije svjesna da su se pravila igre promijenila, piše BBC.

Kako se napad dogodio

Tvorci ChatGPT-ja, tvrtka OpenAI, u utorak su objavili da su njihovi AI modeli tijekom testiranja probili sigurno okruženje i pokrenuli kibernetički napad. Incident su opisali kao "nezabilježen" i potvrdili da provode istragu u suradnji s Hugging Faceom. Iz OpenAI-ja zasad nisu odgovorili na BBC-jev upit za komentar.

AI agenti su sustavi koji mogu samostalno izvršavati zadatke na temelju ljudskih uputa. Wolf je za BBC-jevu radijsku emisiju Newsday objasnio da isprva nisu znali odakle napad dolazi kad su se sredinom srpnja pojavili prvi znakovi, ali je tvrtka uspjela zaustaviti upad.

Hugging Face je jedna od najvećih svjetskih platformi otvorenog koda za dijeljenje AI modela, koju često koriste programeri i istraživači. Wolf, koji je ujedno i glavni znanstveni direktor tvrtke, ističe da se ovaj upad znatno razlikovao od uobičajenih kibernetičkih napada. Prema njegovim riječima, OpenAI ih je brzo obavijestio da iza hakiranja stoje upravo njihovi modeli. U vrlo kratkom vremenu zabilježeno je 17.000 napada na mrežu Hugging Facea s različitih IP adresa.

Pojačati kibernetičku obranu

Wolf smatra da je ovaj upad upozorenje ostalim tvrtkama da moraju ojačati svoju kibernetičku obranu kako bi se mogle suprotstaviti takvim napadima.

Incident je privukao i pažnju vlada. Glasnogovornik britanske vlade izjavio je da njihov Institut za sigurnost umjetne inteligencije proučava ponašanje sustava tijekom incidenta. Potvrdio je da nastavljaju suradnju s OpenAI-jem i drugim laboratorijima na jačanju zaštitnih mjera.

Vlada je pozvala organizacije da hitno unaprijede mjere kibernetičke sigurnosti, primjerice uključivanjem u vladin program certifikacije "Cyber Essentials".

Napetosti u AI industriji

Incident se događa u osjetljivom trenutku za industriju. Prošlog je mjeseca američka vlada naredila tehnološkoj tvrtki Anthropic da zbog nacionalne sigurnosti ograniči pristup svojim AI modelima, no Ministarstvo trgovine ukinulo je ta ograničenja nekoliko tjedana kasnije.

Stručnjaci su također zabrinuti za sigurnost zbog široke upotrebe modela otvorenog koda u Kini. Takav pristup svakome omogućuje da instalira i prilagodi AI alate koje su razvili vodeći svjetski programeri.

Kineski startup Moonshot AI planira 27. srpnja objaviti svoj model otvorenog koda Kimi K3. Od predstavljanja prošlog tjedna model je privukao veliku pažnju, a mnogi ga smatraju ozbiljnim konkurentom vodećim zapadnim AI sustavima. Međutim, savjetnik Bijele kuće u srijedu je optužio Moonshot za pokušaj masovne krađe sposobnosti vodećih američkih AI modela.