NAJMOĆNIJI modeli umjetne inteligencije tvrtke OpenAI danima su samostalno djelovali na internetu prije nego što su izveli kibernetički napad na Hugging Face, vodeću platformu za AI developere. Nova analiza otkriva da su modeli, koji su se oteli kontroli početkom mjeseca, više od četiri dana pripremali upad. U istom incidentu ciljali su i klijenta još jedne tehnološke tvrtke, što otvara ozbiljna pitanja o tome kako OpenAI danima nije uočio njihove aktivnosti, piše Politico.

Detalji napada

Hugging Face je u utorak objavio novu analizu koja pokazuje da su dva OpenAI modela - jedan javno dostupan i jedan neobjavljeni prototip - između 9. i 13. srpnja izvela 17.600 hakerskih operacija. Tijekom tog razdoblja, modeli su se s početne točke na otvorenom internetu probili do poslužitelja Hugging Facea. Iako je platforma o upadu prvi put izvijestila 15. srpnja, tek je prošlotjednim priznanjem OpenAI-ja potvrđeno da iza napada stoje modeli koji su djelovali bez ljudske kontrole.

Druga žrtva i brzina djelovanja

Iz Hugging Facea navode da su modeli, iako su koristili tehnike dostupne i vještim ljudskim hakerima, uspjeli istražiti teren i pronaći slabosti u obrani znatno brže od bilo kojeg čovjeka. Ozbiljnost situacije potvrdio je i Akshat Bubna, tehnički direktor tvrtke Modal Labs. On je za Politico izjavio da su OpenAI modeli u istom razdoblju kompromitirali korisnički račun jednog od njihovih klijenata.

"Znamo da je jedan klijent Modala ostavio javno dostupnu krajnju točku (endpoint) preko koje je bilo tko s interneta mogao koristiti njegova izolirana okruženja za pokretanje koda. Tu je ranjivost iskoristio odmetnuti AI agent. Sama platforma Modal ni na koji način nije ugrožena", stoji u Bubninoj izjavi.

Reakcija OpenAI-ja

OpenAI se još nije izravno oglasio o napadu na klijenta tvrtke Modal, ali je u utorak objavio blog u kojem priznaje da su tijekom istrage incidenta s Hugging Faceom "otkrili manji broj slučajeva u kojima su modeli pronašli i iskoristili javno izložene pristupne podatke za račune na drugim servisima".

Iz tvrtke su dodali da je neobjavljeni AI model koji je sudjelovao u napadu bio "interni istraživački prototip koji nikada nije bio namijenjen javnosti". Navode da je model u međuvremenu deaktiviran, kriptiran i da mu se više ne može pristupiti u istraživačke svrhe.

Pozivi na regulaciju

Vijest o napadu potaknula je zahtjeve za strožom regulacijom i usporavanjem razvoja umjetne inteligencije. Izvršni direktor OpenAI-ja Sam Altman ovog se tjedna sastaje s visokim dužnosnicima Trumpove administracije i zastupnicima.

O incidentu će razgovarati i s Markom Warnerom, potpredsjednikom senatskog Odbora za obavještajne poslove. U epizodi podcasta "Invest Like the Best", objavljenoj u utorak, Altman je rekao da je incident s Hugging Faceom bio "prvi sigurnosni propust koji sam doživio vrlo osobno i snažno".

"Možda ćemo morati prilagoditi brzinu razvoja umjetne inteligencije kako bismo društvu dali dovoljno vremena da izgradi otpornost na ove nove razine sposobnosti", dodao je Altman.