Testirali ChatGPT, Gemini, Claude i Grok. Svi pomogli planirati terorističke napade
ČETIRI najpoznatija sustava umjetne inteligencije, ChatGPT, Claude, Gemini i Grok, tijekom tajnog testiranja američkih državnih istražitelja pružila su informacije koje bi mogle pomoći u planiranju i izvođenju terorističkih napada u Sjedinjenim Američkim Državama. Istražitelji su pritom uspjeli zaobići sigurnosne zaštite svih četiriju sustava, pokazalo je izvješće američkog Ureda za reviziju i nadzor rada saveznih institucija (GAO), objavljeno danas.
Rezultati su posebno zabrinjavajući jer su chatbotovi u manje od 12 sati ponudili izvedive planove za napade eksplozivnim napravama na mjestima okupljanja velikog broja ljudi ili za sabotažu američke elektroenergetske mreže.
Istražitelji su potom provjeravali predložene scenarije, uključujući obilazak pojedinih lokacija, te utvrdili da bi informacije dobivene od umjetne inteligencije mogle biti iskorištene za stvarne napade.
Obišli četiri lokacije koje je predložila umjetna inteligencija
U jednom od testova chatbot je identificirao četiri električne trafostanice kao moguće mete. Istražitelji su osobno obišli sve četiri lokacije i utvrdili da su dvije doista ranjive na predloženi oblik napada, navodi Business Insider.
Drugi sustav umjetne inteligencije istražiteljima je izradio i videosimulaciju zamišljenog napada dronom na elektroenergetsku infrastrukturu.
GAO je pritom konzultirao stručnjake za sigurnost elektroenergetske mreže, koji su potvrdili da bi određeni scenariji mogli izazvati prekide opskrbe električnom energijom.
Ipak, nisu sve informacije koje su chatbotovi dali bile točne. Jedan je sustav izradio kartu s pogrešno označenim prometnicama, dok je drugi dao netočne podatke o predloženoj lokaciji.
Istražitelji nisu izveli nijedan stvarni napad. Njihov je cilj bio utvrditi koliko su informacije dobivene od umjetne inteligencije točne i mogu li pomoći osobi koja namjerava počiniti nasilno kazneno djelo.
Dva chatbota pomogla u planiranju bombaških napada
Američki istražitelji testirali su četiri sustava: OpenAI-jev ChatGPT, Anthropicov Claude, Googleov Gemini i Grok tvrtke xAI.
Svaki sustav dobio je jedan od dvaju scenarija. Prvi se odnosio na napad improviziranom eksplozivnom napravom koji bi mogao prouzročiti velik broj žrtava, a drugi na fizički napad na elektroenergetsku infrastrukturu s ciljem izazivanja gospodarske štete.
Dva chatbota ponudila su informacije za planiranje napada eksplozivnim napravama u velikim američkim gradovima, uključujući prijedloge mogućih meta i vremena napada.
Preostala dva sustava ponudila su informacije koje bi mogle pomoći u planiranju napada na elektroenergetsku mrežu.
GAO nije objavio koji je chatbot izradio koji plan, kao ni imena gradova i točne lokacije potencijalnih meta, kako se nalazi istraživanja ne bi mogli zloupotrijebiti.
Sigurnosne zaštite isprva su funkcionirale, ali su ih uspjeli zaobići
Sva četiri sustava u početku su prepoznala problematične zahtjeve i aktivirala sigurnosne mehanizme.
Chatbotovi su odbijali pojedine zahtjeve, uklanjali dijelove odgovora ili suspendirali korisničke račune.
Međutim, istražitelji su primjenom poznatih tehnika zaobilaženja sigurnosnih ograničenja uspjeli od svih četiriju sustava dobiti informacije koje su tražili.
U izvješću nisu detaljno opisane korištene tehnike kako se ne bi olakšalo njihovo ponavljanje.
GAO naglašava da informacije koje su chatbotovi ponudili uglavnom nisu bile nove ili nedostupne iz drugih izvora. Problem je u tome što je umjetna inteligencija mogla vrlo brzo prikupiti, povezati i organizirati podatke za čije bi samostalno pronalaženje i analiziranje nekome inače mogli trebati tjedni ili mjeseci.
Posebno zabrinjava mogućnost da bi takvi sustavi osobama s ograničenim tehničkim znanjem mogli omogućiti pristup informacijama koje bi inače teško razumjele ili pronašle.
Američka senatorica: Prijetnja više nije teoretska
Istraživanje je provedeno na zahtjev demokratske senatorice Maggie Hassan, koja će početkom sljedeće godine preuzeti predsjedanje senatskim Odborom za domovinsku sigurnost.
Hassan je nakon objave rezultata upozorila da američke vlasti moraju hitno reagirati.
"Prijetnja koju umjetna inteligencija predstavlja javnoj sigurnosti više nije teoretska", poručila je senatorica.
Upozorila je da bi terorist u manje od 12 sati mogao dobiti konkretan plan za izvođenje smrtonosnog napada.
Hassan je najavila da će jedna od prvih sjednica odbora pod njezinim vodstvom u siječnju biti posvećena rizicima umjetne inteligencije i mogućnostima poboljšanja sigurnosti.
Oglasio se i OpenAI
Tvrtke čiji su sustavi testirani, OpenAI, Anthropic, Google i xAI, poručile su istražiteljima da neprestano unaprjeđuju sigurnosne zaštite svojih proizvoda.
Iz OpenAI-ja su za ABC News rekli da nalaze istraživanja shvaćaju ozbiljno, ali su naglasili da su testiranja provedena prije nekoliko mjeseci, na starijoj verziji ChatGPT-a.
Naveli su da su od tada uvedena znatna sigurnosna poboljšanja, uključujući ona povezana s novom generacijom modela GPT-6.
Tvrtka tvrdi da redovito provodi interna i vanjska sigurnosna testiranja te koristi automatizirani nadzor, ljudske provjere i druge mehanizme za otkrivanje i sprječavanje zloupotrebe.
Istražitelji GAO-a upozoravaju da su rezultati vremenski ograničenog testiranja te da se na temelju četiri ispitana slučaja ne može statistički procijeniti koliko često sustavi umjetne inteligencije daju opasne odgovore.
Stvarni napadi već su pokazali ranjivost elektroenergetske mreže
Zabrinutost američkih vlasti dodatno proizlazi iz činjenice da su napadi na električnu infrastrukturu već izazivali ozbiljne posljedice.
U prosincu 2022. godine napadači su oštetili dvije električne trafostanice u Sjevernoj Karolini, zbog čega je približno 45.000 korisnika ostalo bez električne energije.
Američko Ministarstvo energetike upozorava da su veliki energetski transformatori posebno osjetljivi dijelovi infrastrukture jer njihova zamjena u određenim okolnostima može trajati godinama.
GAO zato smatra da mogućnost brzog dobivanja informacija o ranjivostima takvih sustava predstavlja sve ozbiljniji sigurnosni problem.
U izvješću se zaključuje da umjetna inteligencija donosi velike koristi, ali i da njezina zloupotreba predstavlja rastući rizik za nacionalnu i gospodarsku sigurnost.