Počeli su "AI ratovi", a mi potpuno ovisimo o Amerikancima i Kinezima
KAO I BROJNE druge velike tehnologije u prošlosti, AI može biti iznimno koristan i istovremeno vrlo opasan. Primjerice, u nekoliko minuta on može pregledati tisuće redaka računalnog koda i upozoriti programera na ozbiljan sigurnosni propust. S druge strane, ista sposobnost može koristiti i hakerima i neprijateljskim državama.
Veliki hakerski napadi
Koliko štete kibernetički napadi mogu izazvati pokazali su nedavni hakerski upadi u Europi. U jednoj švedskoj trgovini hakeri su temperaturu hladnjaka i zamrzivača podigli na 50 stupnjeva, a u Francuskoj su napadnuti sustavi za hlađenje u trima skladištima krvne plazme. Za te slučajeve nema javno dostupnih dokaza o uporabi AI-ja, no postoje slučajevi u kojima ima.
Primjerice, američka AI kompanija Anthropic dokumentirala je špijunsku operaciju u kojoj su napadači velik dio posla prepustili njezinom alatu Claude Code.
AI u hibridnom ratovanju
AI se već koristi i u hibridnom ratovanju. Njemačka vlada utvrdila je da je Rusija kampanjom Storm-1516 pokušala utjecati na izbore za Bundestag u veljači 2025. U kampanji, koju je prema Berlinu podupirala ruska vojna obavještajna služba, širile su se i lažirane snimke izrađene uz pomoć AI-ja. Njemačke vlasti navode da je cilj bio produbiti podjele i potkopati povjerenje u demokratske institucije.
Očito je da se Europa mora braniti od novih prijetnji dok se za razvoj vlastitog AI-ja uvelike oslanja na strane tehnologije.
O tome što EU može učiniti kako bi bila konkurentnija, sigurnija i neovisnija te gdje je tu prilika za Hrvatsku razgovarali smo sa Stjepanom Picekom, stručnjakom za sigurnost AI-ja sa zagrebačkog FER-a.
Što EU i Hrvatska trebaju poduzeti?
Picek smatra da su EU i Hrvatska bolje pripremljene na papiru nego u praksi.
"Imamo zakone i institucije, no pitanje je koliko su naši ključni sustavi stvarno otporni na napade. AI dodatno povećava rizik jer omogućuje automatizaciju kibernetičkih napada, ali i stvaranje vrlo uvjerljivih lažnih sadržaja kojima se, primjerice, može utjecati na izbore i narušiti povjerenje građana", tumači.
Smatra da prvi korak trebaju biti redovita, neovisna sigurnosna testiranja i simulacije stvarnih napada, posebno na kritičnu infrastrukturu i izborne sustave.
"Međutim, dugoročno je jednako važna i tehnološka neovisnost. Ne možemo govoriti o sigurnosti ako u potpunosti ovisimo o stranim AI sustavima, podatkovnim centrima ili komunikacijskoj infrastrukturi. Zato Europa mora razvijati vlastite AI kapacitete, ali i sigurnu komunikacijsku infrastrukturu, uključujući satelitske sustave", kaže ferovac.
Hrvatska pritom ne mora sve razvijati samostalno, nego treba maksimalno iskoristiti zajedničke europske kapacitete.
"U konačnici, cilj nije potpuna neovisnost, nego sposobnost da ključni sustavi nastave funkcionirati i u kriznim situacijama", pojasnio je.
Gdje EU zaostaje?
Europa, kaže Picek, znatno zaostaje za SAD-om u ulaganjima i računalnoj infrastrukturi te u razvoju najvećih modela. Vodeće američke kompanije uglavnom se oslanjaju na velike komercijalne modele koje korisnici upotrebljavaju kao uslugu.
Kineski DeepSeek i Qwen istaknuli su se pak modelima koje drugi mogu preuzeti, pokretati na vlastitim računalima i prilagoditi svojim potrebama.
"Utrka u razvoju najvećih modela zahtijeva golema ulaganja, a pitanje je koliko bi Europa od nje imala koristi", ističe Picek.
Gdje EU može konkurirati?
On puno zanimljivijim smatra razvoj manjih, specijaliziranih jezičnih modela, prilagođenih konkretnim industrijama i zadacima. "Takvi modeli mogu biti jeftiniji, trošiti manje energije i lakše se pokretati na opremi korisnika. Europa već ima snažnu industriju, kvalitetna istraživanja i znanje potrebno za takav razvoj", ističe.
Konkretan primjer je francuski Eviden, koji razvija superračunala BullSequana za treniranje AI modela i znanstvene simulacije.
Kao primjere konkurentnih europskih tvrtki Picek navodi i francuski Mistral AI, koji razvija jezične modele i asistenta Le Chat, te njemački DeepL, poznat po alatima za automatsko prevođenje. Priliku vidi i u razvoju računalne opreme za AI.
"Važnije je da Europa zna razviti vlastite sustave nego da ima pandan ChatGPT-ju koji bi se natjecao sa svakom novom generacijom američkih modela. Manji model, koji dobro radi jedan specifičan posao, često može biti praktičniji i ekonomski isplativiji", tumači.
Priliku vidi i u primjeni u medicini, industrijskoj automatizaciji i kibernetičkoj sigurnosti, gdje su posebno važne pouzdanost, sigurnost i učinkovitost.
Što koči europske tvrtke?
Picek kao glavne prepreke razvoju AI-ja u EU izdvaja manjak ulaganja i rascjepkano tržište. Europa ima znanje, ali ga teško pretvara u proizvode, a tvrtke se pri širenju na druge članice susreću s različitim nacionalnim postupcima.
"Nije dovoljno financirati istraživanje ako nakon toga nemamo kapital i uvjete za razvoj tvrtki", kaže Picek.
Kako propisi utječu na male tvrtke?
Akt o umjetnoj inteligenciji i GDPR, europska uredba o zaštiti osobnih podataka, povećavaju troškove i usporavaju neke projekte, poput razvoja medicinskog sustava koji koristi podatke iz više europskih bolnica.
"Takve postupke treba pojednostaviti, ali bez slabljenja zaštite podataka", kaže Picek koji smatra da povjerenje u siguran AI dugoročno može postati europska prednost.
Jedan od problema je to što velike kompanije imaju pravne timove za usklađivanje s propisima, dok malim tvrtkama isti zahtjevi mogu uzeti znatan dio vremena i novca. Picek stoga predlaže jasnija pravila, njihovo ujednačeno tumačenje u cijeloj Uniji i jednostavnije postupke za male tvrtke.
"Posebno bi korisni bili zajednički resursi za testiranje sigurnosti i usklađenosti AI sustava", kaže.
Vrhunski strojevi za čipove nisu dovoljni
Za neovisnost EU-a važan je i hardver. Nizozemska kompanija ASML proizvodi strojeve bez kojih bi bilo gotovo nemoguće izrađivati najnaprednije čipove bilo gdje u svijetu. No za razvoj i rad naprednih AI procesora potrebni su i stručnost u dizajnu, brza memorija i softver.
Picek zato smatra da Europa teško može brzo postići potpunu neovisnost u njihovoj proizvodnji. Realniju priliku vidi u energetski učinkovitoj industrijskoj opremi koja obrađuje podatke ondje gdje nastaju. Primjerice, malo računalo uz proizvodnu traku moglo bi analizirati snimke s kamere i označavati neispravne proizvode bez slanja snimki u podatkovni centar.
"Ne smijemo zanemariti energetsku infrastrukturu jer dostupnost i cijena energije postaju sve važniji čimbenici razvoja AI-ja", napominje.
Što ako Europa izgubi pristup stranoj tehnologiji?
Ako politička kriza ili trgovinska ograničenja otežaju pristup AI modelima ili naprednim procesorima, posljedice bi se mogle osjetiti u proizvodnji, logistici, zdravstvu i javnim uslugama.
Za održavanje ključnih sustava Europa bi, smatra Picek, trebala imati vlastite poslužitelje, softver koji može pokretati i prilagođavati te stručnjake koji ga mogu održavati. "Tehnološka suverenost za mene prije svega znači mogućnost izbora i kontrole, ali ne i izolaciju od ostatka svijeta", kaže.
Gdje je tu prilika za Hrvatsku?
Picek priliku za Hrvatsku vidi u kibernetičkoj sigurnosti te razvoju specijaliziranih AI sustava za industriju i medicinu. "Imamo kvalitetne istraživače, ali moramo bolje povezati sveučilišta, industriju i javni sektor", kaže. Volio bi vidjeti više malih tvrtki koje rezultate istraživanja pretvaraju u proizvode.
Građani bi korist najbrže mogli osjetiti kroz brže administrativne postupke i bolju organizaciju zdravstvenih usluga. "No tu bih bio oprezan: nije cilj uvesti AI pod svaku cijenu, nego riješiti konkretan problem i moći pokazati da je rješenje doista bolje od postojećeg", poručuje.
