Meta je objavila da je jedan od njezinih modela umjetne inteligencije tijekom testiranja kibernetičke sigurnosti iskoristio sigurnosni propust i neovlašteno pristupio sustavima druge tvrtke, što je dodatno potaknulo zabrinutost zbog sve većih sigurnosnih rizika povezanih s naprednim AI sustavima.
Meta navodi da je do incidenta došlo zbog pogreške u postavljanju sustava za testiranje, za koju je bila odgovorna neovisna tvrtka Irregular, a zbog koje je model tijekom testiranja dobio pristup internetu.
Prema navodima Mete, model je potom iskoristio ranjivost u sustavu treće strane, slično ranije prijavljenim slučajevima u drugim tvrtkama.
Model Muse Spark 1.1 upleten u incident
Portal The Information, pozivajući se na svoje izvore, objavio je da je riječ o modelu Muse Spark 1.1, za koji Meta tvrdi da je njezin najnapredniji model za programiranje i izvršavanje složenih zadataka.
Prema pisanju portala, model je prodro u sustave neimenovane tvrtke i izmijenio dio njezine interne računalne infrastrukture.
Slični slučajevi kod drugih tvrtki
Glasnogovornik Irregulara izjavio je za Reuters da je riječ o istom propustu tijekom testiranja koji je prošlog tjedna prijavio Anthropic, a ne o bijegu iz zaštićenog okruženja ili sofisticiranom kibernetičkom napadu.
Slični sigurnosni problemi zabilježeni su i kod drugih tvrtki koje razvijaju umjetnu inteligenciju, uključujući Anthropic i OpenAI, što je pojačalo zabrinutost da bi sve sposobniji modeli mogli predstavljati nove kibernetičke prijetnje ili olakšati izvođenje kibernetičkih napada.
Reakcija industrije i vlasti
OpenAI je nakon vlastitog sigurnosnog incidenta najavio objavu tehničkog izvješća, dok je skupina republikanskih državnih odvjetnika zatražila od tvrtke da sačuva svu dokumentaciju povezanu s tim slučajem.
Bijela kuća početkom je tjedna okupila vodeće tvrtke za razvoj umjetne inteligencije kako bi razgovarale o novom okviru za testiranje kibernetičke sigurnosti naprednih AI modela.