Lažne gole fotografije 13-godišnjakinje i njezinih prijateljica, generirane AI-om, kružile su društvenim mrežama i postale glavna tema razgovora u osnovnoj školi u Louisiani. Nakon što se fizički sukobila s dječakom koji je slike dijelio, upravo je ona izbačena iz škole. Djevojčice su molile za pomoć školsku savjetnicu i zamjenika šerifa, no zbog toga što su slike dijeljene putem Snapchata, koji briše poruke nakon nekoliko sekundi, odrasli nisu mogli potvrditi njihov sadržaj, piše AP.

Sukob u školskom autobusu

Iako djevojčice u početku nisu bile svjesne da se i njihova lica nalaze na slikama, glasine su se širile među učenicima. Kada je djevojčica vidjela kako jedan od dječaka u školskom autobusu pokazuje slike prijatelju, bijes ju je nadvladao.

Napala je dječaka i pozvala druge da joj se pridruže. Video tučnjave pokazuje kako su najmanje šest učenika sudjelovala u incidentu. Djevojčica je izbačena iz škole na više od deset tjedana i poslana u alternativnu školu, dok dječak za kojeg su sumnjale da je stvorio slike nije kažnjen.

Prepreke istrazi

Istraga škole i šerifovog ureda otkrila je AI-generirane gole slike osam učenica i dvije odrasle osobe. Ravnateljica i zamjenik šerifa nisu mogli potvrditi postojanje slika jer su učenici negirali odgovornost. Tijekom dana, djevojčica je više puta tražila pomoć i obavijestila roditelje, no reakcija odraslih bila je ograničena.

Šerifov ured kasnije je optužio dvojicu dječaka koji su slike dijelili, dok djevojčica nije suočena s optužbama zbog okolnosti slučaja. Izbacivanje iz škole i preseljenje u alternativnu obrazovnu ustanovu izazvalo je psihičke posljedice. Djevojčica je preskakala obroke, teško se koncentrirala i zanemarivala online zadatke.

Roditelji su je odveli na terapiju zbog depresije i anksioznosti. Odvjetnici djevojčice uložili su žalbu školskom odboru, ističući da je ona prvenstveno žrtva i da je postupanje škole nepravedno.

Tehnologija i opasnosti AI deepfakeova

Ovaj slučaj ističe opasnosti AI deepfake tehnologije, koja može uništiti živote djece i dovesti do ozbiljnog uznemiravanja u školama. Prije nekoliko godina izrada realističnih deepfakeova zahtijevala je tehničko znanje, dok danas tehnologija omogućuje svima da koriste fotografije s društvenih mreža i stvaraju lažne eksplicitne sadržaje.

Incident u Louisiani pokazuje kako se škole i dalje suočavaju s izazovima kada je riječ o digitalnom nasilju i primjeni umjetne inteligencije. Odvjetnici djevojčice ističu kako je ona izložena višestrukoj viktimizaciji zbog slike, reakcije škole i kazne, dok su dječaci koji su distribuirali eksplicitne sadržaje izbjegli ozbiljne posljedice.

Javno objavljeni video i izvješća potaknuli su zabrinutost i rasprave o pravednosti postupanja škola prema žrtvama digitalnog nasilja. Školski odbor i nadzornici naglašavaju da se propisi i zakoni moraju prilagoditi novim tehnologijama, a ovaj slučaj pokazuje kako zakonske i administrativne procedure često ne uspijevaju zaštititi žrtve na vrijeme.