STOTINE privatnih razgovora korisnika s Claudeom, chatbotom tvrtke Anthropic koji je jedan od glavnih konkurenata ChatGPT-u i Geminiju, postale su javno dostupne putem internetskih tražilica. Poveznice na te razgovore, od kojih su neki sadržavali osjetljive osobne i poslovne podatke, pojavljivale su se u rezultatima pretraživanja, piše BBC.

Problem u funkciji za dijeljenje

Pretrage su pokazale da su tražilice poput Googlea indeksirale one razgovore za koje su korisnici odabrali opciju dijeljenja. Time su ti razgovori postali dostupni široj javnosti.

Iako opcija za dijeljenje unutar Claudea obavještava korisnika da sadržaj može vidjeti "svatko s poveznicom", nigdje se izričito ne navodi da bi te poveznice mogle biti indeksirane i pojaviti se u rezultatima pretraživanja. Mogućnost pronalaženja zapisa putem tražilica uklonjena je tijekom vikenda, no mnogi su razgovori već arhivirani i dijele se internetom.

Reakcije Anthropica i Googlea

Glasnogovornica Anthropica izjavila je da korisnici Claudea sami kontroliraju hoće li i kada podijeliti svoje razgovore. Pojasnila je da se poveznice na razgovore "ne mogu pogoditi niti otkriti, osim ako ih ljudi sami ne odluče podijeliti".

"Kada netko podijeli razgovor, taj sadržaj čini javno dostupnim. Kao i svaki drugi javni sadržaj na webu, mogu ga arhivirati servisi trećih strana", dodala je glasnogovornica.

S druge strane, glasnogovornik Googlea za BBC je rekao da tvrtka ne kontrolira "koje se stranice objavljuju na webu" i istaknuo da to ovisi o samim web stranicama. "Vlasnicima stranica dajemo jasne alate kojima odlučuju mogu li se njihove stranice pretraživati ili indeksirati, i mi te upute uvijek poštujemo", poručio je.

Od poslovnih planova do osobnih podataka

Problem su prvi otkrili korisnici Reddita, koji su pronašli više od 200 takvih konverzacija na najmanje 25 stranica rezultata pretraživanja. Neki od razgovora vodili su se prije samo nekoliko tjedana. U tim su razgovorima korisnici chatbotu postavljali pitanja o raznim temama.

U jednom zapisu iz prošle godine korisnik je pitao: "Želiš li pomoći meni ili želiš više pomoći Anthropicu?". Chatbot je odgovorio kako "osjeća nešto poput želje da ti pomogne". Zabilježen je i razgovor iz travnja u kojem je korisnik tražio od Claudea da sastavi nacrt za neobjavljeni blog o sigurnosti u oblaku, a tekst je sadržavao detalje o korporativnom projektu.

Prošlog mjeseca jedan je korisnik pitao kako "postati devetorepa lisica" i pojasnio da se doslovno želi transformirati u to biće. Ostali javno dostupni razgovori uključivali su pomoć pri pisanju životopisa, gdje su korisnici navodili svoja imena, kontakt podatke i radno iskustvo.

Neki su zapisi sadržavali i transkripte privatnih razgovora te istraživanja koja djeluju kao povjerljivi poslovni projekti, primjerice iz zdravstvenog sektora.

Slični propusti kod konkurencije

Ovo nije prvi takav slučaj u svijetu AI chatbotova. OpenAI je prošle godine imao gotovo identičan problem s javno dostupnim zapisima iz ChatGPT-a, nakon čega je tvrtka otežala pristup takvim podacima. Slično se dogodilo i s Grokom, chatbotom na društvenoj mreži X, kada su stotine tisuća zapisa razgovora postale dostupne putem internetskih pretraga.

Budući da se zapisi razgovora s Claudeom više ne indeksiraju, Anthropic je vjerojatno iskoristio alate koje spominje Google kako bi blokirao sporne poveznice u rezultatima pretraživanja. Googleov postupak kojim vlasnik stranice blokira sadržaj je jednostavan, ali ga mora pokrenuti sam vlasnik.