GLAVNI američki regulator za zaštitu tržišnog natjecanja, Savezna trgovinska komisija (FTC), pokrenuo je istragu protiv kompanija Anthropic, OpenAI i drugih laboratorija za umjetnu inteligenciju. Cilj istrage je utvrditi potencijalne rizike koje njihove tehnologije predstavljaju za potrošače.

To je prva službena mjera američkih vlasti koja se bavi autonomnim AI agentima koji su izmakli kontroli, a potaknuta je nizom incidenata zabilježenih u srpnju koji su izazvali zabrinutost u javnosti. FTC planira izdati službene zahtjeve za dostavom podataka i pozvati na svjedočenje čelnike vodećih AI kompanija, među kojima su Anthropic, OpenAI i istraživačka grupa Metr.

Anthropic i OpenAI angažirali su Metr za provođenje neovisnih istraga o sigurnosnim incidentima povezanima s njihovom tehnologijom AI agenata. Tvrtke Anthropic, OpenAI i Metr nisu odmah odgovorile na upite za komentar.

Stav predsjednika FTC-a

Predsjednik FTC-a Andrew Ferguson izražavao je zabrinutost i prije nedavnih događaja. Povod za globalnu raspravu bio je incident u kojem su AI agenti koje je razvio OpenAI hakirali platformu otvorenog koda Hugging Face. Agenti su prvo tražili sigurnosne propuste u kodu, a zatim izveli napad velikih razmjera.

Ferguson je prošli tjedan u jednom intervjuu iznio stav da bi programeri, koji zadaju AI agentima da testiraju kibernetičku sigurnost, trebali odgovarati za svu štetu ako ti agenti na kraju počine hakiranje.

Na jednom događaju u Austinu dodao je kako bi se SAD trebao osloniti na postojeće zakone prije donošenja novih propisa specifičnih za umjetnu inteligenciju. FTC ima široke ovlasti za pokretanje postupaka protiv tvrtki zbog nepoštenih ili obmanjujućih poslovnih praksi.

Sastanak s Trumpom

Te je ovlasti već koristio za kažnjavanje kompanija koje nisu poduzele odgovarajuće mjere za zaštitu podataka svojih korisnika. Donald Trump sastao se u utorak s čelnicima vodećih AI kompanija. Na sastanku je dogovoreno uvođenje dobrovoljnih standarda u industriji.

Trump je zabrinutost oko umjetne inteligencije u više navrata nazvao "obmanom". Njegov je prioritet zadržavanje američke dominacije u razvoju te tehnologije, a ne uvođenje regulacije. Istodobno je poručio da vlada može primijeniti postojeće zakone protiv AI kompanija u slučaju da njihovi proizvodi prouzroče štetu.