AMERIČKA tvrtka za umjetnu inteligenciju Anthropic ima rok do 17:01 po istočnoameričkom vremenu (23.01 po hrvatskom vremenu) da popusti pred zahtjevima Pentagona ili će biti označena kao "rizik za opskrbni lanac", što je kvalifikacija koja se obično koristi za tvrtke povezane sa stranim suparnicima.

Pentagon, koji koristi Anthropicov AI sustav Claude na svojim tajnim mrežama, želi ga moći koristiti za "sve zakonite svrhe", no Anthropic odbija dopustiti njegovu primjenu u autonomnom oružju i za masovni nadzor američkih građana, piše CNN.

Anthropic je u četvrtak poručio kako ne namjerava popustiti. "Prijetnje ne mijenjaju naš stav: mirne savjesti ne možemo pristati na njihov zahtjev", stoji u izjavi izvršnog direktora tvrtke. Pentagon, s druge strane, tvrdi da nema namjeru koristiti umjetnu inteligenciju u te svrhe, ali da mu je potrebna sloboda korištenja tehnologije koju licencira.

"Ovo je jednostavan, zdravorazumski zahtjev koji će spriječiti Anthropic da ugrozi ključne vojne operacije i potencijalno dovede naše vojnike u opasnost", napisao je glasnogovornik Pentagona Sean Parnell na društvenoj mreži X. "Nećemo dopustiti nijednoj tvrtki da diktira uvjete o tome kako donosimo operativne odluke."

Situacija je kulminirala u utorak na sastanku u Pentagonu između ministra obrane Petea Hegsetha i izvršnog direktora Anthropica Darija Amodeija. Iako izvor upućen u situaciju tvrdi da je sastanak bio srdačan, dužnosnici Pentagona zaprijetili su ne samo otkazivanjem ugovora vrijednog 200 milijuna dolara, već i spomenutom oznakom koja bi mogla ugroziti poslovanje tvrtke.

Uloga Anthropica u Pentagonu

Anthropicov model Claude bio je prvi AI model koji je proradio na tajnim vojnim mrežama. Tvrtka je prošlog ljeta potpisala ugovor s Pentagonom vrijedan do 200 milijuna dolara. Druge velike AI tvrtke, poput OpenAI-ja, sklopile su poslove s Pentagonom samo za rad na njegovim javnim mrežama. U sklopu ugovora, Anthropicova "politika prihvatljivog korištenja" izričito zabranjuje upotrebu Claudea za masovni nadzor i autonomno oružje.

"Ovaj spor dolazi u nezgodno vrijeme jer, s jedne strane, korisnici unutar Ministarstva obrane vole Anthropic i Claude te kažu da se, prema mojim saznanjima, njihova ograničenja korištenja nikada nisu aktivirala", rekao je za Bloomberg Radio Gregory Allen, viši savjetnik u Centru za strateške i međunarodne studije.

Međutim, Pentagon ne želi biti ograničen politikama tvrtke. Jedan je dužnosnik za CNN izjavio: "Ne možete voditi taktičke operacije s iznimkama", dodavši kako je "zakonitost odgovornost Pentagona kao krajnjeg korisnika". Pentagon se ne želi naći u situaciji u kojoj bi usred krize nacionalne sigurnosti morao tražiti dopuštenje tvrtke za ukidanje ograničenja.

Prekid suradnje mogao bi biti problematičan i za Pentagon, koji bi morao zamijeniti sve interne sustave koji koriste Claude. Iako je jedan dužnosnik rekao da je AI sustav Grok Elona Muska "spreman za korištenje u tajnom okruženju", ne smatra se toliko naprednim kao Claude.

Poslovne posljedice za Anthropic

Gubitak ugovora od 200 milijuna dolara ne bi bio egzistencijalna prijetnja za Anthropic, čija je vrijednost nedavno procijenjena na oko 380 milijardi dolara. Veći rizik leži u proglašavanju tvrtke rizikom za opskrbni lanac. To bi značilo da bi svaka tvrtka koja surađuje s američkom vojskom morala dokazati da u svom radu za Pentagon ne koristi ništa povezano s Anthropicom. Velik dio uspjeha Anthropica temelji se na poslovnim ugovorima s velikim korporacijama, od kojih mnoge imaju ugovore s Pentagonom.

"To znači da bi postojeća baza klijenata Anthropica, ili barem njezin velik dio, mogla nestati, bilo zato što već imaju vladine ugovore ili bi ih mogli željeti u budućnosti", rekao je Adam Connor, potpredsjednik za tehnološku politiku u washingtonskom think tanku Centar za američki napredak.

Jensen Huang, izvršni direktor Nvidije, velikog proizvođača AI čipova, izjavio je kako se nada da će Pentagon i Anthropic postići dogovor, ali i da "ako se to ne riješi, nije smak svijeta", budući da postoje druge AI tvrtke s kojima Pentagon može surađivati, a Anthropic ima druge klijente.

Ranije ovog tjedna Pentagon je najavio da razmatra i prisiljavanje Anthropica na suradnju putem Zakona o obrambenoj nabavi iz 1950. godine, koji "predsjedniku daje znatne izvanredne ovlasti za kontrolu domaćih industrija". Nije jasno kako bi Pentagon mogao istovremeno primijeniti taj zakon i proglasiti tvrtku rizikom za opskrbni lanac.

Poruka cijeloj industriji

Prijetnja Pentagona signal je i drugim AI tvrtkama koje žele zaraditi milijune prodajom svojih usluga vladi. "Mislim da ovo, u širem smislu, šalje poruku drugim AI tvrtkama s kojima pregovaraju da paze da ne pokušavaju nametnuti bilo kakva ograničenja na korištenje umjetne inteligencije", rekao je Connor.

Alan Rozenshtein, profesor prava na Sveučilištu Minnesota, smatra da bi Pentagon, da je jednostavno nezadovoljan uvjetima, mogao raskinuti ugovor i pronaći drugi AI model. "Ono što vlada zapravo želi jest nastaviti koristiti Anthropicovu tehnologiju, i pritom koristi sve moguće poluge moći. A ovo je vrlo moćna poluga", rekao je.

Što se događa nakon 17:01?

Pentagon je najavio da će, ako Anthropic ne pristane na uvjete do zadanog roka, otkazati ugovor i proglasiti tvrtku "rizikom za opskrbni lanac". Nije poznato hoće li o tome izdati javnu obavijest. Također je nejasno hoće li Anthropicov sustav Claude odmah biti uklonjen iz vojnih sustava i čime bi bio zamijenjen. Postavlja se i pitanje kako će postupiti drugi vojni suradnici koji koriste Anthropicove usluge.

Ako Pentagon ostvari svoju prijetnju, to će predstavljati eskalaciju bez presedana u odnosu prema jednom od najboljih i najuspješnijih AI modela na svijetu.

"U trenutku kada Bijela kuća govori da je utrka u umjetnoj inteligenciji s Kinom ekvivalent svemirskoj utrci sa Sovjetskim Savezom tijekom Hladnog rata, ne želite uzeti jedan od krunskih dragulja svoje industrije i uništiti ga zbog nečega ovakvog", rekao je Allen za Bloomberg. "Postoji bolji način za rješavanje ovog spora od apsolutističkog stava koji je zauzela administracija."