Upotreba Claude AI u operaciji američkih snaga izazvala je institucionalnu tenziju i pitanje kontrole nad vojnom primenom veštačke inteligencije.

Claude je navodno korišćen kroz partnerstvo Anthropic-a sa kompanijom Palantir Technologies, čiji softver Pentagon godinama koristi za analizu podataka i bezbednosne operacije. Međutim, konkretna uloga modela tokom same akcije nije javno objašnjena, piše WSJ.

Problem je nastao jer Anthropic-ova pravila postavljaju stroga ograničenja kada je reč o upotrebi modela u kontekstu potpuno autonomnog oružja i masovnog domaćeg nadzora. Iako kompanija nije javno osporila konkretnu operaciju u Venecueli, činjenica da Claude ima formalne etičke granice otvorila je pitanje koliko je Pentagon spreman da zavisi od dobavljača koji zadržava takva ograničenja.

Tenzije su dodatno porasle jer Ministarstvo odbrane zahteva da AI sistemi budu dostupni za sve zakonite primene, uključujući vojne operacije, bez dodatnih ograničenja. Pentagon je naveo da "preispituje" odnos sa kompanijom Anthropic, dok pojedini zvaničnici navodno razmatraju da je označe kao potencijalni rizik u lancu snabdevanja, prenosi Večernji list.

U praksi, to bi moglo da znači stavljanje na crnu listu i obavezu da svi dobavljači koji sarađuju sa Ministarstvom odbrane potvrde da ne koriste nijedan Anthropic model.

Sam ugovor sa Pentagon-om procenjuje se na oko 200 miliona dolara. Ipak, u poređenju sa godišnjim prihodima od oko 14 milijardi dolara i procenjenom vrednošću kompanije od 380 milijardi dolara, taj iznos za Anthropic nije presudan.

Potencijalni raskol sa američkom vladom dolazi u osetljivom trenutku za kompaniju, koja paralelno priprema izlazak na berzu. Ostaje da se vidi da li će dve strane pronaći kompromis, ali jedno je jasno - pitanje kontrole nad vojnom primenom veštačke inteligencije postaje centralna tema bezbednosne politike.

Postanite deo SMARTLIFE zajednice na Viberu.