Anthropic je otkrio najmanje pet slučajeva u kojima su korisnici uspeli da zaobiđu zaštitne mehanizme modela Claude i dođu do informacija koje bi mogle da budu zloupotrebljene za razvoj biološkog oružja. Među njima su podaci o zaraznim bolestima, poput ptičijeg gripa, ali i smrtonosnim otrovima i toksinima, uključujući botulinski toksin.
Ipak, to je samo deo mnogo većeg problema. Kompanija tvrdi da je od novembra 2025. do septembra 2026. identifikovala oko 35 pokušaja zlonamernih aktera za koje se sumnja da rade na razvoju biološkog oružja uz podršku država. Prema navodima Anthropica, oni su pokušavali da prikriju pravi cilj svojih istraživanja kako bi izbegli bezbednosne mehanizme ugrađene u Claude.
U jednom od sumnjivih slučajeva korisnik je istraživao takozvano "povećanje funkcije" virusa čikungunja, odnosno načine na koje bi virus mogao lakše da se prenosi i izbegne odgovor imunskog sistema.
Drugi nalog privukao je pažnju zbog upita o tome kako bi virus ptičijeg gripa mogao da se prilagodi tako da izaziva teška oboljenja kod sisara. Anthropic je blokirao i korisnike koji su tražili informacije o ortopoksvirusima - grupi DNK virusa kojoj pripadaju variola, uzročnik velikih boginja, i mpox, odnosno majmunske boginje.
Anthropic priznaje da nije uvek lako utvrditi šta stoji iza ovakvih upita. Istraživanje toksina, otrova i sličnih supstanci može služiti razvoju biološkog oružja, ali isto tako može biti deo legitimnog rada na protivotrovima, vakcinama i drugim medicinskim terapijama. U pomenutim slučajevima, alarm je upalilo to što su korisnici primenjivali različite metode za prikrivanje svog identiteta i lokacije kako bi zaobišli regionalna ograničenja koja je kompanija postavila.
Nakon što je otkrio ove pokušaje, Anthropic je dodatno pooštrio bezbednosne mere kako bi sprečio zloupotrebu svojih AI modela.
"Kao dodatnu meru predostrožnosti, novije modele, pre svega Claude Fable 5, predstavili smo sa strožim zaštitnim mehanizmima koji ograničavaju pristup širokom spektru upita povezanih sa biološkim istraživanjima koja mogu imati i civilnu i vojnu primenu", saopštila je kompanija.
Anthropic nije otkrio iz kojih zemalja ili regiona su sporni upiti stizali. Poznato je, međutim, da kompanija ograničava pristup modelu Claude korisnicima iz Kine, Rusije, Irana, Severne Koreje i još nekoliko zemalja. Anthropic navodi da je do maja 2026. blokirao sve naloge povezane sa pomenutim slučajevima zbog kršenja pravila o dostupnosti njegovih usluga u određenim regionima.
Kompanija smatra da mogućnost zloupotrebe veštačke inteligencije za razvoj biološkog oružja predstavlja jedan od "najozbiljnijih rizika" koje donose napredni AI modeli. Upravo zbog toga, kako navodi Anthropic, u Claude su ugrađeni zaštitni mehanizmi koji bi trebalo da spreče države i druge aktere da koriste veštačku inteligenciju kao pomoć u razvoju smrtonosnog biološkog oružja, uključujući njegovu potencijalnu upotrebu protiv sopstvenog stanovništva ili drugih država.