Prvi dokumentovan slučaj da je haker iskoristio veštačku inteligenciju za čitav proces napada - od pronalaženja mete do pisanja ucena.

U izveštaju objavljenom ove nedelje, kompanija Anthropic navela je da je neimenovani haker "upotrebio AI u meri koja je bez presedana" kako bi odabrao, hakovao i ucenjivao najmanje 17 kompanija.

Sajber ucena, odnosno krađa podataka poput poverljivih korisničkih informacija ili poslovnih tajni, uobičajena je kriminalna taktika hakera. AI je deo tog posla dodatno olakšao, jer prevaranti koriste četbotove da im pomognu u pisanju fišing mejlova.

Međutim, slučaj koji je otkrio Anthropic prvi je javno dokumentovan primer da je haker iskoristio četbot jedne velike AI kompanije kako bi gotovo u potpunosti automatizovao čitav niz sajber napada.

Prema blog objavi, operacija je počela tako što je haker uspeo da ubedi Claude Code - četbot specijalizovan za pisanje programa na osnovu jednostavnih zahteva (tzv. "vibe coding") - da identifikuje kompanije ranjive na napad. Claude je zatim kreirao zlonamerni softver za krađu osetljivih podataka. Potom je organizovao ukradene fajlove i analizirao ih kako bi odredio šta je zaista važno i čime bi mogao da ucenjuje žrtve, piše NBC News.

AI je zatim proučio finansijske dokumente hakovanih firmi da bi odredio realan iznos u bitkoinima koji bi mogao da se traži u zamenu za obećanje da se materijal neće objaviti. Takođe je pisao predloge ucenjivačkih mejlova.

Džejkob Klajn, šef odeljenja za obaveštajni rad o pretnjama u Anthropic-u, izjavio je da iza serije napada najverovatnije stoji pojedinac izvan SAD, a da su ti napadi trajali oko tri meseca.

"Imamo snažne zaštitne mehanizme i više slojeva odbrane za otkrivanje ovakve zloupotrebe, ali ponekad odlučni akteri pokušavaju da zaobiđu naš sistem sofisticiranim tehnikama", rekao je on.

Anthropic nije želeo da otkrije imena 17 kompanija, ali je naveo da su među njima bili vojni dobavljač, finansijska institucija i više zdravstvenih ustanova. Ukradeni podaci uključivali su brojeve socijalnog osiguranja, bankarske informacije i medicinske podatke pacijenata. Haker je takođe uzeo fajlove povezane sa osetljivim odbrambenim informacijama koje reguliše američki Stejt department.

Iz Anthropic-a nisu želeli da otkriju kako je haker uspeo da do te mere iskoristi Claude Code, ali su naveli da su uveli dodatne mere zaštite.

"Iako smo preduzeli korake da sprečimo ovakvu zloupotrebu, očekujemo da će ovaj model postajati sve češći, jer AI značajno snižava prag ulaska u sofisticirane sajber kriminalne operacije", zaključuje se u izveštaju.

Postanite deo SMARTLIFE zajednice na Viberu.