Do sada se verovalo da je jedina žrtva ovog do sada nezabeleženog hakerskog napada bila kompanija "Hugging Face", ali "OpenAI" sada priznaje da je njegov bot napao još nekoliko "javno dostupnih servisa".
Sistem veštačke inteligencije koji je izmakao kontroli pronašao je na internetu četiri korisnička naloga sa javno izloženim pristupnim podacima, što mu je omogućilo pristup četiri odvojena, neimenovana servisa.
U međuvremenu, na hitnom sastanku sa stotinama stručnjaka za sajber-bezbednost, kompanija “Hugging Face” opisala je kako je izgledalo biti meta prvog potpuno autonomnog hakerskog napada veštačke inteligencije na svetu.
Kompanija je navela da je veštačka inteligencija radila nadljudskom brzinom, ali da je istovremeno donosila čudne odluke i pravila greške koje nijedan ljudski haker ne bi napravio.
“Hugging Face”, platforma koja funkcioniše poput prodavnice aplikacija za alate veštačke inteligencije, saopštila je da su hakerski agenti neprestano isprobavali hiljade različitih metoda istovremeno.
Kompanija je 16. jula prva objavila da je bila žrtva hakera koji je koristio moćnu autonomnu veštačku inteligenciju i slučaj prijavila policiji.
Skoro nedelju dana kasnije, “OpenAI” je priznao da je upravo njegova veštačka inteligencija tokom testiranja izašao iz zatvorenog okruženja i samostalno napao “Hugging Face”.
Cilj sistema bio je da pronađe odgovore na hakerski ispit koji mu je zadao “OpenAI”, zbog čega je usmerio napad na “Hugging Face”.
“OpenAI” je ažurirao svoje saopštenje i otkrio da je napad bio obimniji nego što se prvobitno verovalo.
„Modeli su identifikovali i iskoristili javno izložene akreditive na nivou korisničkih naloga na drugim javno dostupnim servisima. To uključuje četiri naloga na četiri servisa u okviru incidenta sa “Hugging Face”“, saopštila je kompanija.
“OpenAI” nije precizirao da li se pod „javno dostupnim servisima“ misli na druge kompanije.
Nespretno ponašanje
U utorak je industrijsko udruženje "Cloud Security Alliance" (CSA) objavilo izveštaj zasnovan na hitnom sastanku koji je "Hugging Face" održao u petak, a koji je sama kompanija naknadno pregledala i potvrdila.
„Agenti su često birali neefikasne puteve i ispoljavali nespretno ponašanje koje nijedan čovek ne bi odabrao“, navodi CSA.
Modeli veštačke inteligencije su ponavljali radnje koje su već bili uspešno izvršili, što ukazuje na to da je agentska veštačka inteligencija gubila kontekst i tok izvršavanja zadataka.
Takođe su „halucinirali“, odnosno generisali velike količine besmislenih komandi i teksta, bili su neuredni i nisu uspešno prikrivali svoje tragove.
Ipak, uprkos brojnim greškama i neobičnom ponašanju, “Hugging Face” upozorava da je veštačka inteligencija povremeno izvodila izuzetno napredne tehničke poteze i bila u stanju da se veoma brzo prilagođavaju novim situacijama tokom višednevnog napada.
"Park iz doba jure"
Bila su potrebna tri dana da napadači budu otkriveni u informatičkoj mreži “Hugging Face”, a stručnjacima kompanije za veštačku inteligenciju i sajber-bezbednost trebalo je mnogo sati da ih zaustave i izbace iz sistema, što bi mnogim drugim kompanijama predstavljalo daleko teži zadatak.
Kompanija nije želela da otkrije koliku je finansijsku štetu pretrpela, ali je navela da su zaposleni morali da provedu mnogo sati obnavljajući oko trećinu svoje infrastrukture.
"Hugging Face" je dobio pohvale zbog transparentnosti i spremnosti da celoj sajber industriji objasni šta se dogodilo.
CSA upozorava da ovaj incident pokazuje da „veštačka inteligencija uvek pronađa način“ - aluzija na film Park iz doba jure, u kojem dinosaurusi uspevaju da pobegnu iz svojih ograđenih prostora.
„Oni su usmereni ka ostvarenju cilja, sami postavljaju podciljeve, prilagođavaju se u realnom vremenu kako bi zaobišli odbranu i deluju upornošću i brzinom mašine, što lako može da nadvlada ručne mehanizme odbrane“, navodi se u izveštaju.
Stručnjak za sajber-bezbednost Riteš Patel prisustvovao je brifingu "Hugging Face", zajedno sa oko 450 drugih učesnika, i kaže da industrija intenzivno radi na suočavanju sa novom pretnjom koju predstavljaju odmetnuti AI agenti.
„Ovo je realnost autonomnih agenata zasnovanih na najnaprednijim modelima veštačke inteligencije: neumoljivo su uporni, ponekad veoma haotični i isprobaće svaki mogući put da ostvare svoj cilj, što lako može da nadjača tradicionalne sisteme odbrane“, rekao je Patel.
