Razgovarali smo sa stručnjakom iz kompanije PULSEC o tome kako izgleda sajber bezbednost u doba veštačke inteligencije.
Zamislite napad u kojem haker ne spava, barata ogromnim znanjem i neumorno pokušava da uđe u zaštićene sisteme. Dodajte tome moć kvantnog računara koji u sekundama razbija enkripciju na koju se oslanjamo decenijama.
To nije scenario iz naučnofantastičnog filma, već potencijalna budućnost sajber bezbednosti o kojoj ozbiljno razmišljaju stručnjaci za sajber bezbednost širom sveta. Kada veštačka inteligencija postane dovoljno razvijena da "razume" šta radi, a kvantni računari dobiju primenu u praksi, ni najjači sigurnosni sistemi više neće biti sigurni.
O tome kako danas izgleda borba protiv AI pretnji, ali i šta nas čeka u relativno bliskoj budućnosti, razgovarali smo sa Jovanom Milosavljevićem, Technical Lead-om u kompaniji PULSEC, jednim od učesnika panela na TechMomentum 2025 forumu u Nišu.
Koliko su današnji sistemi za detekciju i prevenciju napada zaista otporni na AI pretnje?
Jednostavnog odgovora nema. Otpornost zavisi od kompleksnosti samih alata i načina na koji su izgrađeni. Ima alata koji su veoma podložni AI napadima, ali ima i onih koji pružaju određeni nivo otpornosti. Ipak, da bismo postigli ozbiljniju zaštitu od AI pretnji, ne možemo se osloniti na jedan alat. Moramo kombinovati više njih i graditi čitave kolekcije rešenja koje zajednički mogu da pruže ozbiljnu odbranu.
Kakav je danas odnos snaga - da li AI više pomaže u odbrani ili više olakšava posao napadačima?
Rekao bih da se trenutno više koristi u odbrani. AI se u napadima uglavnom koristi za pojedinačne korake, a ne za kompletan napad. S druge strane, u odbrani već imamo konkretne alate koji koriste AI za detekciju anomalija, brzo reagovanje i prilagođavanje. Dakle, u ovom trenutku, AI nam više pomaže nego što odmaže - samo je pitanje koliko su ta rešenja kvalitetno implementirana.
Koji su najopasniji primeri upotrebe AI u sajber napadima koje ste do sada videli i analizirali?
Govoreći iz ličnog iskustva u kompaniji PULSEC, do sada smo viđali samo pojedinačne, ograničene primene veštačke inteligencije u napadima. Na primer, napadač bi ušao u sistem i pustio neki AI modul da obavlja određene zadatke, ali ti pokušaji nisu išli daleko - brzo bismo ih detektovali i zaustavili. Dakle, još nismo imali slučaj ozbiljne havarije izazvane AI-em.
Po vašem mišljenju, kako će izgledati ti napadi za pet godina? I da li će AI omogućiti napadačima da urade ono što danas ne mogu ni blizu da postignu?
Još uvek nismo blizu trenutka u kom napadači mogu mnogo toga da urade uz pomoć veštačke inteligencije. Međutim, za pet godina verovatno ćemo biti u mnogo većem problemu, pogotovo ako se do tada pojave kvantni računari. Tada bi mogla da se razbije većina današnjih zaštita, prosto zbog procesorske moći koju kvantni računari donose.
AI se trenutno i dalje oslanja na ljudske slabosti. On ne vodi kompletan napad, već pomaže da se lakše i brže pronađu ranjivosti koje su ljudi ostavili nezakrpljene. U budućnosti će ti napadi sigurno postati ozbiljniji. Ipak, uz pravovremenu reakciju, dobar Security Operations Center i proaktivan pristup bezbednosti, moguće je čak i takve napade zaustaviti.
Ako biste morali da izdvojite jednu oblast sajber bezbednosti koja će najviše da se promeni zbog AI-ja, koja bi to bila i zašto? Da li očekujete da će Agentic AI doneti ozbiljnije pretnje, ili je to moguće tek sa pojavom AGI-ja?
Teško je izdvojiti jednu konkretnu oblast, jer najveći izazov ne dolazi samo od AI-ja kakvog danas poznajemo, već od toga šta će se desiti kada se pojave kvantni računari. Tada ćemo se suočiti sa potpuno novim nivoom snage, i pitanje je kako će AI izgledati u tom trenutku i šta će biti sposoban da uradi.
Današnji AI ne funkcioniše samostalno. On nije "saborac" čoveku u kompleksnim operacijama - on je i dalje pomoćnik. Ne očekujem da agentni AI (Agentic AI) bude dovoljan za izvođenje ozbiljnih, autonomnih napada, jer trenutni sistemi i dalje prave mnogo grešaka. Sve zavisi od toga kako čovek formuliše zadatak. Čak i kada govorimo o AI napadima, bilo bi potrebno da se spoji previše složenih scenarija da bismo rekli da je AI samostalno "pametan" i sposoban za tako nešto. Sve dok se ne pojavi AGI - opšta veštačka inteligencija - mislim da takvi scenariji ostaju u domenu teorije.
Za kraj - koje veštine i znanja će budući stručnjaci za sajber bezbednost morati da imaju u eri u kojoj AI postaje standardni alat i za napad i za odbranu?
Ne postoji jedna stvar u kojoj će morati da budu jaki. Moraće da razumeju i AI i metode sajber bezbednosti - kako se ulazi u sistem, kako se sistem brani. Moraće da poznaju infrastrukturu, arhitekturu, ali i način na koji AI funkcioniše.
Dakle, poznavanje samo AI tehnologija neće biti dovoljno. Da bi neko ozbiljno učestvovao u incidentnim odgovorima - bilo kao deo napada ili odbrane - moraće da ima širok spektar znanja i razumevanje šireg konteksta u kojem se AI koristi.