Iako veštačka inteligencija još uvek ne može direktno da čita ljudske misli, ona je već sada sposobna da tiho utiče na naše ponašanje i oblikuje naše odluke kroz sisteme preporuka, personalizaciju i kontrolu informacija velikih razmera.
Stručnjaci iz oblasti sajber bezbednosti upozoravaju da se dešava veliki zaokret - sa obične obrade podataka prelazimo na sisteme koji mogu da upravljaju ljudskim razumom, što predstavlja ozbiljan rizik po našu privatnost i slobodu izbora.
Na velikoj evropskoj konferenciji kompanije Kaspersky održanoj u Rimu, bezbednosni tim GReAT izdvojio je četiri ključna rizika koji će postajati sve opasniji sa napretkom takozvane kognitivne veštačke inteligencije:
1. Socijalni inženjering postaje daleko opasniji
Veliki jezički modeli pretvaraju klasične internet prevare u znatno sofisticiraniju pretnju. Napadači više ne šalju sumnjive imejlove pune gramatičkih grešaka.
Uz pomoć AI sistema, oni sada mogu da koriste društvene mreže i velike baze podataka kako bi osmislili visoko ciljane prevare zasnovane na psihološkom profilisanju žrtve. Takvi fišing napadi mogu se automatski prilagođavati trenutku i zvučati emocionalno uverljivo, zbog čega ih je izuzetno teško prepoznati.
Ovakve prevare podjednako pogađaju i pojedince i velike organizacije kroz krađu podataka i finansijske malverzacije. Najnoviji podaci pokazuju da fišing već sada čini oko 15% svih zabeleženih napada i da predstavlja glavnu ulaznu tačku za širenje opasnih virusa i zlonamernih softvera u kompanijama i državnim institucijama.
2. Kognitivna manipulacija i oblikovanje javnog mnjenja
Pored pojedinačnih napada, veštačka inteligencija omogućava operacije uticaja na milione ljudi istovremeno. Hakeri, političke kampanje i velike korporacije mogu da koriste emocionalne okidače kako bi aktivno menjali stavove javnosti.
Algoritmi na društvenim mrežama već sada zatvaraju ljude u mehure istomišljenika i produbljuju polarizaciju u društvu. Kako ove tehnologije budu napredovale, granica između predviđanja našeg ponašanja i njegovog svesnog oblikovanja postaće potpuno nejasna, što direktno ugrožava javno poverenje i demokratske procese.
3. Profilisanje koje vodi do zloupotrebe podataka
Povezivanjem svih vaših digitalnih tragova i aktivnosti sa društvenih mreža, veštačka inteligencija može da izgradi zastrašujuće detaljne psihološke profile pojedinaca. Time se drastično povećava rizik od doxxing-a (javnog objavljivanja privatnih podataka sa namerom da se neko osramoti) i ciljanog proganjanja na internetu.
Informacije koje su nekada bile rasute, AI sada spaja u jednu celinu i otkriva osetljive detalje o vama. Još veći rizik donose prediktivni modeli, gde sistem može da vas osudi ili izloži pretnjama na osnovu pretpostavljenog ponašanja, odnosno onoga što AI misli da ćete uraditi, a ne na osnovu vaših stvarnih postupaka.
4. Spajanje ljudskog mozga i pametnih uređaja
Interfejsi mozak-računar (BCI), koji omogućavaju nepokretnim pacijentima da komuniciraju putem tumačenja moždanih signala, polako se povezuju sa IoT uređajima. To znači da se neuronski signali iz mozga mogu koristiti za upravljanje pametnim kućnim uređajima ili medicinskom opremom.
Iako je ovo epohalan napredak za zdravstvo, bezbednosni rizici postaju jezivi. Ukoliko neko kompromituje ovaj sistem, napadač bi mogao da presretne vaše moždane signale, manipuliše odgovorima uređaja ili zloupotrebi vezu između vaše namere i izvršenja akcije. Na taj način opasnost iz digitalnog sveta prelazi direktno u domen ljudskog tela i fizičkog delovanja.
"Iako je kognitivna veštačka inteligencija još u ranoj fazi razvoja i daleko od masovne primene, njen razvoj je veoma brz", objašnjava Nušin Šabab, vodeća istraživačica bezbednosti u kompaniji Kaspersky. Ona dodaje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija, zbog čega moramo biti spremni pre nego što ti rizici porastu.
Rešavanje ovih izazova zahteva hitnu saradnju između programera, naučnika i država koje donose zakone. Kako je pojasnila novinarka i edukatorka za odgovornu primenu veštačke inteligencije, Teresa Potenza:
"Stvarni rizik kognitivne veštačke inteligencije jeste to što ona oblikuje naše umove - tiho i u velikim razmerama. Naučili smo da sistemi optimizovani za angažovanje korisnika narušavaju sposobnost rasuđivanja. Zato regulativa danas predstavlja zaštitu ljudske autonomije - ali ne može držati korak sa kognitivnom AI ako se bavi samo onim što ti sistemi rade danas. Potreban nam je jedan princip koji je moguće sprovesti: tehnologija mora služiti ljudima, a ne obrnuto. Autonomija nije samo pitanje privatnosti. To je pitanje demokratije."
