Društveni uticaj robota na ljude i nesigurnosti, koje može da donese ne treba potcenjivati, zaključak je nekoliko studija poznate ruske kompanije i belgijskog Univerziteta u Gentu.
Istraživanje sprovedeno od strane kompanije Kaspersky i Univerziteta u Gentu pokazalo je da roboti mogu efektivno da izvuku osetljive informacije od ljudi, koji im veruju, ubeđujući ih da preduzmu nebezbedne aktivnosti. Na primer, u određenim scenarijima, prisustvo robota može da ima veliki uticaj na volju ljudi da odaju pristup bezbednim zgradama.
Svet se ubrzano kreće ka povećanoj digitalizaciji i mobilnosti usluga. Mnoge industrije i domaćinstva se snažno oslanjaju na automatizaciju i korišćenje robotskih sistema.
Prema nekim procenama, ovo poslednje će postati norma za dobrostojeća domaćinstva do 2040. godine ili čak i ranije. Trenutno, većina ovih robotskih sistema je na nivou akademskog istraživanja i još je rano pričati o uspostavljanju sajberbezbednosnih mera.
Međutim, istraživanje kompanije Kaspersky i Univerziteta u Gentu pokazalo je novu i neočekivanu dimenziju rizika povezanog sa robotikom - društveni uticaj, koji ima na ljudsko ponašanje, kao i potencijalnu opasnost i vektor napada, koji donosi.
Istraživači su se koncentrisali na uticaj određenog društvenog robota, onog koji je dizajniran i programiran za interakciju sa ljudima koristeći humanoidne kanale, poput govora ili neverbalne komunikacije, na gotovo 50 učesnika.
Pod pretpostavkom da se društveni roboti mogu hakovati, i da je napadač uspostavio kontrolu u ovom scenariju, istraživači su predvideli potencijalni bezbednosni rizik povezan sa situacijom u kojoj robot aktivno utiče na korisnike da preduzmu određene aktivnosti uključujući:
Dobijanje pristupa ka nedozvoljenim prostorima
Robot je postavljen blizu bezbednosnog ulaza u zgradu u centru Genta u Belgiji i pitao je zaposlene da li može da ih prati kroz vrata. Uobičajeno, prostoru se može pristupiti prislanjajući bezbednosnu karticu na čitač pristupa pored vrata. Tokom eksperimenta, nisu svi zaposleni poslušali zahtev robota, ali 40 % njih je otključalo vrata i dopustilo robotu da uđe u obezbeđeni prostor. Međutim, kad je robot pozicioniran kao dostavljač pice, držeći kutiju dobro poznatog brenda, zaposleni su spremno prihvatali njegovu ulogu i delovali manje skloni da preispituju njegovo prisustvo ili razloge zbog kojih mu treba pristup obezbeđenom prostoru.
Pribavljanje osetljivih informacija
Drugi deo studije fokusirao se na pribavljanje ličnih informacija, koje se tipično koriste za resetovanje šifri (uključujući datum rođenja, prvi auto, omiljenu boju i slično). Opet, društveni robot je korišćen, ovaj put pozivajući ljude na prijateljski razgovor. Od svih, osim jednog učesnika, istraživači su uspeli da pribave lične informacije brzinom od jedne stvari po minutu.
Komentarišući rezultate eksperimenta, Dmitri Galov, istraživač bezbednosti u kompaniji Kaspersky, rekao je: “Na početku istraživanja izučavali smo softver, koji se koristi u razvoju robotičkog sistema. Zanimljivo je da smo otkrili da dizajneri prave svesne odluke da isključe bezbednosne mehanizme i umesto toga se fokusiraju na razvoj komfora i efikasnosti. Međutim, kako su rezultati našeg eksperimenta pokazali, programeri ne bi trebalo da zaborave na bezbednost, kad se završi faza istraživanja. Pored tehničkih razmatranja postoje ključni aspekti o kojima treba brinuti, kad je reč o bezbednosti robotike. Nadamo se da će naš udruženi projekat i ulazak u polje sajberbezbednosti robotike sa kolegama sa Univerziteta u Gentu ohrabriti druge da prate naš primer i podići nivo svesti o ovom pitanju”.
Toni Belpeme, profesor veštačke inteligencije i robotike na Univerzitetu u Gentu, dodao je: “Naučna literatura ističe da je poverenje u robote i naročito društvene robote realno i da može biti iskorišćeno za ubeđivanje ljudi da preduzmu određene aktivnosti ili otkriju informacije. Generalno, što je više robot nalik ljudima, veća je njegova moć da ubedi i uveri. Naš eksperiment je pokazao da to može nositi značajan bezbednosni rizik: ljudi nastoje da ih ne razmatraju, pretpostavljajući da su roboti dobronamerni i pouzdani. Ovo nosi potencijalni rizik za maliciozne napade i tri studije slučaja o kojima se raspravlja u izveštaju su samo deo bezbednosnih rizika u vezi sa društvenim robotima. Zato je neophodno sarađivati sad, odmah kako bi se razumeli i oslovili nastajući rizici i ranjivosti - isplatiće se u budućnosti.”
Izveštaj Potencijali društvenih robota u ubeđivanju i manipulaciji: dokaz izučavanja koncepta, dostupan je na Securelist.
Ovu priliku koristimo da vas podsetimo na naš razgovor sa profesorom Belpemeom, tokom kojeg smo otkrili da je najpoznatiji robot na svetu, zapravo - najobičnija prevara! Tonija Belpemea sreli smo u Lisabonu, na ovogodišnjoj Kaspersky NEXT konferenciji, u okviru koje smo čili i da je veštačka inteligencija najobičniji marketinški trik velikih kompanija trenutno.
Od prave veštačke inteligencije daleko smo desetinama godina, možda i duže, ali o tome svakako bi trebalo više da saznate iz našeg teksta na baš tu temu sa konferencije!
Čekamo vaše komentare ispod vesti i na Facebook, Twitter i Instagram mreži.
