12 NAČINA NA KOJI NAS ALGORITMI KONTROLIŠU: Od ocena u školama, preko otkaza do toga da li smo budući kriminalac | Smartlife RS

Ukucajte željeni termin u pretragu i pritisnite ENTER

Kontrolišu nas!

12 NAČINA NA KOJI NAS ALGORITMI KONTROLIŠU: Od ocena u školama, preko otkaza do toga da li smo budući kriminalac

Autor Marko Čavić
Autor Marko Čavić

Možda vam zvuči nerealno, ali niste ni svesni koliko algoritmi odlučuju u vašim životima!

Izvor: Mondo / Timo Bingmann

Sigurno se pitate zašto vam se deset istih ljudi “vrte” na Instagramu ili vas muči to što vas Youtube dosađuje sa svojim preporukama.

Trebalo bi da okrivite onda algoritam, tu sveprisutnu instrukciju koja govori vašem računaru šta da radi, a sigurno vas iznervira kada vam izmeša objave koje čitate, gledate, slušate, na socijalnim mrežama.

Možda će vas zanimati:

Iako vam pojedine stavke izgledaju udeljeno od Srbije, neke od njih će se brže nego što mislite koristiti i u našoj zemlji, pogotovo ukoliko se one ispostave dobre u praksi!

Algoritmi mogu biti važni u donošenju životnih odluka, neretko se dogodi da kod zameni čoveka, ali to ne znači da je rezultat siguran. Algoritam može da bude grešan, baš kao i njegov kreator – čovek.

1. Da li smemo jesti vani u toku globalne pandemije

Američka Federalna agencija za upravljanje u hitnim slučajevima (FEMA) je napravila algoritam koji predviđa pandemiju koji državni zvaničnici mogu da koriste (I koji koriste) da odluče koji poslodavci mogu da otvore svoje radnje i kada!

Kako prenosi Bloomberg, guverner Arizone je koristio alatku predviđenja kako bi ubrzao otvaranje u maju. To im se ubrzo obilo o glavu pošto se potom veliki broj ljudi zarazio koronavirusom.

2. Rad fakulteta

Algoritmi za prijem mogu da naprave ili da slome akademske planove. Prema istraživanju Washington Post-a, 44 škola je upotrebilo softver koji daje aplikantima ocenu do 100 za proces prijema. Ocena zavisi od različitih aspekata aplikacije studenata - od rezultata testova, kućne adrese, transkripta, čak i internet stranica koji su studenti posetili!

Sve se to računa kako bi se ocenilo kakav je student za tu školu. Ovi državni i privatni fakulteti (rade sa spoljašnjim firmama koji ih savetuju) pokušavaju da predvide da li će student koji je primljen ići uopšte na nastavu. Tako da su lični interesi i percipirana kompatibilnost unutar kampusa uračunati u algoritam. Računica se može dogoditi čak i pre nego što se kandidat uopšte prijavi!

3. Ocenjivanje

Prošle nedelje su učenici protestovali u Velikoj Britaniji nakon što je odeljenje edukacije isprva odlučilo da iskoristi algoritam kako bi ocenio studente koji nisu mogli da rade testove koji bi odredili njihove šanse za upis na univerzitet tokom zatvaranja usled pandemije. Naglasili su da kompjuter računa njihov rezultat, umesto čoveka, a sve to bazira na ostvarene rezultate u prošlosti. Učenici iz siromašnijih škola su imali veću šansu da dobiju manju ocenu od učenika koji se edukuju u imućnijim ustanovama!

Slična situacija se dogodila i na ovogodišnjem Internacionalnom programu mature. Kako se nije mogao održati finalni ispit, program je napravio algoritam koji je predvideo kako bi se studenti snašli, a baziran je na ocenama i zadacima dobijenih prošle godine, a upoređivali su ih sa ocenama od bivših učenika iz iste škole, prenosi Wired.

Mnogi su ostali šokirani kada su dobili slabiju ocenu nego što su očekivali, pošto im ista treba za upis na fakultet. Više od 25.000 učenika, profesora, roditelja I ostalih ljudi je potpisalo online peticiju koja zahteva da program prizna skandal vezan za ocene I da ispravi problem! 

4. Iznajmljivanje stanova, soba i apartmana

Algoritmi ne odlučuju samo koliku ćete rentu platiti, kompjuteri mogu odlučiti i da li možete uzeti zakup! Softveri koji proveravaju pozadinu aplikanta koriste algoritme koje prave profile kandidata koji vlasnici koriste kako bi lakše doneli odluku!

Ali, Njujork Tajms je istražio veliki broj automatskih prijava koji imaju netačne informacije, često od pogrešne osobe koji imaju slično ime.

Ta pozadinska proveravanja su često generisana i poslata bez dozvole i potvrđivanja informacija tog čoveka.

Tužbe se gomilaju protiv svake kompanije koja koristi ove projekcije nakon stotine izdavača koji su odbijeni zbog lažnih informacija.

Svako ko ima isto prezime kao odbijeni, zbog ovog algoritam će neće moći da iznamljuje!

5. Utvrđivanje hipoteke

Kako prenosi Mashable, kad bi ste bili crnac ili latino i kad bi plaćali hipoteku za vašu kuću, vaša rata bi bila mnogo veća. Algoritmi koji se koriste za računanje kamatne stope imaju rasističku sklonost, otkriva studija UC Berklija. Te formule imaju tendenciju da smanjuju incidente diskriminacije “licem u lice”, ali one nehotice povećavaju cenu aplikanta koji kupuje za manje nego što traže pozajmicu. Ti aplikanti su uglavnom crnci i latini.

Predlažemo vam:

6. Cena osiguranja

Osiguranje je stvar procene rizika, ali umesto da čovek pregleda primedbu (slučaj), to radi softver koji donosi odluku o tome koliko ste rizični. Kompanije su zajedno prikupile pozamašan broj ličnih podataka o vama. Jedna osiguravajuća kuća je počela da koriste nosive i druge digitalne uređaje za praćenje, slične onim uređajima za praćenje u kolima za kasko osiguranje. Ako primete da jedete nezdravo ili da slabo vežbate, naplatiće vam više!

7. Zapošljavanje

Softver regrutovanje je trebao da usmeri proces zapošljavanja. Isti može na kraju da favorizuje određen tip aplikanata, zbog imena, pola, etničke pripadnosti i demografije!

Vaš rezime i propratno pismo su uglavnom skenirani pre nego što dođu u ljudske ruke, pogotovo kada pošaljete prijavu za neku nacionalnu ili globalnu kompaniju, objašnjava World Economic Forum.

5 grešaka koje morate izbeći na razgovoru za posao (MobIT)
Izvor: Primal Careere

Taj proces služi da otpiše sve one koji su zainteresovani za posao, tako da ako vaš CV nema nema ključnu reč ili ispunjene zahteve u vidu da li taj neko ima kvalifikacije (edukacija), odmah je otpisan!

Čak i posle ovoga postoje AI alatke kao HireVue koje mogu da evaluiraju video intervju i da odluče da li je osoba prikladna za posao. Vaš izbor reči, ton, facijalna ekspresija, sve se beleži i računa na bazi očekivanja poslodavca – što ne možete da znate.

8. Vaš raspored na poslu

Umesto da menadžer, šef ili čovek napravi raspored za radne sate i odmore, mnoge kompanije koriste usluge softvera. Poveće kompanije sa velikim brojem radne snage kao što su Target I Starbucks uključe su u dostupnost sistema kako bi kreairali raspored, tvrdiMotherboard investigation.

Usluge kreiranje rasporeda kao što je taj iz kompanije Kronos, može dovesti do “neizvesnost rasporeda” ili do nestabilnih i nekonstantnih radnih sati. Ovo najviše utiče na žene koje nisu belkinje, otkriva UC Berkli studija.

9. Da li ćete dati otkaz na svom poslu

Izlazni intervjui dolazi prekasno za kompanije koje žele da zadrže svoje zaposlene.

Umesto toga, novi algoritam daje kompanijama obaveštenje o zaposlenima koji su nezadovoljni i koji će napustiti posao, pre nego što saopšte svom šefu.

Dva istraživanja su pronašla način da izračunaju da li će neko “skočiti sa broda”. Algoritam je sadržio nekoliko ključnih faktora, kao velike organizacione promene i da li je taj neko konektovan osećanjima za posao.

Istraživači su došli do toga da su glavni razlozi da će neko napustiti posao – šokovi prometa i poslovna ugrađenost.

Šok može biti promena u kompaniji ili u privatnom životu, dok je ugrađenost povezana sa zajednicom na poslu, ali i sa ličnim interesima i veštinama i da li su one povezane sa dnevnim poslom i zanimanjem!

10. Koliko posla radnik može da “zaradi”

Uber vozači u Evropi tuže tu firmu kako bi dobili pristup tajnim kalkulacijama kompanije koje daju njima poslove. Vozači tvrde da je njihovo pravo da razumeju kako aplikacija odlučuje koji vozač dobija određen deo posla i kakve profile i prošle informacije Uber koristi. Uber svoje vozače drži u totalnom mraku, te oni ne znaju kako funkcioniže individualna vožnja.

11. Odlučivanje da li si rizičan da napraviš zločin

Skrivene kalulacije mogu odrediti da li ste podložni da napravite zločin pre nego što se on desi!

Njujork Tajms izveštava rezultat rizika jednog grada u Velikoj Britaniji koji dodeljuje tinejdžerima i “rizičnoj” omladini.

Rezultat je baziran na izveštajima policije i vlade, a ona gleda i da li je omladina deo nekog socijalnog programa. Ona ima u uvid i prisustvo u školi, da li je povezan slučaj sa ostalom decom “visokog rizika”, kao i drugim podacima koje su vezani za porodicu, roditelje I njihov dom. Slična kalkulacija se koristi i u jednom američkom zatvoru u Filadelfiji. Tamo algoritam odlučuje kakvi će se uspostaviti uslovi prilikom oslobađanja zatvorenika.

12. Sa kim se “mečujete” na aplikacijama za upoznavanje

Aplikacije za upoznavanje koriste prethodne podatke o tome ko je lajkovao koga, kako bi predvideo šta će funkcionisati. Algoritam odlučuje koga će odabrati u zavisnosti od toga kako su se prošla mečovanja (spajanja) završila. Vaši izbori su već filtrirani i to pre nego što odlučite da idete levo ili desno (odabir da li vam se neko dopada). Istraživači su nazvali ovaj sistem “nadjačavanje autonomije korisnikovog odlučivanja”.

Da li verujete algoritmima i dalje ili ćete sa dozom rezerve posmatrati rezultate?

Budite bolje informisani od drugih, PREUZMITE MONDO MOBILNU APLIKACIJU.

Slaganje algoritma (MobIT)
Izvor: Timo Bingamann

Pročitajte i ovo:

Komentari 0

Vaš komentar je prosleđen moderatorskom timu i biće vidljiv nakon odobrenja.

Slanje komentara nije uspelo.

Nevalidna CAPTCHA

Najnovije

Uređaji

Testovi