Saznajte šta je deepfake, kako funkcioniše, ali i konkretne savete koji će vam pomoći da prepoznate da li je veštačka inteligencija umešala svoje prste u ono što gledate.

Deepfake sadržaj može u potpunosti biti generisan od nule, a može biti i modifikacija postojećeg materijala. Iako se ova tehnologija često koristi u zabavne svrhe, sve je više primera u kojima je njena osnovna namera - obmana.

Zato je veoma važno biti potkovan znanjem koje može pomoći u prepoznavanju deepfake sadržaja.

Zašto deepfake sadržaj može biti problematičan

Kako deepfake sadržaj postaje sve uverljiviji, postaje sve teže razlikovati original od falsifikata. Ovo preti da uruši poverenje u izvore informacija - od medija, preko društvenih mreža, pa sve do ličnih komunikacija.

Poseban rizik predstavljaju deepfake materijali koji šire dezinformacije u političke svrhe, kao i oni koji imitiraju javne ličnosti. Etika je posebno na udaru u slučajevima kada se stvarni ljudi prikazuju u kompromitujućem kontekstu, poput deepfake sadržaja za odrasle, bez njihove saglasnosti.

S druge strane, postoje i potencijalno korisne primene. Na primer, aktivisti za ljudska prava mogu koristiti deepfake tehnologiju kako bi zaštitili identitet osoba koje svedoče o zločinima, dok filmski amateri mogu da prave vizuelne efekte bez velikog budžeta.

Kako nastaje deepfake sadržaj?

Postoje dve glavne grupe metoda za kreiranje deepfake slika i videa: generativne suparničke mreže (GAN) i difuzioni modeli(diffusion models).

Generativne suparničke mreže (GAN)

GAN se sastoji iz dva dela - generatora i diskriminatora. Generator pokušava da napravi što uverljiviju lažnu sliku ili video, dok diskriminator pokušava da prepozna da li je sadržaj stvaran ili lažan. Kroz stalno "nadmudrivanje", generator postaje sve bolji u varanju diskriminatora, a rezultat su veoma realistični sadržaji.

Difuzioni modeli

Difuzione mreže funkcionišu tako što uče da rekonstrušu sliku ili video koji je pre toga "zagađen" šumom. Ove mreže mogu da dopune delove slike koji nedostaju i da generišu uverljive sadržaje na osnovu tekstualnih upita. Alati kao što su Stable Diffusion i DALL-E koriste ovu metodu i postaju sve popularniji u deepfake zajednici, delom i zato što ih je lakše trenirati od GAN mreža.

Kako prepoznati deepfake sadržaj

Izvor: Shutterstock

Sa napretkom tehnologije, prepoznavanje deepfake sadržaja postaje sve teže. Ipak, i dalje postoje detalji koji mogu da vas upozore da nešto nije kako treba.

Masačusetski institut za tehnologiju (MIT) spoveo je istraživanje i otkrio niz konkretnih saveta za prepoznavanje deepfake videa, pogotovo kada se radi o licima:

• Obratite pažnju na lice. Većina deepfake videa manipuliše upravo licem.
• Pogledajte obraze i čelo. Da li je koža previše glatka ili neprirodno naborana? Da li se starost kože slaže sa kosom i očima?
• Posmatrajte oči i obrve. Da li senke izgledaju realistično? AI često ne uspeva da precizno reprodukuje fiziku svetlosti.
• Proverite naočare. Da li postoji odsjaj? Da li se odsjaj menja kada se osoba pomeri?
• Pogledajte bradu i brkove. Da li izgledaju prirodno? AI ponekad dodaje ili uklanja dlačice, ali to ne izgleda uvek uverljivo.
• Obratite pažnju na mladeže. Da li deluju stvarno ili su zalepljeni?
• Treptanje. Da li osoba trepće prirodno, previše često ili premalo?
• Govor i usne. Da li se pokreti usana poklapaju sa izgovorenim rečima?

S druge strane, Alan Turing institut takođe je podelio nekoliko saveta koji mogu biti od velike koristi u prepoznavanju deepfake sadržaja:

• Za slike: Obratiti pažnju na nepravilnosti u boji i šumu, naročito kada su pojedini delovi lica oštriji ili mutniji od ostatka.
• Za video: Ukoliko postoji zvuk, obratiti pažnju na sinhronizaciju glasa i pokreta usana. Posmatrati da li izostaju spontani pokreti tela i mikromimika.

Alternativne metode detekcije

Osim površne analize samog sadržaja, detekcija se može vršiti i preko kanala distribucije, tvrdi Alan Turing institut. Na primer, deepfake sadržaji koji imaju malicioznu svrhu često se šire putem bot naloga ili trolova na društvenim mrežama. Praćenje njihove aktivnosti, lokacije i metapodataka može pomoći u identifikaciji problema čak i pre analize konkretnog fajla.

Da li možete da prepoznate deepfake sadržaj?

Ukoliko verujete da ste spremni da prepoznate deepfake sadržaj, posetite sajt Nortvestern univerziteta, koji je razvio interesantan kviz za proveru upravo te sposobnosti. Javite nam rezultate!

Pogledajte i jedan kratak video koji je za nas generisala veštačka inteligencija:

Postanite deo SMARTLIFE zajednice na Viberu.