Verujemo da ste barem nekad videli, ako ne i probali čuvenu aplikaciju Face Swap.

2 klika i vaše lice se pojavilo umesto lika glavne protagonistkinje u omiljenoj sceni iz filma ili u spotu. Uostalom, sve smo mi poželele da vidimo kako bismo izgledale kao Rijana, Kajli Džener, Bijonse ili neko treći. Nema tu ništa loše, zar ne?

Zapravo, ovo je potpuno benigni primer aplikacije koja funksioniše po principu veštače inteligencije.

E sad, zamislite da je scenario potpuno drugačiji.

Budite se ujutru, a čeka vas pun inboks poruka, a nakon prvih par otvorenih već vam nije dobro - na porno snimku koji vam je stigao ste vi i ma koliko da ste sigurni da ovako nešto nije moguće, video deluje toliko realno, da počinjete da se tresete.

deepfake tehnologija
Shutterstock 

E, upravo je ovo primer deepfake tehnologije, i ne, ovako nešto ne dešava se "negde tamo". Naprotiv.

Samo razmislite ovako - tehnologija napreduje iz dana u dan, a virtuelno editovanje snimaka nije novina. Zapravo, kinematografija se umnogome oslanja upravo na ovakav vid editovanja. Rezultat su scene i rekviziti koji se ne razlikuju od stvarnosti. Međutim, ono što je nekad bilo dostupno samo u najvećim i najskupljim studijima sada je daleko rasprostranjenije i dostupno gotovo svima.

Filteri na Instagramu, Snapchatu, Face Swap - u... svi oni koriste sličnu tehnologiju - skenira se lice i na osnovu toga prave se realistični filteri. Međutim, iako su namenjeni za zabavu, kada je Deepfake u pitanju, priča je drugačija.

O upravo ovoj temi progovorila je Kritički na njenoj Instagram stranici.

Šta je Deepfake?

Deepfake je tehnologija zasnovana na veštačkoj inteligenciji i uglavnom se koristi kako bi se kreirali događaji koji se nisu desili.

Deepfake koristi dva modela mašinskog učenja. Prvi model skenira snimke i slike, a onda iz njih stvara novi sadržaj. Drugi model pokušava da otkrije koliko je video verodostojan.

deepfake primer
BACKGRID / Backgrid UK / Profimedia 

Kada drugi model više ne pronalazi "greške" tada se smatra da je deepfake spreman.

Danas se na popularnim mrežama, a pogotovo na TikToku mogu naći brojni profili koji koriste ovaj princip. Možda najpoznatiji primer jeste ovaj veoma realističan snimak na kom je navodno Tom Kruz.

@deeptomcruise

Sports!

♬ original sound - Tom

Međutim, koliko god vam bilo teško da poverujete, ovo na snimku nije Tom, već momak po imenu Kris Ume, koji je na svom jutjub profilu i pojasnio princip deepfake-a.

kris ume kao tom kruz
printscreen/tikTok 

Priča sa deepfake - om započela je na Reditu kada je jedan korisnik počeo da postavlja video klipove gde je ubacivao lica holivudskih glumica kreirajući na taj način izuzetno uverljive porno filmove. On je ujedno sa svakim videom sve više usavršavao sistem. 

Žene – deepfake žrtve

Deepfake može pronaći i svoju pozitivnu primenu, kao na primer u medicini, umetnisti, forenzici, filmskoj industriji itd. Međutim, istina je da se oko 96 odsto deepfake sadržaja koristi u pornografske svrhe (bez pristanka onog čije se lice koristi). U 90 odsto slučajeva – žrtve su žene.

Napravljeni su lažni video zapisi o političarima koji podržavaju stavove suprotne njihovim ličnim, javne ličnosti koje priznaju zlodela i ono što je u svetu deepfake-a dominantno – žene u različitim seksualnim videima. U većini slučajeva, ovi video zapisi su izričito stvoreni kao oruđe za zloupotrebu.

Bilo koja slika koju ste postavili na društvene mreže, može postati materijal za deepfake video.

Sve više sadržaja

Broj deepfake videa se drastično povećao u poslednjih par godina. Danas postoje čak i forumi gde korisnici plaćaju za deepfake videe poznatih ličnosti ili žena koje privatno poznaju.

Rana Aiub, novinarka u Indiji koja se izjasnila protiv vladinog odgovora na silovanje osmogodišnje devojčice, bila je žrtva deepfake-a.

Isto važi i za Noel Martin, mladu ženu iz Australije koja je javno postavljala pitanja o seksualnom zlostavljanju, a kojoj se ovo dogodilo kada je imala samo 17 godina.

noel martin o deepfake
printscreen/instagram 

Ona je o tom događaju rekla: "Odgovorila sam: "Možeš li mi ga poslati?" Sledećih nekoliko minuta nisam bila svjesna ničega osim suvoće usana i snažnog lupanja srca. Ubrzo, stiže odgovor. U emailu je bio samo link. Video se trenutak učitavao, a onda se isječak od 11 sekundi stvorio preda mnom. Bila je to žena na muškarcu, imali su seks, njeno golo tijelo je bilo vidljivo, oči su joj gledale pravo u kameru dok se njeno tijelo kretalo, a lice reagovalo na aktivnost. Osim što to nije bilo lice stranca ... to je bilo moje lice."

Noel nije jedina žrtva. Ima ih mnogo, mnoge odluče da ne progovore jer ne znaju kome da se obrate, osjećaju sramotu i stid, pa nekad i samo odluče da se povuku sa društvenih mreža.

Ovi klipovi se između ostalog koriste i kao oblik zastrašivanja – kako bi se žene ućutkale i obeshrabrile.

Nažalost, većina država nema zakon na ovom polju. Osoba koja napravi pornografski sadržaj, koristeći lice devojke koja to nije odobrila, može biti osuđena za uznemiravanje (što je uglavnom nekoliko nedelja zatvora i novčana kazna), a to sve čini celu priču sa deepfake - om još strašnijom, jer svako može postati žrtva, bez adekvatne kazne za ovakav postupak.