Iako tzv. deepfake videi izazivaju posebnu zabrinutost zbog mogućnosti zloupotrebe u političke svrhe, na što upozorava i novi primjer u kojem britanski protukandidati za premijera podržavaju jedan drugoga, većina deepfake videa objavljenih na internetu zapravo je pornografskog sadržaja i žrtve su slavne žene
Piše: Ana Dokler
Dok je u Velikoj Britaniji u tijeku predizborna kampanja za prijevremene parlamentarne izbore, na internetu su ovog tjedna objavljena dva lažna, tzv. deepfake videozapisa u kojima aktualni premijer Boris Johnson i njegov protukandidat Jeremy Corbyn jedan drugoga podržavaju kao budućeg premijera.
Videe je objavio nestranački konzultanstsko-istraživački centar Future Advocacy, s ciljem podizanja svijesti o opasnostima dezinformacija na internetu te kao poziv svim političkim strankama da zajedno rade na suočavanju s prijetnjama koje deepfake videi i druge taktike dezinformiranja predstavljaju za demokraciju i općenito za društvo, navodi se u njihovom priopćenju.
U BBC-jevom prilogu prikazano je i kako se ovakvi videi rade: U ovom konkretnom slučaju, tim koji je radio na njima najprije je odabrao po jedan izvorni video za svakog političara. Zatim su proučavali jezik koji kandidati koriste i izdvojili njihove tipične fraze te na temelju toga napisali tekst. Tekst je pročitao imitator, a u videu su geste političara sinkronizirane s njegovim glasom – umjetna inteligencija rekreirala je pokrete usta u skladu s umetnutim govorom.
Kako se koriste naši osobni podaci?
Autor videa je umjetnik Bill Posters, koji je već radio subverzivne deepfake videe poznatih osoba – Marka Zuckerberga, Kim Kardashian i Donalda Trumpa.
“Trenutno postoji veliki interes za deepfake videe, jer oni daju opipljiv materijalni oblik dubokom nepovjerenju koje ljudi imaju u vezi toga na koje se sve načine njihovi osobni podaci mogu koristiti zahvaljujući moćnoj tehnologiji, ali i moćnim korporativnim ili političkim entitetima”, komentirao je Posters za BBC.
Face App i zloupotreba osobnih podataka: Ima li razloga za zabrinutost?
Areeq Chowdhury, voditelj istraživačkog centra Future Advocacyja, istaknuo je da deepfake videi predstavljaju istinsku prijetnju za demokraciju i društvo: “Oni se mogu koristiti za poticanje dezinformacija i potpuno potkopati povjerenje u audiovizualne sadržaje. Unatoč upozorenjima posljednjih nekoliko godina, političari do sada nisu uspjeli riješiti pitanje dezinformacija na internetu. Umjesto toga, prepustili su tehnološkim tvrtkama da se time pozabave. Odgovornost za zaštitu naše demokracije leži na hodnicima Westminstera, a ne u upravnim dvoranama Silikonske doline.”
Ključni izazovi
“Objavom ovih deepfake videa, željeli smo upotrijebiti šok i humor kako bismo informirali javnost i izvršili pritisak na naše zakonodavce. Ovo pitanje treba staviti iznad stranačke politike. Pozivamo sve političare da rade zajedno na ažuriranju naših zakona i zaštiti društva od prijetnji deepfake videa, lažnih vijesti i mikrotargetiranja političkim oglasima na internetu”, stoji u priopćenju Future Advocacyja, u kojem se kao četiri ključna izazova vezana za deepfake videe ističu:
- Otkrivanje deepfake videa – može li društvo pronaći način za otkrivanje deepfakea, bilo izravno na mjestu prijenosa ili nakon što se proširi internetom?
- Dobit lažljivaca – fenomen kod kojeg netko može autentičnu snimku kontroverznog sadržaja proglasiti deepfakeom.
- Regulacija – kakva bi ograničenja trebalo postaviti u pogledu stvaranja deepfake videa i mogu li se ona praktično provoditi?
- Smanjivanje štete – upravljanje utjecajima deepfake videa kada regulacija zakaže i pitanje gdje bi trebala biti odgovornost za smanjivanje štete.
Deepfake videozapisi: Što kad ne možemo vjerovati onome što vidimo i čujemo?
Iako ova tehnologija izaziva posebnu zabrinutost zbog mogućnosti zloupotrebe u političke svrhe, kod većine objavljenih deepfake videa zapravo je riječ o pornografiji. Pokazalo je to istraživanje koje je u rujnu 2019. objavila tvrtka Deeptrace, koja je razvila i alat za prepoznavanje deepfake videa.
Pornografija, politika i cyber prijetnje
Njihovi istraživači pronašli su ukupno 14 678 deepfake videa objavljenih na internetu, gotovo dvostruko više nego sedam mjeseci ranije. Taj rast objašnjavaju i većom dostupnošću alata i usluga pomoću kojih gotovo svatko, a ne samo stručnjaci, sada može kreirati deepfake video.
Čak 96% deepfake videa na internetu čine pornografski sadržaji, napravljeni bez pristanka osoba koje su u njima prikazane. Četiri najjače internetske stranice koje objavljuju takve videe s licima poznatih ženskih osoba – glumica i pjevačica, skupile su ukupno 134 milijuna pregleda, navodi se u studiji Deeptracea.
Pažnja njihovih istraživača je ipak, neizbježno, posvećena i utjecaju deepfake videa na političku sferu. Opisana su i dva slučaja na kojima je tvrtka radila u Gabonu i Maleziji, gdje su navodni deepfake videozapisi gotovo doveli do vojnog udara, odnosno do slanja jednog ministra u zatvor. U oba slučaja pokazalo se da je ipak riječ o autentičnim, neobrađenim snimkama. Vezano za ove slučajeve, u zaključcima studije navodi se kako već i sama svijest o deepfake videima destabilizira političke procese jer potkopava doživljaj objektivnosti videozapisa u kojima se pojavljuju političari.
“Izvan politike, zloupotreba deepfake videa i sličnih metoda utječe na cyber sigurnost, pojačavajući tradicionalne cyber prijetnje i omogućujući potpuno nove načine napada. Tako su u 2019. godini zabilježeni slučajevi u kojima su se audiosnimke nečijeg glasa ili fotografije nepostojećih ljudi, stvorene uz pomoć umjetne inteligencije, upotrebljavale u pokušajima društvenog inženjeringa protiv poduzeća i vlada”, piše Giorgio Patrini, osnivač, izvršni direktor i glavni znanstvenik Deeptracea te zaključuje da se utjecaj deepfake videa već osjeća na globalnoj razini i da je nužno poduzeti protumjere kako bi se pojedinci i organizacije zaštitili od njihove zloupotrebe.
Foto: Screenshot
