Kada se koristi?
Prije nekoliko tjedana društvenim mrežama širio se video u kojem voditeljica Mojmira Pastorčić i ministar financija Marko Primorac govore o prilikama za zaradu. Kako je sama voditeljica upozorila u emisiji „RTL Direkt“, radi se o prevari, točnije o deepfake videu.
„Ako ste slučajno na Facebooku nabasali na jedan video, tobože iz Direkta, opremljen Direktovim bojama, u kojem vam ja, s čudnim naglaskom i ministar financija Marko Primorac, također s malo čudnim naglaskom savjetuju investicijsku platformu na kojoj možete zaraditi 10.000 eura ako uložite 250 eura, nemojte nasjedati! To je deepfake video“, poručila je Pastorčić u
emisiji.
U nastavku saznaj više o ovoj tehnologiji koja izaziva sve veću zabrinutost.
Što je deepfake?
Deepfake je umjetno generirani sadržaj u kojem se osoba s originalne snimke ili fotografije mijenja s nekom drugom osobom zbog širenja lažnih informacija ili obmane. Može nastati transformiranjem izvornog sadržaja u kojem se jedna osoba mijenja drugom ili stvaranjem novog i originalnog sadržaja u kojem je osoba prikazana kako radi ili govori nešto što uopće nije napravila ili izgovorila.
Riječ „deep“ dolazi od izraza „deep learning“ (duboko učenje), odnosno metode učenja računala na ogromnim količinama podataka kako bi izvodilo zadatke slične ljudskima. Riječ „fake“ ukazuje na to da je sadržaj računalno generiran i da ga je teško razlikovati od medijskog sadržaja koji su stvorili stvarni ljudi.
U samo nekoliko minuta, zahvaljujući umjetnoj inteligenciji, napadači mogu stvoriti lažni video, fotografiju ili audio snimku. Ovakav računalno generirani sadržaj sa sobom nosi opasne posljedice i etičke dileme, posebno jer se koristi u svrhu osvetničke pornografije koja može uništiti nečiji ugled i život pomoću dezinformacija. Posebno su ugrožene slavne osobe jer su na internetu dostupne tisuće i tisuće njihovih fotografija i video isječaka.
Danas se deepfake koristi u zabavne svrhe ili čak za znanstvena istraživanja, ali ponekad se koriste za oponašanje ljudi poput političara ili svjetskih vođa kako bi se namjerno zavaralo ciljanu publiku. Vjerojatno i na svome mobitelu imaš aplikacije koje koriste deepfake tehnologiju. Među najpoznatijima je FaceApp koja ti omogućuje da na svojoj ili tuđoj fotografiji promijeniš izgled, dob i li spol. Osim toga, na Instagramu i Snapchatu također ćeš pronaći filtere sa zamjenom lica.
Nažalost, ove primjere zasjenili su deepfakeovi čiji je cilj zavarati ljude, a smatraju se digitalnim krivotvorinama. U svibnju 2023. Svjetski ekonomski forum iznio je podatak da je između 2019. i 2020. godine broj objavljenog deepfake sadržaja porastao za 900 posto, dok je danas taj rast znatno veći.
Kako prepoznati deepfake?
U samim počecima deepfakea moglo se lako prepoznati da se radi o manipulaciji. Fotografije su imale velik broj grešaka, dok su video zapisi bili mutni, a prikazane osobe imale su neprirodne pokrete.
Međutim, deepfake je napredovao i materijali su sve realističniji, zbog čega je teže prepoznati radi li se u umjetnoj inteligenciji ili stvarnom sadržaju. Stručnjake najviše brine činjenica što video materijali mogu biti manipulirani u realnom vremenu, primjerice tijekom video poziva.
Ono što može pomoći u prepoznavanju deepfakea je promatranje lica prikazane osobe. Posebnu pozornost usmjeri na pomicanje usana i usklađenost sa zvukom, oštrinu ili mutnoću crta lica i sličnosti boje kože lice s ostatkom tijela. Stručnjaci za cyber sigurnost tvrde da trenutačni programi za kreiranje deepfakeova nisu dovoljno dobri za stvaranje potpuno prirodnog izgleda zubi pa obrati pažnju i na njih. Mimika osoba u deepfake videu je pretjerana ili potpuno izostaje. Primjerice, osoba u videu uopće ne trepće ili trepće previše puta u sekundi. Osim toga, česta je pikselizacija tijekom pokreta rukom i na usnama tijekom govora.
Pregledaj ima li neprirodnih detalja na spornom materijalu. Ako su na fotografiji ili video zapisu ljudi, obrati pozornost na detalje poput prstiju, ušiju ili zubi i njihova položaja. Naime, umjetna inteligencija često griješi pa nije neobično da prikaže veći broj prstiju ili da nekome slučajno ukloni uši.
Također, sjene i odrazi često su tamo gdje ne bi trebali biti, objekti u pozadini često su bizarni i neprirodni, dok je tekst čudan i neprirodan.
Zbog realističnosti deepfakeova, čak i dobro informiranim odraslim osobama može biti teško prepoznati radi li se o obmanjujućem sadržaju. Upravo je zato važno podizati svijest o ovoj temi.
Osim sve potrebnije medijske pismenosti unutar školskog sustava, djecu je potrebno educirati od malih nogu. Dok su roditelji ranije učili djecu o izradi sigurne lozinke, danas moraju proširiti opseg tema o kojima moraju razgovarati, a jedna od njih definitivno je deepfake.
Zakonska regulacija
Deepfake tehnologija općenito je legalna, osim kada krši postojeće zakone poput dječje pornografije, govora mržnje ili klevete. Primjerice u Hrvatskoj kazneno djelo predstavljaju djela povezana s tzv. deepfake pornografijom, odnosno s korištenjem moderne tehnologije u svrhu manipulacije eksplicitnim sadržajem tako da se na fotografiji ili snimci digitalno zamijeni lik ili se pomoću moderne tehnologije izradi novi, manipulativni sadržaj s ciljem kršenja nečije privatnosti. Za ova kaznena djela propisana je zatvorska kazna do jedne godine, odnosno do tri godine ako je snimka postala dostupna većem broju ljudi.
Donedavno tehnologija nije bila toliko razvijena pa je bilo lakše raspoznati deepfake od stvarnog sadržaja. Trenutačno je sve teže raspoznati stvarne videozapise od deepfakeova, zbog čega raste svijest o potencijalnim opasnostima i posljedicama takve tehnologije, što će se sigurno prenijeti i na zakonodavce diljem svijeta.
Imaš dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji internet stoje ti na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svakim radnim danom od 8 do 16 sati. Osim toga, u bilo kojem trenutku se možeš anonimno obratiti našem AI chatbotu #BOB-u koji se nalazi u donjem desnom kutu na naslovnoj stranici #BoljiOnline.
Foto: Getty Images
