Vještačka inteligencija postala je toliko uspješna u stvaranju realističnih ljudskih lica da je sve teže utvrditi da li gledamo fotografiju stvarne osobe ili sliku koju je napravila mašina.
Psihološkinja dr Clare Sutherland sa Univerziteta u Aberdeenu i njene kolege iz Australije pokušali su odgovoriti na važno pitanje: mogu li ljudi naučiti prepoznavati AI deepfake fotografije?
Dosadašnja istraživanja pokazuju da mogu, ali više nije dovoljno tražiti očigledne greške poput šestog prsta, neobičnih minđuša ili deformisanih dijelova lica. AI sistemi brzo napreduju i takve propuste prave sve rjeđe, piše BBC.
„Obuka zasnovana na traženju vizuelnih grešaka imala je ograničen uspjeh, djelimično zato što je vještačka inteligencija postala veoma dobra, ali i zato što prevaranti svakako izbjegavaju fotografije sa očiglednim nedostacima“, objasnila je profesorica Amy Dawel.
Ona vodi Laboratoriju za emocije i lica pri Australijskom nacionalnom univerzitetu i međunarodni tim istraživača iz Australije, Kanade i Velike Britanije.
Kako steći osjećaj za lažne fotografije
Sutherland kaže da su istraživači, nakon što su duže posmatrali fotografije, počeli intuitivno prepoznavati koja su lica stvarna, a koja generisana pomoću vještačke inteligencije.
„Pomislili smo da bi bilo veoma zanimljivo provjeriti možemo li tome naučiti i druge ljude“, kazala je.
Za potrebe eksperimenata napravljen je skup od nekoliko hiljada AI lica pomoću programa StyleGAN3, jednog od najrealističnijih generatora ljudskih lica.
Učesnici su testirani prije i nakon obuke, tokom koje im je pažnja usmjerena na šest osobina karakterističnih za AI fotografije.
Šest znakova da je lice možda napravila vještačka inteligencija
1. Pretjerana simetrija
Vještačka inteligencija često ne uspijeva reprodukovati male nesavršenosti koje ljudska lica čine prirodnim, poput blago spuštenog kapka, nejednakih obrva ili asimetričnog osmijeha.
Ukoliko lice djeluje suviše savršeno i simetrično, moguće je da nije stvarno.
2. Prosječne proporcije
Veoma veliki nosevi, istaknute uši i druge upečatljive proporcije rjeđe se pojavljuju na AI licima. Generisana lica često izgledaju skladno, ali i pomalo prosječno.
3. Privlačniji izgled
„AI lica obično izgledaju privlačnije“, objašnjava Sutherland.
Ovo je subjektivan kriterijum, ali sistemi za generisanje slika često stvaraju prijatna, uređena i estetski dopadljiva lica.
4. Nedostatak posebnosti
Jedno od pitanja koje su istraživači postavljali učesnicima bilo je: da li bi se ovo lice izdvojilo u mnoštvu?
Lica koja generiše AI često se približavaju nekom zamišljenom prosjeku, pa mogu izgledati generički i bez karakterističnih osobina.
5. Manje emocija
AI lica često djeluju manje emotivno i izražajno. Osmijeh može biti tehnički pravilan, ali bez prirodne topline i sitnih promjena koje se vide na stvarnom ljudskom licu.
6. Teže ih pamtimo
Generisana lica često ostavljaju slabiji utisak i teže ih je zapamtiti. Upravo ta bezličnost može biti jedan od znakova da fotografija nije autentična.
Vještačka inteligencija takođe je manje uspješna u stvaranju uvjerljivih fotografija starijih ljudi, djece i osoba koje nisu bijele puti. Razlog je to što su skupovi podataka na kojima se ovi sistemi obučavaju često prepuni fotografija mladih bijelaca.
Tačnost se nakon obuke udvostručila
Nijedan od navedenih znakova sam po sebi nije siguran dokaz da je riječ o deepfake fotografiji. Cilj obuke jeste da ljudi postepeno razviju osjećaj za kombinaciju osobina koje su karakteristične za AI lica.
Istraživači su učesnicima pokazivali stvarne i generisane fotografije, a zatim im otkrivali tačne odgovore.
Nakon približno sat vremena obuke njihova prosječna uspješnost porasla je sa oko 40 na 80 odsto. Pojedini učesnici dostigli su gotovo stopostotnu tačnost.
Ironično je da ljudski mozak u ovom slučaju uči slično kao generativna vještačka inteligencija: što više primjera vidi i što više povratnih informacija dobije, postaje precizniji, čak i kada ne može potpuno objasniti kako je došao do zaključka.
Najsamouvjereniji ljudi često najviše griješe
Prethodna istraživanja pokazala su da ljudi uglavnom precjenjuju svoju sposobnost prepoznavanja AI lica. Najsamouvjereniji učesnici nerijetko su pravili i najviše grešaka.
Nakon obuke nisu postali samo precizniji nego i sigurniji u odgovore koje daju.
„To je važno jer, ukoliko ne znate kada ste u pravu, tu informaciju ne možete korisno primijeniti“, kaže Sutherland.
Zašto je važno prepoznati deepfake?
Najveća neposredna opasnost jeste finansijska prevara.
Konsultantska kompanija Deloitte procjenjuje da bi gubici od prevara pomoću AI deepfake sadržaja samo u Sjedinjenim Američkim Državama do 2027. godine mogli porasti na 40 milijardi funti. U 2023. godini iznosili su oko 12 milijardi.
U jednom od poznatijih slučajeva zaposleni u kompaniji iz Hong Konga prebacio je prevarantima oko 25 miliona funti nakon videopoziva na kojem je razgovarao sa deepfake verzijom svog šefa i drugih kolega.
Deepfake tehnologija može se koristiti i za političku špijunažu i manipulaciju.
Associated Press je još 2019. godine otkrio da je LinkedIn profil žene koja se predstavljala kao Katie Jones najvjerovatnije bio lažan. Navodno je radila kao stručnjakinja za Rusiju i Evroaziju i bila povezana sa uticajnim političkim krugovima u Washingtonu.
Istraga je pokazala da fotografija vjerovatno prikazuje lice koje je napravila vještačka inteligencija. Profil je, uprkos tome, uspio stupiti u kontakt sa visokim američkim političkim savjetnicima i stručnjacima za nacionalnu bezbjednost.
Zbog takvih opasnosti u Australiji se razmatra obaveza jasnog označavanja i digitalnog „vodenog žiga“ na političkim sadržajima generisanim vještačkom inteligencijom.
AI može imati i korisnu primjenu
Sutherland naglašava da vještačka inteligencija ne mora biti korištena isključivo za obmanu.
Jedna od pozitivnih primjena jeste brzo i relativno jeftino stvaranje fotografija koje pokazuju kako bi dijete nestalo prije mnogo godina moglo izgledati danas.
„Kada ljudi ovu tehnologiju koriste u dobroj namjeri i kada je jasno naznačeno da je korištena vještačka inteligencija, ona može biti veoma korisna u kreativnom radu“, kaže Sutherland.
Dobra vijest je da još nismo stigli do svijeta u kojem je potpuno nemoguće razlikovati stvarno od kompjuterski generisanog.
Loša vijest je da su AI sistemi možda već analizirali i naučne radove koji objašnjavaju kako ih ljudi prepoznaju. A vještačka inteligencija nastavlja učiti.