Gotovo svaka šesta poslanica Evropskog parlamenta našla se na meti seksualno eksplicitnih sadržaja napravljenih ili povezanih sa vještačkom inteligencijom, pokazalo je istraživanje njemačke organizacije Agora Digitale Transformation.
Analiza je identifikovala 50 članova Evropskog parlamenta koji su bili prikazani ili pomenuti u kontekstu takozvane deepfake pornografije. Čak 46 njih su žene, što ukazuje na izrazitu rodnu neravnopravnost među žrtvama ove vrste digitalnog seksualnog nasilja.
Problem se, međutim, ne odnosi samo na političare. Šire istraživanje iste organizacije obuhvatilo je 5.872 aktuelna parlamentarca iz 22 evropske zemlje, a rezultati pokazuju da su političarke višestruko češće mete ovakvih zloupotreba od svojih muških kolega.
Kako nastaju lažne seksualne fotografije?
Deepfake seksualni sadržaj nastaje korištenjem generativne vještačke inteligencije za izradu lažnih fotografija, video-snimaka ili drugih materijala u kojima se osoba prikazuje u seksualnom kontekstu bez njenog pristanka.
Jedan od najčešće pominjanih oblika zloupotrebe jesu takozvane „nudifier“ aplikacije. One koriste AI kako bi fotografiju odjevene osobe digitalno izmijenile i proizvele lažni prikaz nagog tijela.
Političari su posebno izloženi jer se njihove fotografije, televizijski snimci i drugi materijali u velikoj mjeri već nalaze javno na internetu.
To omogućava da se fotografije javnih ličnosti jednostavno preuzmu i koriste kao materijal za pravljenje seksualizovanih deepfake sadržaja.
Žene čak 33 puta češće mete od muškaraca
Rezultati šireg istraživanja posebno ukazuju na ogromnu razliku između muškaraca i žena.
Od 5.872 analizirana parlamentarca, najmanje 138 političarki iz 22 evropske zemlje bilo je prikazano ili pomenuto na stranicama povezanim sa deepfake pornografijom.
Istovremeno, takav sadržaj pronađen je u vezi sa samo devet muškaraca.
Istraživači navode da, kada se uzmu u obzir faktori poput starosti, porijekla, političkog opredjeljenja, javne prepoznatljivosti i nacionalnog zakonodavstva, žene u parlamentima imaju čak 33 puta veću vjerovatnoću da budu povezane sa takvim sadržajem nego muškarci.
Podaci tako ukazuju da problem nije samo posljedica veće medijske izloženosti pojedinih političarki, već da postoji izražena rodna dimenzija digitalnog seksualnog nasilja.
AI alati nisu jedini dio problema
Benjamin Šulc, jedan od autora istraživanja, upozorava da eventualna zabrana pojedinačnih AI aplikacija sama po sebi ne bi riješila problem.
Prema njegovom mišljenju, odgovornost bi trebalo proširiti i na infrastrukturu koja omogućava njihov rad – uključujući pružaoce platnih usluga, kompanije koje registruju internet domene i druge posrednike.
Razmatra se i mogućnost uklanjanja takvih internet stranica iz rezultata pretraživača.
Poseban problem predstavljaju stranice koje funkcionišu kao svojevrsni katalozi javnih ličnosti. One mogu sadržavati biografije i obične fotografije političara, ali istovremeno korisnicima nuditi direktne veze ka AI alatima pomoću kojih se seksualizovane lažne fotografije mogu napraviti u nekoliko koraka.
Na taj način se, prema istraživanju, značajno smanjuje tehnička prepreka za zloupotrebu.
EU priprema stroža pravila
Evropska unija u međuvremenu priprema dodatne mjere protiv zloupotrebe vještačke inteligencije za izradu seksualnih i intimnih sadržaja bez pristanka.
Države članice podržale su izmjene evropskih pravila o vještačkoj inteligenciji kojima bi određeni sistemi za generisanje takvog sadržaja bili eksplicitno zabranjeni.
Među njima su i alati namijenjeni pravljenju seksualizovanih deepfake sadržaja, kao i sistemi povezani sa materijalom seksualnog zlostavljanja djece.
Istovremeno, 119 poslanika Evropskog parlamenta iz različitih političkih grupacija uputilo je 30. septembra pismo čelnicima institucija EU, tražeći efikasniju primjenu zabrana i brže okončanje istrage protiv AI alata Grok, koji je integrisan u društvenu mrežu X.
Pismo je upućeno predsjednici Evropske komisije Ursuli fon der Lajen, predsjedniku Evropskog savjeta Antoniju Košti i predsjednici Evropskog parlamenta Roberti Metsoli.
Zašto je pod istragom Grok?
Evropska komisija ranije je pokrenula formalnu istragu protiv platforme X zbog mogućnosti generisanja seksualno eksplicitnih lažnih sadržaja pomoću Groka.
U fokusu je i pitanje da li je kompanija adekvatno procijenila i smanjila rizike koje takav sistem može predstavljati za korisnike u EU.
Evropski Zakon o digitalnim uslugama (DSA) velikim internet platformama nameće obavezu da preduzimaju mjere protiv širenja nezakonitih sadržaja i da procjenjuju i umanjuju sistemske rizike koji proizlaze iz njihovih usluga.
Zbog toga se slučaj Groka posmatra i kao test sposobnosti evropskih institucija da postojeća pravila primijene na brzo razvijajuće AI tehnologije.
Deepfake pornografija prijeti i političkom učešću žena
Razmjere problema pokazuju i podaci Evropskog parlamenta. Prema njegovim navodima, broj deepfake snimaka na internetu povećan je za 550 odsto između 2019. i 2023. godine.
Seksualno eksplicitni materijali čine oko 98 odsto svih deepfake videa, dok žene predstavljaju oko 99 odsto identifikovanih žrtava deepfake pornografije.
Posljedice zato nisu samo pitanje privatnosti ili reputacije.
Evropski parlament upozorava da ovakve zloupotrebe mogu imati i šire društvene i političke posljedice – od psihološke štete i zastrašivanja do odvraćanja žena od javnog angažmana.
Ako političarke zbog straha od seksualizovanih deepfake napada počnu izbjegavati javno istupanje, kandidovanje ili korištenje društvenih mreža, problem prestaje biti samo pitanje tehnološke zloupotrebe.
Postaje i pitanje slobode političkog djelovanja i ravnopravnog učešća žena u demokratskom životu.