Iako je unikatan australijski način za korišćenje tehnologije za prepoznavanje lica već izazvao brojne kontroverze i podstakao nove strahove vezane za narušavanje privatnosti, pojavila se mogućnost da bi ova zemlja mogla da postane i svetski lider u regulisanju korišćenja ove tehnologije, piše BBC na srpskom.
Ako se neko u Zapadnoj Australiji razboli od kovida-19, on ili ona mora da ostane u kućnom karantinu narednih sedam dana – baš kao i bliski kontakti.
Policija proverava njihovo kretanje tako što periodično šalje tekstualne poruke i zahteve za slanjem selfija koji moraju da budu poslati u roku od 15 minuta.
Policija koristi tehnologiju za prepoznavanje lica i GPS praćenje, ne bi li utvrdila da je osoba koja je snimila selfi kod kuće. Ukoliko nije, ubrzo sledi dolazak na adresu i potencijalno visoka kazna.
Aplikacija G2G koju je napravio lokalni startap Genvis je korišćena više od 150.000 puta u ovoj državi od kada se pojavila u septembru 2020. godine.
Ista ta tehnologija, iako od drugih kompanija, isprobana je u državama Novi Južni Vels, Viktorija, Južna Australija i Tasmanija.
Australija je i dalje jedina demokratska država koja koristi tehnologiju prepoznavanja lica u cilju primene procedura zadržavanja zaraženih osoba, dok druge zemlje odbijaju ideju o takvoj vrsti nadzora građana.
San Francisko je bio prvi grad u Sjedinjenim Američkim Državama koji je uveo moratorijum protiv policijskog korišćenja prepoznavanja lica u maju 2019.
Oukland, takođe u Kaliforniji, se ubrzo pridružio tim merama, baš kao i Somervil u Masačusetsu.
Amazon, Majkrosoft, IBM i Gugl su objavili da neće prodavati njihove algoritme za prepoznavanje lica agencijama za sprovođenje zakona dok se ne pojavi zakon koji bi to regulisao na federalnom nivou.
U novembru 2021, kompanija Meta je objavila da će Fejsbuk izbrisati milijardu ,,otisaka lica“ i prestati da koristi ovu tehnologiju u cilju tagovanja ljudi na fotografijama.
Australijska Komisija za ljudska prava je pozvala na moratorijum na korišćenje ove tehnologije sve dok Australija ne dobije specifičan zakon koji će regulisati njeno korišćenje.
Aktivisti koji se bore za ostvarivanje ljudskih prava kažu da postoji potencijalna opasnost da će lični podaci koji su dobijeni na ovaj način biti iskorišćeni i u sekundarne svrhe, kao i da je to klizav teren koji može da dovede do uspostavljanja opšteg nadzora.
Grupe kao što je Amnesti Internešnal upozoravaju i da korišćenje tehnologije za prepoznavanje lica vodi ka rasnoj diskriminaciji.
„Pandemija je stvorila čitav set novih opravdanja za korišćenje tehnologije za prepoznavanje lica“, kaže Mark Andrejević, profesor medijskih studija na Monaš univerzitetu u Melburnu i autor knjige pod imenom Prepoznavanje lica.
„Sve je otišlo u javnost putem onlajn medija i organizacije su pokušavale da brzo završe ceo posao. Ali niko nije razmišljao o implikacijama.
Da li želimo da živimo u svetu u kojem se sve proverava i u kojem ne postoje privatni prostori? To stvara čitav novi nivo stresa koji ne vodi ka zdravom društvu“.
Bila je potrebna saglasnost da bi aplikacija G2G mogla da bude upotrebljena, između ostalog i zbog svega što se desilo nakon australijskog Crnog leta 2020, kada su oni koji su ostali bez identifikacionih dokumenata počeli da koriste tehnologiju za prepoznavanje lica da bi ostvarili svoja prava na pomoć u katastrofama.
Ipak, bilo je i slučajeva kada je tehnologija za prepoznavanje lica korišćena tajno.
U oktobru je obelodanjeno da je dragstor kompanija 7-Eleven narušila privatnost tako što je sakupila otiske lica svojih 1,6 miliona korisnika dok su popunjavali ankete o utiscima iz prodajnih objekata.
Navodno su ovi otisci pribavljeni ne bi li se stvorili demografski profili i da bi se osoblje dragstora sprečilo da manipuliše anketom u cilju podizanja sopstvenih rejtinga kao prodavaca. Kompanija nikada nije bila kažnjena zbog ovoga.
Australijsko Odeljenje unutrašnjih poslova je počelo da stvara bazu podataka sa otiscima lica 2016, odlučno da izgura ovaj projekat.
U januaru se pojavio i tender kojim se tražila kompanija koja će ,,stvoriti i razvijati“ ovakvu bazu podataka.
„Prepoznavanje lica je samo vrh ledenog brega relativno raširenog modela“, kaže Andrejević.
„Australija uspostavlja prepoznavanje lica ne bi li odobrila pristup vladinim službama. A agencije koje se bave primenom zakona, jedva čekaju da dobiju pristup ovakvim alatkama“.
Većina državnih uprava su stvorile centralne baze podataka uz pomoć vozačkih dozvola njenih građana, a u tim bazama se nalaze i vize i fotografije iz pasoša.
Zakon koji bi regulisao tehnologiju za prepoznavanje lica je predložen još 2019, ali je zaboravljen pošto je skupštinska komisija otkrila da mu nedostaju adekvatne mere za zaštitu privatnosti.
Među najvećim kritičarima ovakvog zakona je bio Edvard Santou, tadašnji poverenik za ljudska prava u Australiji.
„Sada se nalazimo u najgoroj mogućoj situaciji u kojoj ne postoji namenski zakon, tako da se korak po korak bavimo zaštitama koja nisu u punoj meri efikasne i koje svakako nisu sveobuhvatne“, kaže Santou.
„A tehnologija se, bez obzira na sve, razvija“.
Santou se sada, sa svojim timom sa Tehnološkog univerziteta u Sidneju, bavi načinima kako da se obezbedi snažna zaštita privatnosti.
Raznolik globalni odgovor
Deo projekta se bavi i izučavanjem načina na koji druge zemlje pokušavaju da regulišu tehnologije za prepoznavanje lica.
Pristupi se drastično razlikuju širom sveta. Najuobičajenije je oslanjanje na ograničene mehanizme za zaštitu privatnosti za koje Santou kaže da ne uspevaju da adekvatno pristupe problemu; takav je slučaj i u Australiji.
„Nijedna zemlja na svetu nije uspela da pronađe pravi put“, kaže Santou.
„Kada bi se prema zaštiti privatnosti ophodili na ispravan način, ovaj zakon bi bilo veoma jednostavno napisati“.
Lejla Našašibi je aktivistkinja pri američkoj zastupničkoj grupi Borba za budućnost, koja se bori za zabranu tehnologije za prepoznavanje lica i drugih oblika za biometrijsku obradu.
„Baš kao i nuklearna i biološka oružja, tako i prepoznavanje lica predstavlja pretnju ljudskom društvu i našim bazičnim slobodama koje su neuporedivo važnije od potencijalnih benefita“, kaže ona.
„Prepoznavanje lica ne liči ni na jednu drugu formu nadzora jer omogućuje automatsko i sveprisutno nadgledanje cele populacije i skoro da je nemoguće izbeći joj.
„Što se više bude širila ova tehnologija, ljudi će biti sve uplašeniji da se bave društvenim gibanjima i političkim protestima. Sloboda govora će biti zamrznuta“.
Kopanje po društvenim mrežama u potrazi za otiscima lica
Najistaknutiji snabdevač tehnologijom za prepoznavanje lica, američka kompanija Clearview AI, kao da nije obeshrabrena pravnim merama i pozamašnim kaznama koje se gomilaju na najrazličitijim instancama.
Oni su prvi put privukli pažnju medija kada je jedan milijarder iskoristio tehnologiju ne bi li saznao sa kim je na večeru izašla njegova ćerka, a trenutno je koristi ukrajinska vlada za identifikaciju mrtvih ruskih vojnika.
Njihove porodice se potom obaveštavaju o njihovoj smrti putem društvenih mreža, a uz poruku se ponekada šalje i sama fotografija.
Tehnologija je tražena i u školama u Sjedinjenim državama kao sistem za kontrolu posetilaca.
Smatra se da ona može da bude od pomoći u sprečavanju oružanih akcija u školama prepoznavanjem lica učenika koji su, recimo, izbačeni iz škole.
Tehnologija za prepoznavanje lica i predmeta različitih dobavljača je već isprobana u nekim školama, a u ovu grupu spada i tehnologija za prepoznavanje predmeta koji bi mogli da budu skriveno oružje.
„Klirvju AI eksploatiše ljudski strah i traumu navodeći da su nadzor i policija rešenje za probleme ove vrste“, kaže Našašibi.
Sa ovim se ne slaže Hoan Ton-That, direktor australijskog ogranka kompanije Clearview AI i njen osnivač.
On kaže da tehnologija za prepoznavanje lica ima ogroman potencijal u prevenciji zločina, jer je u stanju da osigura da samo ovlašćene osobe mogu da uđu u zgrade kakve su i škole.
,,Već smo imali priliku da vidimo kako se naša tehnologija sa velikim uspehom koristi u zaustavljanju krijumčarenja oružja i mi se nadamo da ona u budućnosti može da pomogne i u prevenciji oružanih zločina“, kaže on.
U Australiji se tehnologija za prepoznavanje lica koristi i na određenom broju stadiona u cilju prevencije terorističkih napada ili da bi se sprečilo da na stadion uđu fudbalski huligani kojima je zabranjen ulazak.
Andrejević veruje da korišćenje prepoznavanja lica kao sigurnosne mere predstavlja značajan pomak u nadziranju i da zahteva posebnu pažnju.
„CCTV sistem je najčešće kritikovan jer pruža dokaz nakon počinjenog dela, dok tehnologija za prepoznavanje lica u realnom vremenu daje informaciju koja bi mogla da spreči zločin“, kaže on.
„To je potpuno drugačiji koncept bezbednosti“.
Prepoznavanje lica u realnom vremenu se već koristi u nekim policijama širom sveta.
Tako, na primer, Gradska policija u Londonu tehnologiju koristi za osmatranja nekih gradskih oblasti tražeći ljude sa već postojećih lista za nadzor onih koji bi mogli da predstavljaju opasnost za javni red.
Klirvju je stvorio bazu podataka koja se može pretraživati, sa 20 milijardi lica, uglavnom skidajući fotografije sa društvenih mreža bez dozvole korisnika.
Ton-That kaže da kompanija ne radi sa autoritarnim režimima kao što su oni u Kini, Severnoj Koreji i Iranu.
Ipak, oni imaju probleme i u nekim demokratijama.
Zabranjeni su u Kanadi i Australiji, dok ih je 24. maja britanska Kancelarija poverenika za informisanje (ICO) kaznila sa devet miliona dolara posle zajedničke akcije sa Kancelarijom australijskog poverenika za informisanje.
Njima je bilo naređeno da izbrišu sve podatke iz svog sistema o britanskim državljanima.
U decembru 2021, jedna francuska organizacija za zaštitu privatnosti je otkrila da je Clearview prekršio Generalni evropski plan za regulaciju zaštite podataka (GDPR).
Santou kaže da postoji namera da se u Australiji razvije iznijansiran pristup koji će ohrabriti korišćenje pozitivnih aplikacija i zaštitnih mera radi sprečavanja zločina.
Najgori ishod bi bio kopiranje kineskog sistema „društvenih otplata“, u kojem se pojedinci i organizacije prate ne bi li se utvrdila njihova „valjanost“.
„U određivanju toga da li je korišćenje štetno ili korisno, mi se upućujemo na bazična međunarodna ljudska prava koja postoje u skoro svakoj instanci na svetu“, kaže Santou.
Tako bi, na primer, zakon morao da zahteva slobodan i odobren pristanak na korišćenje prepoznavanja lica.
Međutim, ukoliko tehnologija izaziva diskriminaciju koja se pojavljuje zbog određenih netačnosti u odnosu na specifične grupe, sam pristanak može da postane irelevantan.
Santou kaže: „Ne možete da date saglasnost da budete diskriminisani“.
Sve sofisticiraniji i moćniji
,,U narednih nekoliko godina, videćemo ogroman pomak u korišćenju lozinki, koje su apsolutno nesigurne. Biometrija će postati standard“, kaže O’Hara.
Prepoznavanje lica funkcioniše tako što se lice izdeli u seriju geometrijskih oblika i mapira razdaljina između glavnih orijentira, kakvi su nos, oči i usta.
Ove razdaljine se porede sa drugim licima i prevode u jedinstveni kod koji se naziva biometrijskim markerom.
,,Kada koristite aplikaciju za prepoznavanje lica da biste otključali svoj telefon, tu se ne radi o fotografiji vašeg lica koja je uskladištena u vašem telefonu“, objašnjava Geter O’Hara, glavni tehnolog u bezbednosnoj kompaniji Majmkast.
„On skladišti algoritamski izvor vašeg matematički definisanog lica. To izgleda kao jedan dugačak kod slova i brojeva“.
Prepoznavanje lica je prešlo dugačak put od trenutka kada je po prvi put razvijeno tokom 60-ih godina prošlog veka, iako sama mogućnost greške u značajnoj meri varira u zavisnosti od toga koji sistem danas koristimo.
Na početku je bilo nemoguće utvrditi razliku između braće ili sestara, kao i promene na licu tokom starenja.
Danas je tehnologija toliko sofisticirana da može da identifikuje lice određene osobe čak i ako na licu nosi masku ili naočare za sunce, a povrh svega to može da učini i sa udaljenosti veće od jednog kilometra.
Najbolji algoritam za prepoznavanje lica ima mogućnost greške od samo 0,08 odsto, pokazuju testovi Nacionalnog instituta za standarde i tehnologiju.
Pa ipak, ovaj nivo tačnosti je moguć samo u idealnim uslovima, kada je osvetljenje dobro i kada osoba koju kontrolišemo gleda u kameru.
Mogućnost greške za pojedince uslikane „na divlje“, može ići i do 9,3%.
„Ovo je neverovatno korisna tehnologija. Ali da nas je neko pre 20 godina, kada se internet tek zahuktavao, pitao da li želimo da živimo u društvu u kojem se naše interakcije i aktivnosti prate i sakupljaju, većina nas bi verovatno rekla da to zvuči jezivo“, kaže O’Hara.
„Danas ponovo pratimo ne samo onlajn, već i fizički svet. I ne postavljamo pitanja koja bi trebalo da pitamo“.
Jedan od najproblematičnijih aspekata je potencijal tehnologije za rasnom diskriminacijom i predrasudama.
Većina aplikacija za prepoznavanje lica koristi unapred podešene šeme koje nisu reprezentativne u smislu kompletnog obuhvata zajednice.
„U najranijim danima su korišćeni skupovi podataka koji su uzimani od belih muškaraca ili belih ljudi uopšte“, kaže O’Hara.
„Očigledno, to je dovelo do problema sa obojenim ljudima ili sa ljudima različitog etničkog porekla koji se ne poklapaju sa utvrđenim modelima. Ali na kraju dana, sve se svodi samo na matematiku. I to je problem“.
Kao rezultat svega toga, sistemi za prepoznavanje lica su skloni greškama u pokušajima prepoznavanja ljudi koji pripadaju manjinskim etničkim grupama, ženama, ljudima sa invaliditetom i starijim osobama.
Njihovo korišćenje je rezultiralo i nekim pogrešnim hapšenjima i drugim konsekvencama koje mogu da utiču na živote, ističe Našašibi.
Dipfejk tehnologija
Bez obzira da li se radi o otisku palca, skenu očne dužice, analizi hoda ili kapilarnom očitavanju, nijedna biometrija ne predstavlja potpun dokaz.
Kako tehnologija postaje sve sofisticiranija, tako su i hakerski pokušaji da se njima manipuliše sve napredniji.
Dipfejk se pojavio kao evolucija različitih tehnika za prevaru, naročito onih koje su u vezi sa digitalnim prepoznavanjem lica (fotografijama).
„Nekada je bilo potrebno i nekoliko sati da bi se uz pomoć alatki za animaciju stvorio dipfejk – danas je za to potrebno samo nekoliko minuta“, kaže Frančesko Kavali, jedan od osnivača kompanije Sensiti AI iz Amsterdama.
„Potrebna vam je samo jedna fotografija da biste napravili 3D dipfejk. To znači da prevaranti mogu da povećaju svoje operacije i napadi su sve brojniji.
„Čak ne morate da budete ni inženjer ili programer – sve sami možete da obavite. Postoji ogroman broj aplikacija koje vam dozvoljavaju da preslikate bilo čije lice“.
Sensiti AI pomaže vladama, finansijskim institucijama, pa čak i vebsajtovima koji se bave upoznavanjima da uoče lažne aplikacije, bez obzira da li se one bave dobijanjem finansijske pomoći za obolele od kovida, čuvanjem opranog novca na bankovnim računima ili ucenjivanjem nekoga na Tinderu.
Energetski infracrveni test određuje telesnu temperaturu i treptaje u trenutku kada se neko slika onlajn, što znači da će svaka fotografija „sintetičke“ osobe biti uočena.
„U nekom trenutku će prevaranti otkriti kako da prevaziđu ovakve modele, tako da u kontinuitetu moramo da otkrivamo nove tehnike“, kaže on.
Kad te „dipfejkuju“: „Nalepili su moje lice na porno snimak“
„Dipfejk je budućnost stvaranja sadržaja“
Bez obzira na izazove koji se pojavljuju na putu ka regulaciji podataka, Santou je optimista da će Australija postati svetski lider po pitanju regulacije prepoznavanja lica.
„Ne mogu da govorim u ime savezne ili federalne vlade, ali znam da i oni shvataju da postoji ozbiljna rezerva po tom pitanju u lokalnoj zajednici i da je neophodno izgraditi poverenje u tehnologiju“.
„Australija je iz mnogo razloga u stanju da napravi dobar model“, dodaje on.
„Imamo snažno institucionalno i korporativno poštovanje prema ljudskim pravima. Sve to možda i nije savršeno, ali je fundamentalno da spoznamo ko smo mi kao zemlja. Mi usvajamo ovu tehnologiju, ali je i razvijamo“.
„Mislim da najveći izazov leži u tome da ne stvaramo nepropusni zakon, već da budemo sigurni da se zakon ne izigrava“.