Sredinom 2016. godine Aviv Ovadya je shvatio da je nešto veoma
pogrešno sa internetom— toliko pogrešno da je ostavio svoj posao i oglasio
uzbunu. Nekoliko sedmica prije predsjedničkih izbora u Americi 2016. godine,
izrazio je svoju zabrinutost tehnolozima u San Francisku i upozorio na dolazeću
krizu dezinformacija u prezentaciji naslovljenoj “Infocalypse”, piše BuzzFeed News.
Informacioni
ekosistem koji se razvio na Internetu je veoma nezdrav, tvrdi Ovadya u svojoj
prezentaciji. Najveće platforme na Internetu su tako programirane da nagrađuju
informacije koje često zavaravaju ljude ili produbljuju društvene podjele, ili i
jedno i drugo. Platforme kao što su Facebook, Twitter, i Google prednost daju
klikovima, dijeljenjima, reklamama i novcu nad kvalitetom informacija, i Ovadya
se nije mogao osloboditi osjećaja da sve to vodi ka nečemu lošem — nekoj vrsti
kritičnog praga zaraznih i toksičnih dezinformacija. Njegovu prezentaciju su
tada najvećim dijelom ignorisali.
Ovadya je
mjesecima prije svih drugih vidio da su naše platforme i algoritmički optimizovan
svijet ranjivi na propagandu i dezinformacije, do te mjere da to podriva
temelje našeg ljudskog diskursa: kredibilitet činjenica.
Ali ono što će
nas istinski uplašiti jeste ono što Ovadya dalje predviđa.
Budućnost će
donijeti jednostavnu i neprimijetnu tehnologiju za manipulisanje percepcije i
lažiranje stvarnosti.
Zbog toga je
Ovadya, koji je diplomirao na MIT-u i radio kao inženjer za tehnološke
kompanije kao što je Quora, ostavio sve početkom 2016. godine da bi pokušao
spriječiti ono što je vidio kao krizu informacija.
Danas Ovadya i
grupica istraživača i akademskih radnika zabrinuto gledaju u budućnost, koja je
alarmantno distopijska. Oni prave scenarije na osnovu tehnologija koje su
počele da se pojavljuju i rezultati su obeshrabrujući.
Za Ovadya — koji
je sada glavni tehnolog u Centru za odgovornost društvenih medija na Univerzitetu
u Mičigenu i stipendista programa inovacija Knight News u Centru za digitalnu
žurnalistiku na Kolumbiji — šok i zabrinutost zbog ruskih reklama na Facebooku i
botova na Twitteru blijedi u poređenju sa većom prijetnjom: Tehnologije koje se
mogu upotrijebiti da prošire i iskrive stvarnost razvijaju se brže od naše
sposobnosti da ih razumijemo, kontrolišemo ili ublažimo. Moguće posljedice su
katastrofalnije od uplitanja stranih država u izbore — podrivanje ili rušenje
osnovnih institucija civilizacije, “infokalipsa”.
Situacija je
sve gora zbog toga što smo sve vještiji u korištenju kompjutera; gora zbog
stalnog napretka umjetne inteligencije i mašinskog učenja koje može brisati
granice između činjenica i fikcije; gore zbog toga što bi nas te stvari mogle
odvesti u budućnost gdje bi svako mogao pokazati da se nešto dogodilo, bez
obzira da li zaista jeste.
Ovadya upozorava
da bi brzorazvijajuća umjetna inteligencija, mašinsko učenje i proširena
stvarnost mogli biti zloupotrebljeni kako bi se vodio informativni rat.
I bliže smo
nego što mislimo potencijalnoj infokalipsi. Već dostupni alati za audio i video
manipulaciju počeli su da izgledaju kao potencijalne lažne vijesti. U mračnim
kutovima interneta, ljudi su počeli koristiti algoritme mašinskog učenja i open-source programe da jednostavno
naprave pornografske video snimke koji realistično montiraju lica slavnih
ličnosti ili bilo koga drugog na tijelo glumaca. U institucijama kao što je
Stanford, tehnolozi su napravili programe pomoću kojih se može manipulisati video
snimcima tako što se u realnom vremenu mogu pronaći lica ljudi i montirati u
videu. Slično, na Univerzitetu u Vašingtonu kompjuterski stručnjaci napravili
su program koji može pretvoriti audio snimke u realističan video osobe koja
izgovara te riječi.
Kako ovi alati
budu dostupni za široku upotrebu, Ovadya upozorava da bi najgori scenario mogao
biti izuzetno destabilizujući.
Postoji
diplomatska manipulacija, u kojoj maliciozni akteri koriste naprednu
tehnologiju da stvore uvjerenje da se događaj desio i da tako utiču na
geopolitiku. Zamislite, na primjer, algoritam mašinskog učenja (koji analizira
gomilu podataka kako bi sebe naučio da izvrši određenu funkciju) u koji je
pohranjeno na stotine sati snimaka Donalda Trumpa ili sjevernokorejskog
diktatora Kim Jong Una, i koji onda može izbaciti gotovo savršene i gotovo nerazlučive
od stvarnosti – audio ili video snimke ovih lidera kako proglašavaju nuklearni
ili biološki rat. “To ne mora biti savršeno – samo dovoljno dobro da bi navelo
neprijatelja da pomisli da se nešto desilo i da isprovocira refleksnu reakciju
kao odmazdu.”
Drugi scenario
je zloupotreba političkih botova koji manipulišu politikom lažnim građanskim
inicijativama. U njegovim predviđanjima, sve uvjerljiviji botovi koje pokreće
umjetna inteligencija biće sposobni da se ravnopravno takmiče sa pravim ljudima
za pažnju zakonodavaca jer će biti suviše teško uočiti razliku. Uskoro će možda
biti moguće direktno zatrpati ekrane u
Kongresu srceparajućim, uvjerljivim algoritmički proizvedenim molbama građana. Slično
tome, senatora bi mogli biti bombardovani elektronskim porukama od građana koje
je sastavio mašinski program koji radi tako što spaja dijelove sadržaja
preuzetih sa društvenih mreža.
Zatim postoji
taktika o kojoj, kaže Ovadya, stručnjaci za bezbjednosti već šapuću. Umjetna
inteligencija se koristi da skenira stvari kao što je naše prisustvo na
društvenim mrežama i da napravi lažne ali uvjerljive poruke od ljudi koje
znamo. Prema mišljenju Ovadya, to omogućava zlonamjernima da odaberu bilo koga
i da naprave uvjerljivu imitaciju te osobe koristeći podatke dostupne javnosti.
“Prije je bilo potrebno da čovjek oponaša
nečiji glas ili da napravite autentičan lažni razgovor – u ovoj verziji možete
samo pritisnuti dugme koristeći javno dostupan softver,” kaže Ovadya. “To je
novina – kada svako to može raditi jer je trivijalno. Onda je to potpuno druga
priča.”
Zamislite, kaže
Ovadya za BuzzFeed, poruke koje pokušavaju da izvuku povjerljive informacije
kao što su šifre, brojevi kreditnih kartica i slično, pretvarajući se da stižu
od provjerenog izvora. “Ne samo neki email, već email od prijatelja kojeg ste
već neko vrijeme nestrpljivo očekivali da se javi,” kaže on. “I zbog toga što
bi bilo lako napraviti stvari koje su lažne, bili biste preplavljeni takvim
porukama. Ako bi svaki spam koji primate izgledao identično mailovima od
stvarnih ljudi koje poznajete, a svako od njih pokušava da vas ubijedi u nešto,
vi biste na kraju rekli, u redu, ignorisaću svoju inbox.’”
To može
dovesti do apatije: zatrpani lavinom konstantnih dezinformacija, ljudi će
jednostavno početi da odustaju. Ljudi će prestati obraćati pažnju na vijesti i
taj temeljni nivo informisanosti potreban za funkcionalnu demokratiju postaće
nestabilan.
Pored toga,
postoje i drugi zastrašujući scenariji koje Ovadya opisuje, kao što je crno
tržište društvenih medija sa ljudima umjesto botova. “To je buduće međunarodno
tržište za naivne ljude,” kaže on.
Njegova predviđanja
su naročito zastrašujuća imajući u vidu lakoću sa kojom su demokratska društva
već izmanipulisana najrudimentarnijim tehnikama dezinformisanja. Prevare, obmane
i zbunjivanje koje slijede nisu ništa novo; samo će to biti sofisticiranije,
teže za uočiti i djelovaće zajedno sa drugim tehnološkim silama koje ne samo da
nisu poznate, već su teške za predvidjeti, tvrdi Ovadya u intervjuu za
BuzzFeed.
Za one koji
obraćaju pažnju na razvoj umjetne inteligencije o mašinskog učenja, ništa od
ovog se ne čini kao nešto posebno. Softver koji trenutno razvija proizvođač
čipova Nvidia već može napraviti ubjedljve hiperrealistične slike predmeta,
ljudi i čak neke pejzaže na osnovu desetina hiljada slika. Adobe trenutno pilotira
dva projekta Voco i Cloak — prvi je “photoshop za audio”, a drugi je alat koji
može neprimijetno ukloniti predmete i ljude iz videa u samo nekoliko poteza.
Erozija
autentičnosti i integriteta zvaničnih izjava je najopasnija i najalarmantnija od
ovih budućih prijetnji. “Bilo da je umjetna inteligencija, naročito
manipulativni hakovi ili lažni politički aktivizam – ove tehnologije vode ka
sve većoj eroziji povjerenja,” kazao je istraživač kompjuterizovane propagande Renee
DiResta. “To omogućava bacanje sumnje u vezi sa tim da li su video snimci ili
zagovaračke kampanje stvarni.” Ne morate lažirati video da biste imali ozbiljan
uticaj. Samo ukažete na činjenicu da postoji tehnologija koja to omogućava i
možete osporiti integritet nečega što je stvarno.
“Ja pripadam slobodnoj i open source kulturi — cilj nije da se
zaustavi tehnologija već da se osigura da smo u ekvilibriju koji je pozitivan
za ljude. Tako da ja ne upozoravam samo da će se “to desiti”, već govorim “ozbiljno
razmotrite I preispitajte posljedice,” kazao je Ovadya za BuzzFeed News.
Ovadya je ipak
optimista. Više je interesovanja za kompjutersku propagandu nego ikada ranije i
oni koji su ranije oklijevali da shvate ozbiljno ove prijetnje sada su mnogo
otvoreniji za upozorenja. Takođe, postoje i moguća rješenja, kao što je
kriptografska verifikacija slika i audio snimaka, koja bi mogla pomoći u
razlikovanju stvarnosti od manipulacije.
Ovadya i drugi
upozoravaju da će narednih nekoliko godina biti teško jer Internet platformama
još uvijek upravljaju pogrešni, senzacionalistički motivi, gdje su clickbait i
sadržaji lošijeg kvaliteta nagrađeni većom pažnjom. “To je tvrd orah za
slomiti, a kada to još spojite sa sistemom kao što je Facebook, koji ubrzava
sadržaj, to postaje veoma opasno.”