Kum virtualne stvarnosti radio je uz internetske vizionare i moćnike – ali najviše voli da ukazuje na nedostatke tehnologije. On govori o tome kako možemo učiniti da umjetna inteligencija radi za nas, kako nam internet uskraćuje pravo izbora – i zašto bi zabranio TikTok, piše The Guardian.
Jaron Lanier, kum virtualne stvarnosti i mudrac svega na webu, nosi nadimak Tužni optimist. Nikad nam njegov turobni optimizam nije bio potrebniji nego danas. Danas je teško pročitati članak ili poslušati podcast, a da nam proricatelji sudnjeg dana ne kažu da će nam umjetna inteligencija doći glave, da nam se vlastita oholost obija o glavu i da roboti preuzimaju svijet.
Postoje priče o chatbotovima koji postaju najbolji prijatelji, izjavljuju ljubav, pokušavaju poremetiti stabilne brakove i prijete haosom na globalnom nivou.
Je li umjetna inteligencija stvarno sposobna da nas nadmudri i preuzme svijet?
“U REDU! Pa, tvoje pitanje nema smisla”, kaže Lanier. »Upravo ste naveli niz tvrdnji koje su za mene izmišljotina. Žao mi je što tako odgovaram, ali to je smiješno… to je nerealno.” To su stvari iz naučno-fantastičnih filmova kao što su Matrix i Terminator, kaže.
Lanieru se čak ne sviđa ni termin umjetna inteligencija, jer osporava da ona uopšte može biti inteligentna i predstavljati konkurenciju ljudima. “Ta ideja da umjetna inteligencija može nadmašiti ljudske sposobnosti je glupa, jer ona i jeste napravljena od ljudskih sposobnosti.” Kaže da je poređenje sa umjetnom inteligencijom jednako poređenju sa automobilom. “To je kao da kažete da automobil može ići brže od čovjeka trkača. Naravno da može, a ipak ne kažemo da je automobil postao bolji trkač.”
Međutim, to ne znači da se možemo opustiti. Ostalo je mnogo razloga za brigu: izumiranje ljudske vrste ostaje jasna mogućnost ako budemo zloupotrebljavali umjetnu inteligenciju, jer čak i ako sami budemo krivi za sopstvenu propast, krajnji rezultat neće biti ništa ljepši.
Lanier, 62, radio je sa mnogim web vizionarima i moćnicima. On je i insajder (radi u Microsoftu kao interdisciplinarni naučnik, iako jasno daje do znanja da u ovom intervjuu govori u vlastito ime) i autsajder (stalno je, i namjerno, razotkrivao opasnosti koje predstavlja web).
Iako je tehnološki guru, njegova misija je da zagovara ljudsko nad digitalnim – da nas podsjeti da smo mi stvorili strojeve. U knjigama kao što su You Are Not a Gadget i Ten Reasons For Deleting Your Social Media Accounts , on tvrdi da internet umrtvljuje ličnu interakciju, guši inventivnost i izopačuje politiku.
Ne postoji ništa što se Lanieru sviđa više od pokazivanja da tehnologija može poći po zlu, osobito kada njome upravlja nekompetentan s druge strane. Pa prelazimo na konkurentski Zoom.
Često koristi muziku kako bi objasnio genijalnost i ograničenja tehnologije. Najjednostavnije, digitalna tehnologija radi na način uključivanja/isključivanja, poput tipki na klavijaturi, i nedostaje joj beskrajna raznolikost saksofona ili ljudskog glasa.
“Iz moje perspektive,” kaže on, “opasnost nije da će novi vanzemaljski entitet progovoriti kroz našu tehnologiju i preuzeti nas i uništiti. Za mene je opasnost da ćemo koristiti našu tehnologiju da postanemo međusobno nerazumljivi ili da postanemo ludi, ako želite, na način na koji ne djelujemo s dovoljno razumijevanja i vlastitog interesa da preživimo, i umiremo zbog ludila, u suštini .”
Smrt zbog ludila ne zvuči previše privlačno, a može se pojaviti u mnogim oblicima – od svjetskih vođa ili terorista koji se zajebavaju s globalnom sigurnosnom umjetnom inteligencijom do toga da su poludjeli zbog dezinformacija ili mržnje na Twitteru. Lanier kaže da, što tehnologija postaje sofisticiranija, to više štete možemo napraviti s njom i to više imamo “odgovornosti prema razumu”. Drugim riječima, odgovornost da se ponašamo moralno i humano.
Iako su mnogi digitalni gurui počeli kao idealisti, Lanier vjeruje da je bilo neizbježno da će nas internet zeznuti. Htjeli smo besplatne stvari (informacije, prijateljstva, muziku), ali kapitalizam ne funkcioniše tako. Tako smo mi postali proizvod – naši podaci su prodani trećim stranama kako bi nam prodali više stvari koje nam ne trebaju. “Napisao sam nešto što opisuje kako će se ono što sada nazivamo botovima pretvoriti u te agente manipulacije. To sam napisao ranih 90-ih kada je internet jedva bio uključen. O moj Bože, to je bilo prije 30 godina!”
Zapravo, on vjeruje da roboti kao što su OpenAI-jev ChatGPT i Googleov Bard mogu dati nadu digitalnom svijetu. Lanier je uvijek bio užasnut činjenicom da internet daje dojam da nudi beskrajne mogućnosti, ali zapravo smanjuje izbor. Do sada je primarna upotreba algoritama umjetne inteligencije bila odabir video zapisa koje želimo vidjeti na YouTubeu ili čije ćemo postove vidjeti na platformama društvenih medija. Lanier vjeruje da nas je to učinilo lijenima i neradoznalima. Prethodno bismo pregledavali hrpe u prodavaonici ploča ili listali u knjižarama. “Bili smo direktno povezani s bazom izbora koja je zapravo bila veća umjesto da nam se stvari propuštaju kroz lijevak koji netko drugi kontroliše.”
Za Laniera, klasičan primjer ograničenog izbora je Wikipedia, koja je zapravo postala svjetska enciklopedija. “Wikipediju vode super dobri ljudi koji su moji prijatelji. Ali stvar je u tome što je to kao jedna enciklopedija. Neki od nas možda se sjećaju kada su na papiru postojale Encyclopedia Britannica i Encyclopedia Americana i one su pružale različite perspektive. Ideja o savršenoj enciklopediji jednostavno je čudna.”
Dakle, mogu li novi chatbotovi to promijeniti? “Upravo. To je moja poenta. Ako odete na chatbot i kažete: ‘Možete li sumirati stanje u londonskoj podzemnoj željeznici?’ svaki put ćete dobiti različite odgovore. A onda morate odabrati.” Ova programirana slučajnost, kaže on, je napredak. “Odjednom je ta ideja da se kompjuter učini ljudskim otišla dovoljno daleko da smo možda prirodno prerasli tu iluziju o monolitnoj istini interneta ili umjetne inteligencije. To znači da osoba koja je u interakciji s tom tehnologijom ima malo više izbora, razbora i ljudskosti.”
Sve je to lijepo i dobro, ali što je s umjetnom inteligencijom koja će nas zamijeniti na radnom mjestu? Već postoji mogućnost da chatbotovi pišu članke poput ovog.
Lanier kaže da tehnologija neće zamijeniti nas, nego će se promijeniti način na koji je koristimo. “Postoje dva načina na koja bi se to moglo desiti. Jedan je da se pretvaramo da je bot stvarna stvar, stvarni entitet poput osobe, a zatim, kako bismo održali tu fantaziju, zaboravimo koji izvorni tekstovi su korišteni za funkcionisanje bota. Novinarstvo bi time bilo ugroženo. Drugi način je da pratite izvor informacija. U tom slučaju bi se mogao razviti sasvim drugačiji svijet u kojem, ako se bot oslanja na vaše izvještivanje, vi za to bivate plaćeni, a postoji i zajednički osjećaj odgovornosti gdje sve funkcioniše bolje. Izraz za to je dostojanstvo podataka.”
Ali Lanier upozorava na potencijalnu opasnost. “Možete upotrijebiti umjetnu inteligenciju da lažne vijesti napravite brže, jeftinije i u većim razmjerima. Ta kombinacija je ono što bi moglo dovesti do našeg izumiranja.”
U You Are Not a Gadget napisao je da je svrha digitalne tehnologije učiniti svijet “kreativnijim, izražajnijim, empatičnijim i zanimljivijim”. Je li ona to postigla? “U nekim slučajevima jest. Ima mnogo zgodnih stvari na internetu. Mislim da je TikTok opasan i da ga treba zabraniti, ali volim plesnu kulturu na TikToku i treba je njegovati.” Zašto bi to trebalo zabraniti? “Budući da ga kontrolišu Kinezi, a ako dođe do teških okolnosti, postoji mnogo užasnih taktičkih namjena u koje bi se mogao upotrijebiti. Mislim da to nije prihvatljiv rizik. Srceparajuće je jer ga mnoga djeca vole iz savršeno dobrih razloga.”
Što se tiče Twittera, kaže da je izvukao ono najgore iz nas. “Ima načina da ljude koji počinju kao različite osobe spoji u istu ličnost, optimizovanu za angažman na Twitteru. Ta je ličnost nesigurna i nervozna, usredotočena na lične uvrede i uvrijeđena zahtjevima za pravima od strane drugih ako su drugi ljudi. Primjer koji koristim su Trump, Kanye i Elon [Musk, koji sada posjeduje Twitter]. Prije deset godina imali su različite lične osobine, ali su postali nevjerojatno slični. Mislim da je to osobnost koju dobijete ako provodite previše vremena na Twitteru. Pretvara vas u malo dijete u školskom dvorištu koje očajnički traži pažnju i boji se da će biti pretučen. Na kraju postaneš taj lažnjak koji je zabrinut za sebe, ali gubi empatiju za druge. ” To je briljantna analiza koja se vraća na njegovu izvornu poentu – našu odgovornost prema razumu. Tjera li Laniera odgovornost prema vlastitom razumu da se drži podalje od društvenih medija? Smiješi se. “Uvijek sam mislio da su društveni mediji sranje. Očito su od početka bili glupost.”
Mnogo je toga na internetu na šta je još uvijek ponosan. Kaže da se slušalice za virtualnu stvarnost koje se sada koriste malo razlikuju od onih koje je predstavio 1980-ih, a njegov rad na hirurškoj simulaciji imao je ogromne praktične koristi. “Znam mnogo ljudi čiji su životi spašeni razvojem tehnologije koju sam demonstrirao prije 40 godina. O moj Bože! Sada sam tako star!” Prestao se pitati preuveličava li svoj uticaj, naglašavajući da je bio uključen samo na početku. Takođe postoji ogroman potencijal, kaže on, da nam umjetna inteligencija pomogne u borbi protiv klimatskih promjena i spasi planetu.
Ali takođe je vidio najgore od umjetne inteligencije. “Poznajem ljude čija su djeca počinila samoubojstvo s vrlo jakim doprinosom online algoritma. Dakle, u tim slučajevima je oduzet život. Možda nije moguće iz ove jedne ljudske perspektive sa sigurnošću reći što bi nam ogromna računovodstvena knjiga sada rekla, ali kakav god taj odgovor bio, siguran sam da smo mogli učiniti bolje, i siguran sam da možemo i moramo učiniti bolje u budućnosti.”
Opet ta riječ, čovjek. Način da osiguramo da smo dovoljno zdravi da preživimo jeste da zapamtimo da nas naša ljudskost čini jedinstvenima, kaže on. “Mnogi moderni prosvjetiteljski mislioci i tehnološki stručnjaci smatraju da postoji nešto staromodno u vjerovanju da su ljudi posebni – da je svijest to što nas čini posebnim. Skloni su misliti da postoji istovjetnost između računara i ljudskog mozga.” Lanier odgovara: “Moramo reći da je svijest to što nas izdvaja i da postoji mistična unutrašnjost ljudi koja se razlikuje od drugih stvari, jer ako ne vjerujemo da su ljudi posebni, kako možemo stvoriti društvo ili tehnologiju koji služe ljudima?”