Potpisnici se brinu da su laboratorije veštačke inteligencije
„zaključane u trci van kontrole“ da bi razvile i primenile sve moćnije
sisteme koje niko – uključujući njihove kreatore – ne može da razume,
predvidi ili kontroliše.
Šta objašnjava ovaj izliv panike među određenom kohortom elita? Kontrola i regulacija su očigledno u centru priče, ali čija?
Tokom predložene polugodišnje pauze kada čovečanstvo može da sagleda
rizike, ko će se zalagati za čovečanstvo? Pošto će laboratorije
veštačke inteligencije u Kini, Indiji i Rusiji nastaviti svoj rad (možda
u tajnosti), globalna javna debata o ovom pitanju je nezamisliva.
Ipak, treba da razmotrimo šta je u pitanju.
U svojoj
knjizi Homo Deus iz 2015. istoričar Juval Harari je predvideo da će
najverovatniji ishod AI biti radikalna podela – mnogo jača od klasne
podele – unutar ljudskog društva.
Uskoro će biotehnologija i kompjuterski algoritmi udružiti svoje
moći u proizvodnji „tela, mozgova i umova“, što će rezultirati sve
većim jazom „između onih koji znaju kako da konstruišu tela i mozak i
onih koji ne znaju“.
U takvom svetu, „oni koji se voze vozom
napretka steći će božanske sposobnosti stvaranja i uništenja, dok će
se oni koji su ostali suočiti sa izumiranjem“.
Panika
koja se ogleda u pismu proizilazi iz straha da čak i oni koji su u
„vozu napretka“ neće moći njime da upravljaju. Naši sadašnji digitalni
feudalni gospodari su uplašeni. Ono što oni žele, međutim, nije javna
debata, već dogovor između vlada i tehnoloških korporacija da zadrže
vlast tamo gde joj je mesto.
Ogromno širenje AI sposobnosti
predstavlja ozbiljnu pretnju onima na vlasti – uključujući one koji
razvijaju, poseduju i kontrolišu AI.
To ukazuje na ništa manje
nego na kraj kapitalizma kakvog ga poznajemo, koji se manifestuje u
perspektivi sistema veštačke inteligencije koji se samo-reprodukuje,
kome će biti potrebno sve manje i manje doprinosa od ljudskih agenata
(algoritamsko tržišno trgovanje je samo prvi korak u ovom pravcu).
Izbor koji nam ostaje biće između novog oblika komunizma i nekontrolisanog haosa.
Novi
chat botovi će mnogim usamljenim (ili ne tako usamljenim) ljudima
ponuditi beskrajne večeri prijateljskog dijaloga o filmovima, knjigama,
kuvanju ili politici.
Da ponovo upotrebim moju staru metaforu, ono što će ljudi dobiti je
AI verzija kafe bez kofeina ili sode bez šećera: prijateljski sused bez
kostura u svom ormanu, Drugi koji će se jednostavno prilagoditi vašim
potrebama.
Ovde
postoji struktura fetišističkog odricanja: „Ja dobro znam da ne
razgovaram sa stvarnom osobom, ali osećam se kao da razgovaram i to bez
ikakvih pratećih rizika!“
U svakom slučaju, pomno ispitivanje
pisma pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je
stari paradoks: nama kao ljudima nemoguće je da učestvujemo u
post-ljudskoj budućnosti, pa moramo zabraniti njen razvoj.
Da
bismo se orijentisali oko ovih tehnologija, trebalo bi da postavimo
Lenjinovo staro pitanje: Sloboda, za koga? U kom smislu smo ranije bili
slobodni? Zar nismo već bili kontrolisani mnogo više nego što smo
shvatali? Umesto da se žalimo na ugrožavanje naše slobode i dostojanstva
u budućnosti, možda bi prvo trebalo da razmislimo šta sloboda znači
sada.
Dok to ne uradimo, ponašaćemo se kao histeričari koji,
prema francuskom psihoanalitičaru Žaku Lakanu, očajnički traže majstora,
ali samo onog kojim možemo da dominiramo.
Futurista Rej Kurcvajl
predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog
napretka, uskoro imati posla sa „duhovnim“ mašinama koje ne samo da će
pokazivati sve znake samosvesti već će i daleko nadmašiti ljudsku
inteligenciju.
Ali ne treba mešati ovaj „post-ljudski“ stav sa
paradigmatično modernom preokupacijom postizanjem potpune tehnološke
dominacije nad prirodom.
Umesto toga, svedoci smo dijalektičkog preokreta ovog procesa.
Današnje
„post-humane“ nauke više se ne bave dominacijom. Njihov kredo je
iznenađenje: kakvu vrstu kontingentnih, neplaniranih emergentnih
svojstava mogu sami sebi da steknu modeli „crne kutije“? Niko ne zna, i u
tome leži uzbuđenje – ili, zaista, banalnost – čitavog poduhvata.
Otuda
je, nešto ranije u ovom veku, francuski filozof-inženjer Žan-Pjer Dipuj
uočio u novoj robotici, genetici, nanotehnologiji, veštačkom životu i
veštačkoj inteligenciji čudnu inverziju tradicionalne antropocentrične
arogancije koju tehnologija omogućava:
„Kako da objasnimo da je
nauka postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim
naučnicima, danas predstavlja glavnu pretnju za opstanak čovečanstva?
Neki filozofi odgovaraju na ovo pitanje govoreći da je Dekartov san –
„da postanete gospodar i posednik prirode“ – pogrešio i da se hitno
treba vratiti „majstorstvu majstorstva“.
Otvoreno
pismo Instituta za budućnost života kojim se iz mera predostrožnosti
zahteva šestomesečna pauza u razvoju veštačke inteligencije (AI) već je
potpisalo hiljade uticajnih ličnosti, među njima i Elona Maska.
Potpisnici
se brinu da su laboratorije veštačke inteligencije „zaključane u trci
van kontrole“ da bi razvile i primenile sve moćnije sisteme koje niko –
uključujući njihove kreatore – ne može da razume, predvidi ili
kontroliše.
Šta objašnjava ovaj izliv panike među određenom kohortom elita? Kontrola i regulacija su očigledno u centru priče, ali čija?
Tokom predložene polugodišnje pauze kada čovečanstvo može da sagleda
rizike, ko će se zalagati za čovečanstvo? Pošto će laboratorije
veštačke inteligencije u Kini, Indiji i Rusiji nastaviti svoj rad (možda
u tajnosti), globalna javna debata o ovom pitanju je nezamisliva.
Ipak, treba da razmotrimo šta je u pitanju.
U svojoj
knjizi Homo Deus iz 2015. istoričar Juval Harari je predvideo da će
najverovatniji ishod AI biti radikalna podela – mnogo jača od klasne
podele – unutar ljudskog društva.
Uskoro
će biotehnologija i kompjuterski algoritmi udružiti svoje moći u
proizvodnji „tela, mozgova i umova“, što će rezultirati sve većim
jazom „između onih koji znaju kako da konstruišu tela i mozak i onih
koji ne znaju“.
U takvom svetu, „oni koji se voze vozom napretka
steći će božanske sposobnosti stvaranja i uništenja, dok će se oni
koji su ostali suočiti sa izumiranjem“.
Panika
koja se ogleda u pismu proizilazi iz straha da čak i oni koji su u
„vozu napretka“ neće moći njime da upravljaju. Naši sadašnji digitalni
feudalni gospodari su uplašeni. Ono što oni žele, međutim, nije javna
debata, već dogovor između vlada i tehnoloških korporacija da zadrže
vlast tamo gde joj je mesto.
Ogromno širenje AI sposobnosti
predstavlja ozbiljnu pretnju onima na vlasti – uključujući one koji
razvijaju, poseduju i kontrolišu AI.
To ukazuje na ništa manje
nego na kraj kapitalizma kakvog ga poznajemo, koji se manifestuje u
perspektivi sistema veštačke inteligencije koji se samo-reprodukuje,
kome će biti potrebno sve manje i manje doprinosa od ljudskih agenata
(algoritamsko tržišno trgovanje je samo prvi korak u ovom pravcu).
Izbor koji nam ostaje biće između novog oblika komunizma i nekontrolisanog haosa.
Novi
chat botovi će mnogim usamljenim (ili ne tako usamljenim) ljudima
ponuditi beskrajne večeri prijateljskog dijaloga o filmovima, knjigama,
kuvanju ili politici.
Da
ponovo upotrebim moju staru metaforu, ono što će ljudi dobiti je AI
verzija kafe bez kofeina ili sode bez šećera: prijateljski sused bez
kostura u svom ormanu, Drugi koji će se jednostavno prilagoditi vašim
potrebama.
Ovde
postoji struktura fetišističkog odricanja: „Ja dobro znam da ne
razgovaram sa stvarnom osobom, ali osećam se kao da razgovaram i to bez
ikakvih pratećih rizika!“
U svakom slučaju, pomno ispitivanje
pisma pokazuje da je to još jedan pokušaj zabrane nemogućeg. Ovo je
stari paradoks: nama kao ljudima nemoguće je da učestvujemo u
post-ljudskoj budućnosti, pa moramo zabraniti njen razvoj.
Da
bismo se orijentisali oko ovih tehnologija, trebalo bi da postavimo
Lenjinovo staro pitanje: Sloboda, za koga? U kom smislu smo ranije bili
slobodni? Zar nismo već bili kontrolisani mnogo više nego što smo
shvatali? Umesto da se žalimo na ugrožavanje naše slobode i dostojanstva
u budućnosti, možda bi prvo trebalo da razmislimo šta sloboda znači
sada.
Dok to ne uradimo, ponašaćemo se kao histeričari koji,
prema francuskom psihoanalitičaru Žaku Lakanu, očajnički traže majstora,
ali samo onog kojim možemo da dominiramo.
Futurista Rej Kurcvajl
predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog
napretka, uskoro imati posla sa „duhovnim“ mašinama koje ne samo da će
pokazivati sve znake samosvesti već će i daleko nadmašiti ljudsku
inteligenciju.
Ali ne treba mešati ovaj „post-ljudski“ stav sa
paradigmatično modernom preokupacijom postizanjem potpune tehnološke
dominacije nad prirodom.
Umesto toga, svedoci smo dijalektičkog preokreta ovog procesa.
Današnje
„post-humane“ nauke više se ne bave dominacijom. Njihov kredo je
iznenađenje: kakvu vrstu kontingentnih, neplaniranih emergentnih
svojstava mogu sami sebi da steknu modeli „crne kutije“? Niko ne zna, i u
tome leži uzbuđenje – ili, zaista, banalnost – čitavog poduhvata.
Otuda
je, nešto ranije u ovom veku, francuski filozof-inženjer Žan-Pjer Dipuj
uočio u novoj robotici, genetici, nanotehnologiji, veštačkom životu i
veštačkoj inteligenciji čudnu inverziju tradicionalne antropocentrične
arogancije koju tehnologija omogućava:
„Kako da objasnimo da je
nauka postala toliko ‘rizična’ aktivnost da, prema nekim vrhunskim
naučnicima, danas predstavlja glavnu pretnju za opstanak čovečanstva?
Neki filozofi odgovaraju na ovo pitanje govoreći da je Dekartov san –
„da postanete gospodar i posednik prirode“ – pogrešio i da se hitno
treba vratiti „majstorstvu majstorstva“.
Oni
ništa nisu razumeli. Oni ne vide da tehnologija koja se profiliše na
našem horizontu kroz „konvergenciju“ svih disciplina ima za cilj upravo
neovladavanje. Inženjer sutrašnjice neće biti šegrt čarobnjaka zbog
svog nemara ili neznanja, već po izboru.”
Čovečanstvo stvara
sopstvenog boga ili đavola. Iako se ishod ne može predvideti, jedno je
sigurno. Ako se nešto što liči na „posthumanost“ pojavi kao kolektivna
činjenica, naš pogled na svet će izgubiti sva tri svoja definišuća
subjekta koji se preklapaju: čovečanstvo, prirodu i božanstvo.
Naš
ljudski identitet može postojati samo u pozadini neprobojne prirode,
ali ako život postane nešto čime se tehnologija može u potpunosti
manipulisati, izgubiće svoj „prirodni“ karakter. Potpuno kontrolisana
egzistencija je lišena smisla, da ne spominjemo slučajnost i čuđenje.
Isto, naravno, važi i za svaki osećaj božanskog. Ljudsko iskustvo
„boga“ ima značenje samo sa stanovišta ljudske konačnosti i smrtnosti.
Jednom
kada postanemo homo deus i stvorimo svojstva koja izgledaju
„natprirodna“ sa našeg starog ljudskog stanovišta, „bogovi“ kakve smo
poznavali će nestati. Pitanje je šta će, ako išta, ostati. Hoćemo li
obožavati AI koje smo stvorili?
Postoji svaki razlog za
zabrinutost da su tehno-gnostičke vizije post-ljudskog sveta ideološke
fantazije koje zamagljuju ponor koji nas čeka.
Nepotrebno je reći
da bi bilo potrebno više od šest meseci pauze da se osigura da ljudi ne
postanu nebitni, a njihovi životi besmisleni u ne tako dalekoj
budućnosti.
Autor je profesor sociologije i
filozofije na Univerzitetu u Ljubljani i kao međunarodni direktor
Birkbeck Instituta za humanističke nauke Univerziteta u Londonu. Njegova
najnovija knjiga nosi naziv: „Heaven in Disorder“ (OR Books, 2021).
Danas.rs ima ekluzivno pravo objavljivanja u Srbiji
Copyright: Project Syndicate, 2023.
www.project-syndicate.org