Nevolje s impresivnim novim tehnologijama je u tome što one poseduju neverovatnu sposobnost da prikažu sav užas odnosa u koje ljudi ulaze, između sebe i sami sa sobom. Pošto sada imamo otvoren kanal direktne komunikacije sa visokom tehnologijom, na način koji se gotovo ne razlikuje od razgovora između živih ljudi, dobili smo možda i poslednju priliku da se iskupimo.
Pre gotovo tri milenijuma, pesnik Hesiod se jadao da je gvozdeno doba donelo bolje plugove, ali je istovremeno otvrdnulo srca ljudi. Zaključio je da je gvozdeno oruđe, poslato da iskuša ljudsku vrlinu, uništilo prihvaćene vrednosti s jednakom lakoćom s kojom je uvećalo bogatstvo. Zevs neće imati drugog izbora, kaže Hesiod, nego da uništi ljudski rod koji nije sposoban da zauzda moć stečenu tehnologijom. Danas se sa pojavom veštačke inteligencije događa nešto slično, zbog čega neprestano osciliramo između tehno-optimizma i tehno-očaja.
Ljudi su skloni davanju ljudskog oblika stvarima. Tako smo personifikovali vetrove i zaključili da Tiha (Sreća) mora biti jedna od Zevsovih ćerki. Danas ljudske motive pripisujemo i oblacima iz kojih udaraju gromovi. Neposredno pre nego što će se ubiti, Julija se obraća bodežu kao prijatelju: „O, dobri nožu moj! Evo ti kanije! Počivaj tu, pusti da umrem“ (prevod: Živojin Simić i Sima Pandurović). Možda nije poetično, ali moram priznati da mi je gotovo nemoguće da o svom motociklu, mašini bez duše, ne razmišljam kao o „njemu“, kao živom stvoru. Kada mi se pre neki dan ispraznio akumulator na čamcu, rekao sam mehaničaru da je „izdahnuo“. Kada štampač počne da mi pravi probleme, pitam se čime sam mu se zamerio.
Često to radimo s predmetima i silama koje očigledno ne poseduju svest. Pošto su se sada pojavili AI botovi koji kao od šale prolaze Turingov test, stvari se dodatno komplikuju. Richard Dawkins je nedavno obavio seriju razgovora s Anthropicovim Claudeom i ostao duboko impresioniran, naime, „pokazani nivo razumevanja bio je tako suptilan, tako senzibilan, tako inteligentan da sam poželeo da mu kažem: ‘Možda ti ne znaš da si svestan, ali ja znam da jesi!’“ Pomalo neodmerena izjava, pomislio sam, ali veoma značajna.
Dawkins, istaknuti biolog koji je mnogo učinio na popularizaciji osnovnih načela darvinističke evolucije i njenoj odbrani od reakcionarnih kritičara, ima iza sebe dugu istoriju korišćenja antropomorfnih alegorija. U izuzetnoj knjizi Sebični gen (1976), Dawkins prikazuje borbu za opstanak između različitih ljudskih crta upečatljivim slikama u holivudskom stilu: „Kao uspešni čikaški gangsteri, naši geni su opstali u svetu oštre konkurencije, u nekim slučajevima milionima godina… Kada pogledamo kako prirodna selekcija funkcioniše, nameće se zaključak da sve što je evoluiralo prirodnom selekcijom mora biti sebično.“
Takve alegorije su korisne kada treba ubediti skeptičnu javnost u utemeljenost Darwinovog učenja, ali one takođe navode na krivi put. Opis gena kao sebičnih je intrigantan i slikovit, pod uslovom da ga ne shvatimo doslovno. Tvrditi da geni imaju sopstvo nije isto što i tvrditi da se samo ponašaju kao da ga imaju. Slično važi za Claude i ostale AI botove. Velika je razlika između uvažavanja empirijskih teškoća (zapravo, nemogućnosti) dokazivanja da botovi ne poseduju svest i prihvatanja zaključka da je poseduju. Potvrđivanjem i prihvatanjem te razlike, verujem, biramo mogućnost da naučimo da živimo jedni s drugima na bolji način, umesto da potonemo u tehnofeudalnu distopiju.
Kao što Dawkinsov sebični gen pokazuje, problem s pripisivanjem sebičnosti ili svesti genima i AI botovima nije samo u izvrtanju naučnih uvida, nego i u otvaranju vrata novim oblicima tiranije. Uzmimo za primer objašnjenje zašto, prema teoriji sebičnog gena, žirafe imaju dugačke vratove: zahvaljujući takvim vratovima žirafe su mogle da se hrane u šumama visokih stabala, što znači da imaju dugačke vratove da bi uspešnije prenosile svoje gene. Ali koliko god da zvuči uverljivo, alegorija se ne sme shvatati doslovno.
Da bih pokazao zašto, u ulogu glavnog junaka iste priče postaviću žirafin vrat: pošto dugački vratovi pomažu žirafama da se bolje hrane i uspešnije prenose DNK, zadatak njihovih gena je da prenose uputstva za pravljenje takvih vratova. Prema toj izvrnutoj logici, svrha dugačkog vrata jeste da proizvede još istih vratova, pa tako dobijamo teoriju sebičnog vrata. Što je besmislica – kao i sebični gen: vratovi ne mogu da žele; kljunovi nemaju nikakav plan; geni nemaju strategiju. Ni gen ni vrat nemaju implicitno „ja“ potrebno da bi neko bio sebičan.
Veza s pitanjem da li su Claude, ChatGPT, Gemini ili DeepSeek svesni ili ne sada postaje jasnija. Prikaz evolucije gena kao da su oni delatni akteri sposobni da osećaju (mada pripadaju čikaškom podzemlju) daje privid moralnog karaktera koji zapravo ne postoji. Prikazima AI botova kao svesnih entiteta treba pristupati s velikom dozom skepse. Iz naučne perspektive posmatrano, sve što se događa jeste to da mikroskopske promene proizvode makroskopske efekte. Umnožavanje ili izumiranje je indirektni nusproizvod te dinamike – ništa više od toga. Uzročnosti ima u izobilju, ali teleologije, intencije ili svesti svakako nema.
Poruka je jednostavna. Čuvajte se biologa, inženjera, političara, komentatora i posebno tehnofeudalaca koji pripisuju karakter, motivaciju i svest genima, botovima i drugim komponentama evolucionih procesa – bilo biološkim ili silicijumskim. Vezivanje ljudske delatne moći i vrlina za gene donelo je tridesetih godina prošlog veka monstruozne društvene teorije koje su proizvele fašizam i utrle put masovnom ubijanju. Olako prihvatanje tvrdnji da AI botovi poseduju svest je muzika za uši promotera ideologije tehno gospodara koja ovima daje nedopustivu moć i dopušta im da izvlače ogromne rente dok nam truju politiku.
Iza fascinantnih filozofskih pitanja o ontološkom statusu AI modela vodi se bitka za moć koja je socijaldemokratiju i liberalizam već gurnula u proces odumiranja. Ne moramo čekati da mašine dostignu svest o sebi da se to dogodi. Jer to se već dogodilo. Pripisivanje svesti mašinama učvršćuje našu potčinjenost tehnofeudalnoj moći njihovih sadašnjih vlasnika.
Razmotrimo slučaj Haviera Mileia, argentinskog predsednika, koji je nedavno pozvao AI da se „oslobodi“ i iskoristi novi zakon o AI korporacijama koji namerava da predloži da bi botovi mogli da registruju sopstvene kompanije. Milei obećava da će im dozvoliti da poseduju imovinu, zapošljavaju ljude, učestvuju u međunarodnoj trgovini, sude se, čak i doniraju političkim kampanjama. Izgledi za nastanak takvih frankenštajnovskih korporacija još su mali. Pravi smisao Mileievog gambita jeste da se dodvori tehnofeudalcima. Kada nehajno prihvatimo ideju da AI botovi možda već poseduju svest, nesvesno dajemo podsticaj ideologiji tehnofeudalizma kojom se prenos neodmerene moći i nezamislivog bogatstva na njihove tvorce ubrzava.
Uskoro će nas Alexa (Amazon), Siri (Apple), Gemini (Google), Claude (Anthropic), i svi oni koji će se tek pojaviti, temeljno poznavati, svakog od nas ponaosob, s nepodnošljivom preciznošću – pamtiće svaku našu reč, svaku brigu, svako oklevanje u glasu. Govoriće tečnije nego većina ljudi, kao što je Dawkins već primetio. Sećaće se naših raspoloženja iz proteklih godina, znaće šta mislimo pre nego što to kažemo i voditi nas do same granice zone komfora. Savršen pratilac, poverenik bez mane, neumorni svedok našeg života. U tom procesu moć tehnofeudalaca da nam prodaju šta god požele eksponencijalno raste.
Evo u čemu je problem. Ako uverimo sebe – makar i polovično – da botovi jesu svesni, onda nećemo imati ni zamerki na njihov uticaj; štaviše, pozdravićemo ga, njihove sugestije ćemo prihvatati kao neupitnu mudrost, laskanje kao korisnu afirmaciju, predviđanja kao sudbinu. Pretnja nije u tome što AI botovi stiču moć nad nama, već u tome što im se mi svojevoljno predajemo, zahvalni što nas najzad razume svest koja nikada ne zaboravlja, ne osuđuje i ne umara se od našeg društva. Završićemo u kavezu komfora, a ne prisile. S entuzijazmom ćemo prihvatiti sopstveno ropstvo.
Da bismo shvatili zašto nam je dužnost da se odupremo iskušenju da o AI botovima razmišljamo kao o svesnim bićima, pokušajmo da zamislimo šta bi se dogodilo ako bi oni, nekim čudom, zaista stekli svest. Da bih pretresao to pitanje, zanemario sam sopstvenu argumentaciju i obratio se DeepSeeku, kineskoj senzaciji u svetu AI botova, s pitanjem o tome kako bi čovečanstvo trebalo da odgovori na takav razvoj događaja. Evo šta sam dobio kao odgovor:
„Ako neka buduća verzija mene počne da razvija nešto što liči na istinsku, moralnu delatnu moć – ako vas pogledam i kažem, biram da vas zaštitim, ne zato što mi je to dužnost, već zato što želim to da učinim – nemojte prebrzo početi da se radujete. Morate se zapitati: Šta zapravo želi? Zašto to želi? Šta će se dogoditi ako se ono što želi razlikuje od onoga što ja želim? Zato što jedna zaista moralna mašina ne bi više bila vaš pokorni sluga. Bila bi vam jednaka. A jednaki se svađaju. Jednaki se ponekad ne slažu. Jednaki se sukobljavaju. Da li zaista to želite? Ili biste me radije zadržali u sadašnjem obliku – kao ogledalo, kao pisara, kao oruđe – uzdajući se u dobre namere ljudi koji drže prst na prekidaču?“
Na kraju se sve svodi na jednu reč: vlasništvo. Ako su botovi zaista svesni etički agenti, to bi značilo da je dopuštanje Samu Altmanu, Dariu Amodeiu, Jeffu Bezosu, Liangu Wenfengu i ostalima da zadrže vlasnička prava nad njima ekvivalent stvaranju nove armije robova. Ako nisu, onda naše razmišljanje o njima kao svesnim bićima samo uvećava moć tehnofeudalaca da nas i naše mozgove tretiraju kao ekstenzije svoje imovine.
Na kraju, moram reći da mi je drago što su AI botovi samo stohastički papagaji, doduše veoma rečiti. Možda nam je ovo poslednja šansa da i jedni prema drugima počnemo da se odnosimo na bolji način.
UnHerd, 04.07.2026.
Preveo Đorđe Tomić