Već dugo imamo četbotove koji su u stanju da vode umesne razgovore,
prepoznaju osnovne namere sagovornika i odgovaraju na upite prema
unapred postavljenim pravilima i podacima. Njihovi kapaciteti su
dramatično uvećani poslednjih meseci, što je u mnogim krugovima izazvalo
zabrinutost i paniku.
O sistemima veštačke inteligencije koji će umesto studenata pisati
domaće zadatke već je dosta rečeno. Ali pitanje koje zahteva veću
pažnju glasi kako oni treba da reaguju kada ljudski sagovornici koriste
agresivne, seksističke ili rasističke iskaze kako bi podstakli bota da
uzvrati vlastitim nepodopštinama? Da li oni treba da bude programirani
da odgovaraju istom merom na takva pitanja?
Ako je kucnuo čas da se ova pitanja nekako regulišu, treba odrediti
okvire te vrste cenzure. Da li će politički stavovi koje neke društvene
grupe smatraju uvredljivima biti zabranjeni? Šta je sa izrazima
solidarnosti sa Palestincima na Zapadnoj obali, ili sa tvrdnjom da je
Izrael zemlja aparthejda (koja se našla i u naslovu knjige bivšeg američkog predsednika Džimija Kartera)? Da li bi to bilo blokirano kao izraz antisemitizma?
I tu nije kraj problema. Kako upozorava
umetnik i pisac Džejms Bridl, novi AI sistemi „zasnovani su na
sveobuhvatnoj aproprijaciji postojeće kulture“, ali uverenje da oni
„poseduju istinska znanja ili imaju svest je opasna zabluda“. Takođe
treba biti veoma oprezan prema novim generatorima slika. „Pokušaj da se
obuhvati celokupna vizuelna kultura ljudske civilizacije“, primećuje
Bridl, „doveo je do rekreiranja naših najdubljih strahova. Možda to samo
znači da ovi sistemi jako dobro oponašaju rad ljudske svesti,
uključujući užase koji vrebaju iz dubina naše egzistencije: strahove od
bola, smrti ili korupcije.“
Ali koliko su novi AI sistemi zaista dobri u oponašanju ljudske svesti? Uzmite na primer kafanu koja je nedavno reklamirala
svoja pića na ovaj način: „Kupite jedno pivo po ceni od dva i dobićete
drugo pivo potpuno besplatno!“ Za ljudska bića ovo je šala. Uobičajena
formula „kupiš jedan, dobiješ dva“ preformulisana je u apsurdni iskaz. U
pitanju je cinizam koji mi prihvatamo kao komičnu iskrenost u cilju
podsticanja prometa. Da li bi četbot to mogao da razume?
„Jebote“ predstavlja sličan problem. Mada ta reč označava nešto u
čemu većina ljudi uživa (kopulacija), često ima i negativnu valencu
(„Sjebani smo!“ „Jebi se!“). Jezik i stvarnost su neuredni. Da li
veštačka inteligencija može da uoči te razlike?
U svom eseju
iz 1805. „O postepenom formiranju misli u procesu govora“ (objavljenom
posthumno 1878) nemački pesnik Hajnrih fon Klajst preispituje opšte
uverenje da treba ćutati ako nemamo jasnu ideju o tome šta hoćemo da
kažemo: „Ako je dakle misao izražena nejasno, to uopšte ne znači da je
ona sama konfuzna. Naprotiv, sasvim je moguće da su ideje koje su
izražene na krajnje zbunjujuć način upravo najjasnije promišljene
ideje.“
Odnos između jezika i misli izuzetno je komplikovan. U odlomku iz
jednog od Staljinovih govora s početka 1930-ih, nalazi se njegov predlog
radikalnih mera za „otkrivanje i nemilosrdnu borbu čak i protiv onih
koji se kolektivizaciji opiru samo u svojim mislima – da, zaista to
smatram, treba se boriti čak i protiv misli ljudi“. Realna je
pretpostavka da ovaj deo govora nije bio pripremljen unapred. Ponesen
trenutkom Staljin je rekao upravo ono što misli. I dopala mu se
sopstvena hiperbola.
Kao što je Žak Lakan kasnije rekao, to je primer istine koja se iznenadno javlja kroz čin izricanja. Luj Altiser je identifikovao sličan fenomen u odnosu dobitka (prise) i iznenađenja (surprise). Osoba iznenada dobija ideju i biva iznenađena time. Da li to može da se dogodi bilo kom četbotu?
Problem nije u tome što su oni glupi, već u tome što nisu dovoljno
glupi. I nije u tome što su naivni jer ne primećuju ironiju, već u tome
što nisu dovoljno naivni. Prava opasnost dakle nije u tome što će ljudi
pomešati četbot sa stvarnom osobom, već u tome da će se zbog
komunikacije sa četbotovima stvarni ljudi svesti na njih – prestaće da
primećuju nijanse i ironiju i izgovarati ono što četbotovi mogu da
razumeju.
Moj prijatelj iz mladosti je posle doživljene traume otišao kod
terapeuta. Vođen klišeima o tome šta analitičari očekuju od svojih
pacijenata, svoju prvu seansu posvetio je lažnoj mržnji prema svom ocu.
Reakcija analitičara je bila genijalna. Zauzeo je naivan predfrojdovski
stav i zamerio mom prijatelju odsustvo poštovanja prema ocu: „Kako možeš
tako da govoriš o osobi koja te je stvorila?“ Lažna naivnost poslala je
jasnu poruku: odbijam tvoje lažne tvrdnje. Da li bi četbot uspeo da
shvati ovaj podtekst?
Verovatno ne bi i ponašao bi se kao knez Miškin iz Idiota Dostojevskog po tumačenju
Rovana Vilijamsa. Prema standardnom razumevanju, Miškin je idiot,
svetac, dobar čovek koga brutalnost i strasti ovoga sveta odvode u
ludilo. Ali u Vilijamsovom radikalnom čitanju Miškin je srce oluje: mada
dobar, svetac, on je taj koji izaziva pustoš i smrt kojima svedoči,
zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe.
Ne radi se samo o tome da je Miškin naivni durak. Zbog svoje posebne vrste gluposti on je nesvestan svog pogubnog uticaja na druge. To je osoba koja doslovno govori kao četbot.
Njegova dobrota je u tome što, poput četbota, on reaguje na izazove bez
ironije, nudeći floskule bez preispitivanja, shvatajući sve doslovno i
oslanjajući se na mentalne formule, a ne na autentično formirane ideje.
Zato novi četbotovi odlično pristaju novim ideolozima celog spektra, od
Woke probuđenih levičara do uspavanih Maga desničara.
Project Syndicate, 23.03.2023.
Prevela Milica Jovanović
Peščanik.net, 08.04.2023.