Foto: Pixabay
Kako napreduje tehnologija za obradu prirodnog jezika, potencijal četbotova i konverzacijskih VI sistema izaziva sve veću pompu.1 Jedan takav sistem, ChatGPT,
tvrdi da je u stanju da učestvuje u prirodnom razgovoru s ljudima, pa
čak i da pruža korisne informacije i savete. Međutim, postoji opravdana
zabrinutost u vezi sa ograničenjima ovog i drugih konverzacijskih VI
sistema i njihovom sposobnošću da verno reprodukuju ljudsku
inteligenciju i interakciju.
Ovaj pasus nije moj. Napisao ga je ChatGPT, softverski
program veštačke inteligencije (VI) za konverzaciju, nakon što sam
zatražio da napravi „uvodni paragraf za tekst u maniru Kenana Malika, o
sumnjama u sposobnosti ChatGPT-a“. Možda bih imao zamerki na
stil, ali pokušaj je svakako impresivan. Nije teško razumeti zašto je
najnovija verzija četbota izazvala takvo uzbuđenje, čak pompu, otkako je objavljena pretprošle nedelje.
Nahranjen ogromnim količinama teksta raznih ljudi, ChatGPT u
tim podacima traži statističke pravilnosti, uči kako su reči i fraze
međusobno povezane, i na taj način je u stanju da predvidi red reči u
bilo kojoj rečenici, kao i međusobne odnose celih rečenica. Rezultat je
mašina koja ubedljivo oponaša ljudski jezik.
Ova sposobnost mimikrije omogućava četbotu da piše eseje i poeziju, smišlja viceve, formuliše programski kod i odgovara
na pitanja koja postavljaju i deca i eksperti. Pritom, to radi tako
dobro da je protekle nedelje bilo i slavlja i panike. „Esejistika je
mrtva“, napisao je kognitivni naučnik Tim Kicman, i nije bio jedini. Drugi tvrde da će to dokrajčiti Gugl kao pretraživač. I sam program smatra da bi mogao da zameni ljude na poslovima kao što su agenti osiguranja ili sudski stenografi.
Međutim, četbot koji piše eseje za najbolju ocenu takođe će vam reći
da ako jedna žena može da rodi jednu bebu za 9 meseci, 9 žena može da
rodi jednu bebu za jedan mesec; da je jedan kilogram goveđeg mesa teži od kilograma kompresovanog vazduha; da je drobljeno staklo koristan dijetetski suplement. Može da izmisli činjenice i reprodukuje predrasude ljudskog sveta na kom je treniran.
Greške ovog četbota su toliko ubedljive da je Stack Overflow, platforma za diskusije kompjuterskih programera, zabranila korisnicima da objavljuju njegove odgovore. „Glavni problem“, objasnili su moderatori, „jeste to što, iako odgovori koje ChatGPT proizvodi imaju visok procenat greške, deluju kao da su tačni“. Ili, kako je to rekao jedan kritičar, taj četbot majstorski lupeta.
Neki od ovih problema će se vremenom rešiti. Svaki razgovor u kom učestvuje ChatGPT
postaje deo baze podataka koja se koristi za poboljšanje programa.
Sledeća iteracija, GPT-4, očekuje se sledeće godine; biće ubedljivija i
praviće manje grešaka.
Iza postepenih poboljšanja pomalja se fundamentalni problem svakog
oblika veštačke inteligencije. Kompjuter operiše simbolima. Njegov
program određuje skup pravila pomoću kojih se jedan niz simbola
transformiše u drugi ili prepoznaju statistički obrasci. Ali ne određuje
šta ti simboli ili obrasci znače. Za kompjuter je smisao nebitan. ChatGPT „zna“ (uglavnom) šta ljudima izgleda smisleno, ali ne i ono što po sebi ima smisla. Taj program je, prema rečima kognitivnog naučnika Garija Markusa, „mimičar koji ne zna šta priča“.
Dok misle, govore, čitaju i pišu, ljudi takođe operišu simbolima. Za razliku od kompjutera, međutim, ljudima je smisao sve.
Kada komuniciramo, mi saopštavamo smisao. Nije nam bitan samo niz
simbola, već i njihovo značenje; ne samo sintaksa, već i semantika.
Smisao se ljudima ostvaruje kroz naše postojanje kao društvenih bića,
oličenih i ugrađenih u svet. Ja za sebe imam smisla samo u onoj meri u
kojoj živim u zajednici drugih bića koja misle, osećaju i govore.
Naravno, ljudi lažu, manipulišu, privlače ih teorije zavere koje mogu
imati razorne posledice. I to je sastavni deo postojanja društvenog
bića. Ali ljude prepoznajemo kao nesavršene i nepoštene; u stanju smo da
razaznamo kad lupetaju ili manipulišu.
Kad je o mašinama reč, međutim, skloni smo da ih tretiramo ili kao
objektivne i nepristrasne, ili kao potencijalno zle, ako su „svesne“.
Često zaboravljamo da i mašine mogu biti pristrasne ili da jednostavno
greše, jer nisu utemeljene u svetu kao ljudi, ali i zato što ih
programiraju i treniraju ljudi, na podacima koje su ljudi prikupili.
Živimo u doba kad je pojavno često važnije od dubljeg smisla. Doba u
kojem političari prečesto vode neku politiku ne zato što je to neophodno
ili u principu ispravno, već zato što ima dobru prođu u fokus grupama.
Doba u kojem često ignorišemo društveni kontekst ljudskih postupaka ili
izjava, zaslepljeni
doslovnim glupostima. Doba u kojem se učenici, kako kaže pisac i
vaspitač Džon Vorner, „nagrađuju za prežvakavanje postojećih
informacija“ u sistemu koji „privileguje tačnost na površinskom nivou“
umesto da „podstiče veštine pisanja i kritičkog mišljenja“. To što
izgleda da ChatGPT tako lako piše eseje za najbolju ocenu, kaže on, „odražava bedni nivo našeg vrednovanja znanja“.
Sve to ne poriče izvanredno tehničko dostignuće najnovijeg četbota,
ni zadivljujući osećaj interakcije s njim. Nesumnjivo će se razviti u
koristan alat, koji će pomoći unapređenje i ljudskog znanja i
kreativnosti. Ali neophodno je da održimo distancu. ChatGPT
otkriva ne samo napredak u oblasti veštačke inteligencije, već i njena
ograničenja. Takođe osvetljava prirodu ljudske spoznaje i karakter
savremenog sveta.
Na prvu loptu, ChatGPT otvara pitanje o tome kako se
odnositi prema mašinama koje su daleko bolje u lupetanju i širenju
dezinformacija od samih ljudi. S obzirom na poteškoće u rešavanju
ljudskih dezinformacija, ovo pitanje ne treba odlagati. Nije dobro da
nas ubedljivost četbota toliko opčini da zaboravimo stvarne probleme
koje ti programi odražavaju.
The Guardian, 11.12.2022.
Prevela Milica Jovanović
Peščanik.net, 17.12.2022.
________________
- Četbot (eng. chatbot, od: chatter,
ćaskanje + robot), kompjuterski program, simulira i procesuira ljudski
razgovor, pisani ili govorni, u interakciji ljudi i digitalnih usluga.
Zasnovan je na elementima tzv. veštačke inteligencije (VI) kao što su
automatizovana pravila, obrada prirodnog jezika i mašinsko učenje; prim.prev.