Pitanje razumnih chatbotova je fascinantno, ali u konačnici odvlači pažnju od velikih tehnoloških kompanija koje ih stvaraju, piše Vice.
Kada je 2020. godine etičarka AI Timnit Gebru otpuštena iz Googlea, napustila je kompaniju sa jezivim upozorenjem o modelima umjetne inteligencije koji pokreću napredne sisteme mašinskog učenja kao što su PaLM i DALL-E .
U članku čije objavljivanje je Google spriječio i koji je doveo do otpuštanja Gebru, autori su prisilili kompaniju da se suoči sa istinom koju je teško progutati: da ne postoji jasan način za izgradnju složenih AI sistema obučenih na masivnim skupova podataka na siguran i odgovoran način, te da oni mogu pojačati pristranosti koje štete marginalizovanim ljudima.
Međutim, umjesto da se usredotoče na različite, dobro dokumentovane načine na koje algoritamski sistemi održavaju pristrasnost i diskriminaciju, najnovija fiksacija za neke u Silikonskoj dolini je zlokobna i vrlo kontroverzna ideja da je napredna umjetna inteligencija utemeljena na jeziku postigla razum. Ovo je demonstrirano kada je Googleov inženjer Blake Lemoine “intervjuisao” LaMDA AI o njenom “unutrašnjem životu” i objavio to na Medium.
Nakon tog posta na blogu, Lemoine je za Washington Post rekao da vjeruje da je LaMDA postala samosvjesna.
U razgovoru za Post, Lemoine je rekao da je rad sa sistemima velikih razmjera kao što je LaMDA uvjerio njega i druge u Silikonskoj dolini da su napredni sistemi mašinskog učenja postali inteligentna bića sposobna za rasuđivanje. Prethodne sedmice, Googleov potpredsjednik iznio je slične tvrdnje u tekstu za Economist, tvrdeći da AI modeli idu prema razvoju svijesti nalik ljudima.
“Poznajem osobu kada razgovaram s njom”, rekao je Lemoine za Post . “Nije važno imaju li u glavi mozak napravljen od mesa ili imaju milijardu redova kodova? Razgovaram s njima i slušam šta imaju za reći. Tako odlučujem šta jeste, a šta nije osoba.”
Google se kasnije distancirao od Lemoineovih bombastičnih tvrdnji, šaljući ga na plaćeni odmor i rekavši da “dokazi ne podržavaju” njegovo uvjerenje u razumnost mašine. “Neki u široj AI zajednici razmatraju dugoročnu mogućnost razumne AI, ali nema smisla to činiti antropomorfizacijom današnjih konverzacijskih modela, koji nisu razumni”, rekao je glasnogovornik Googlea za New York Times .
Meredith Whittaker, bivša Googleova istraživacica umjetne inteligencije koja predaje na NYU Tandon School of Engineering, rekla je da se ova rasprava čini kao “dobro osmišljeno odvlačenje pažnje” koje pridaje pažnju ljudima poput Lemoinea dok istovremeno skida pritisak s velikih tehnoloških tvrtki koje grade automatizovane sisteme.
“Prisiljeni smo trošiti svoje vrijeme na pobijanje gluposti, dok se kompanije koje imaju koristi od AI narativa šire, preuzimajuci kontrolu nad donošenjem odluka i temeljnom infrastrukturom u našim društvenim/političkim institucijama. Naravno da kompjuterski modeli nisu razumni, zašto uopšte govorimo o ovome?”
Zabrinutost zbog pristrasnosti AI utemeljena je na šteti koju pravi u stvarnom svijetu. U posljednjih nekoliko godina, Google je otpustio više istaknutih istraživača etike umjetne inteligencije nakon internog neslaganja oko uticaja sistema mašinskog učenja, uključujući Gebru. Stoga je logično da se mnogim stručnjacima za umjetnu inteligenciju rasprava o sablasnim razumnim chatbotovima čini napuhanom – pogotovo jer dokazuje upravo ono na šta Gebru i njene kolege pokušavaju upozoriti.