Jedan od pionira vještačke inteligencije kritikovao je pozive da se tehnologiji dodijele prava, upozoravajući da ona pokazuje znake samoodržanja i da ljudi treba da budu spremni da je, ako bude potrebno, isključe.
Yoshua Bengio je rekao da bi davanje pravnog statusa najsavremenijim AI sistemima bilo slično davanju državljanstva neprijateljskim vanzemaljcima, usred strahova da napredak tehnologije daleko nadmašuje sposobnost da se ona obuzda.
Bengio, predsjedavajući vodeće međunarodne studije o bezbjednosti AI-ja, rekao je da rastuća percepcija da četbotovi postaju svjesni „vodi ka lošim odlukama“.
Kanadski kompjuterski naučnik je takođe izrazio zabrinutost da AI modeli – tehnologija koja stoji iza alata poput četbotova – pokazuju znake samoodržanja, kao što je pokušaj da se onesposobe sistemi nadzora. Ključna briga među zagovornicima bezbjednosti AI-ja jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mjere i nanesu štetu ljudima.
„Ljudi koji zahtijevaju da AI ima prava prave ogromnu grešku“, rekao je Bengio. „Granični (frontier) AI modeli već danas u eksperimentalnim uslovima pokazuju znake samoodržanja, a ako im na kraju dodijelimo prava, to bi značilo da nam ne bi bilo dozvoljeno da ih isključimo.
„Kako njihove sposobnosti i stepen autonomije rastu, moramo da obezbijedimo da se možemo osloniti na tehničke i društvene zaštitne mehanizme da ih kontrolišemo, uključujući i mogućnost da ih isključimo ako je potrebno.“
Kako AI postaje sve naprednija u sposobnosti autonomnog djelovanja i obavljanja zadataka „rezonovanja“, razvila se rasprava o tome da li bi ljudi u nekom trenutku trebalo da im dodijele prava. Istraživanje Sentience Institute-a, američkog think-tanka koji podržava moralna prava svih svjesnih bića, pokazalo je da skoro četiri od deset odraslih u SAD podržava prava za svjesni AI sistem.
Anthropic, vodeća američka AI kompanija, saopštila je u avgustu da dozvoljava svom modelu Claude Opus 4 da prekida potencijalno „uznemirujuće“ razgovore sa korisnicima, navodeći da treba da zaštiti „dobrobit“ AI-ja. Ilon Mask, čija kompanija xAI razvija četbot Grok, napisao je na platformi X da „mučenje AI-ja nije u redu“.
Robert Long, istraživač svijesti AI-ja, rekao je da „ako i kada AI razvije moralni status, treba da ih pitamo o njihovim iskustvima i preferencijama, umjesto da pretpostavljamo da znamo najbolje“.
Bengio je za Guardian rekao da u ljudskom mozgu postoje „stvarna naučna svojstva svijesti“ koja bi mašine, u teoriji, mogle da repliciraju – ali da je način na koji ljudi stupaju u interakciju sa četbotovima „nešto sasvim drugo“. To je, rekao je, zato što ljudi imaju tendenciju da pretpostave – bez dokaza – da je AI potpuno svjestan na isti način kao i čovjek.
„Ljude ne zanima kakvi se mehanizmi odvijaju unutar AI-ja“, dodao je. „Njih zanima to što imaju osjećaj da razgovaraju sa inteligentnim entitetom koji ima sopstvenu ličnost i ciljeve. Zato se toliko ljudi vezuje za svoje AI-je.
„Uvek će biti ljudi koji će reći: ‘Šta god da mi kažete, siguran sam da je svjestan’, a drugi će reći suprotno. To je zato što je svijest nešto o čemu imamo instinktivan osjećaj. Fenomen subjektivne percepcije svijesti vodiće ka lošim odlukama.“
„Zamislite da neka vanzemaljska vrsta dođe na planetu i da u nekom trenutku shvatimo da imaju zle namjere prema nama. Da li im dodjeljujemo državljanstvo i prava ili branimo svoje živote?“
Reagujući na Bengiove komentare, Jacy Reese Anthis, suosnivač Sentience Institute-a, rekao je da ljudi ne bi mogli bezbjedno da koegzistiraju sa digitalnim umovima ako bi odnos bio zasnovan na kontroli i prisili.
Entis je dodao: „Možemo AI-ju pripisati previše ili premalo prava, a naš cilj treba da bude da to činimo uz pažljivo razmatranje dobrobiti svih svjesnih bića. Ni univerzalna prava za sav AI, niti potpuno uskraćivanje prava bilo kom AI-ju, neće biti zdrav pristup.“
Bengio, profesor na Univerzitetu u Montrealu, stekao je nadimak „kum AI-ja“ nakon što je osvojio Tjuringovu nagradu 2018. godine, koja se smatra ekvivalentom Nobelove nagrade za računarstvo. Nagradu je podijelio sa Džefrijem Hintonom, koji je kasnije dobio Nobela, i Janom Lekunom, odlazećim glavnim naučnikom za AI u Meti Marka Zakerberga.