Istraživač vještačke inteligencije koji je napustio kompaniju Anthropic rekao je za BBC da su ljudi koji rade na razvoju ove tehnologije „iskreno uplašeni“ brzinom njenog napretka i mogućim posljedicama po čovječanstvo.
Jacob Coxon objasnio je u razgovoru sa Laurom Kuenssberg razloge zbog kojih je dao otkaz, nakon što je njegova objava o odlasku iz kompanije, u kojoj je upozorio na mogućnost gubitka kontrole nad vještačkom inteligencijom, privukla veliku pažnju javnosti.
„Vjerujem da, ukoliko ne usporimo sadašnji tempo razvoja, postoji velika mogućnost da bismo svi mogli stradati u bliskoj budućnosti“, rekao je Coxon.
Njegov odlazak dolazi u trenutku sve izraženije zabrinutosti za bezbjednost unutar same industrije. Na usporavanje razvoja pozvao je i direktor Anthropica Dario Amodei, koji je ocijenio da su rizici ozbiljni i da kompanijama i vladama treba omogućiti dovoljno vremena da na njih odgovore.
Direktori konkurentskih kompanija, Sam Altman iz OpenAI-ja i Elon Musk, saglasili su se sa prijedlogom o usporavanju razvoja na nivou cijele industrije, uvođenju propisa i nezavisnom nadzoru AI modela tokom njihovog razvoja.
Dvadesetsedmogodišnji Coxon, koji je prije Anthropica radio i u OpenAI-ju, podržava ideju usporavanja, ali smatra da ono mora biti usklađeno sa Kinom kako bi se spriječila međunarodna trka.
„Ljudi koji rade u tim kompanijama potpuno su ozbiljni kada traže regulaciju, jer su zarobljeni u trci. Plaše se ishoda te trke“, kazao je.
Kako bi izgledala AI katastrofa?
Coxon priznaje da je najteže odgovoriti na pitanje kako bi moguća AI apokalipsa zapravo izgledala.
Jedan od scenarija koje je iznio Amodei podrazumijeva veliki broj autonomnih programa koji bi djelovali poput superkompjutera i mogli preuzeti kontrolu nad internetom. Coxon smatra da bi takav scenario mogao postati realan u roku od šest mjeseci do godinu dana.
Anthropic je, reagujući na njegov odlazak, saopštio da je kompanija uvijek otvoreno govorila o tome da će vještačka inteligencija donijeti ogromne koristi, ali i rizike bez presedana.
„Kako bismo odgovorili na te rizike, nastavljamo razvijati modele sa nekim od najsnažnijih zaštitnih mehanizama u industriji“, poručili su iz kompanije.
Anthropic navodi da intenzivno testira svoje modele i objavljuje rezultate kako bi omogućio nezavisnu provjeru i spriječio situacije u kojima bi se ponašanje sistema razišlo sa namjerama njegovih kreatora. Kompanija zato zagovara zakonski utemeljen i provjerljiv dogovor o tempu objavljivanja najmoćnijih modela.
Ipak, dio stručnjaka smatra da dramatična upozorenja o moći i opasnostima vještačke inteligencije služe stvaranju dodatne medijske pažnje. Kritičari tvrde i da Anthropic zagovaranjem strožih propisa pokušava otežati ulazak novih konkurenata na tržište i sa OpenAI-jem uspostaviti svojevrsni duopol.
Kritičari upozorenja nazivaju pretjeranim
Coxonove tvrdnje doveo je u pitanje direktor platforme Hugging Face Clément Delangue.
„Pitati Jacoba o riziku da AI izazove nestanak čovječanstva isto je kao pitati servisera klima-uređaja o klimatskim promjenama. Ne kažem da je to nužno nezanimljivo ili pogrešno, ali stvari treba zadržati u odgovarajućoj perspektivi“, napisao je Delangue na mreži X.
Direktor Nvidije Jensen Huang navodno je Coxonove tvrdnje odbacio kao neistinite. Huang je i ranije govorio da je ideja prema kojoj će vještačka inteligencija dovesti do kraja čovječanstva „potpuna besmislica“.
Nvidia proizvodi čipove na kojima rade sistemi vještačke inteligencije i ima veliki poslovni interes za nastavak razvoja ove industrije, ali Huangov stav odražava i sve snažniji otpor u Silicijumskoj dolini prema upozorenjima o egzistencijalnoj opasnosti.
Coxon, međutim, tvrdi da njegove kolege strahuju da bi se ozbiljna opasnost mogla pojaviti već u naredne dvije godine.
„Zaposleni u AI kompanijama razmišljaju o tome šta će uraditi sa svojim životima i kakve posljedice njihov rad može imati. Neki razmatraju kupovinu zemljišta na sigurnijim mjestima jer se plaše nestabilnosti izazvane ubrzanim razvojem vještačke inteligencije“, rekao je.
Prema njegovim riječima, ljudi koji razvijaju ovu tehnologiju svakodnevno žive sa takvim mislima, istovremeno nastavljajući da rade na njenom usavršavanju.
Nada u koristi od tehnologije
Uprkos dramatičnim upozorenjima, Coxon kaže da nije potpuno pesimističan. Vjeruje da istraživači iskreno žele ostvariti pozitivne mogućnosti vještačke inteligencije, uključujući pronalaženje lijekova za bolesti i poboljšanje kvaliteta života.
Njegove izjave podijeljene su milionima puta na društvenim mrežama, a podržao ga je i naučnik iz Anthropica Evan Hubinger.
„Zaista iskreno vjerujemo da bi AI mogao ubiti sve ljude. Lično smatram da je vjerovatnoća da se to dogodi u narednoj deceniji veća od deset odsto“, napisao je Hubinger na mreži X.
Vodeći ljudi iz kompanija OpenAI, Google DeepMind i Anthropic još od 2023. upozoravaju na bezbjednosne rizike koje donosi ova tehnologija. Upozorenja su posljednjih sedmica postala još glasnija, jer novi modeli pokazuju sve naprednije sposobnosti koje njihovi kreatori možda neće moći u potpunosti kontrolisati.
Anthropic je u aprilu saopštio da model Mythos neće učiniti javno dostupnim jer je bio sposoban samostalno napustiti kontrolisano okruženje za testiranje. OpenAI je takođe naveo da je privremeno zaustavio razvoj pojedinih dijelova svog modela Astra zbog rizika povezanih sa sajber-bezbjednošću.