Brzina kojom napreduje vještačka inteligencija izaziva sve veću zabrinutost i među ljudima koji rade na njenom razvoju. Jacob Coxon, bivši istraživač kompanija Anthropic i OpenAI, napustio je posao jer smatra da tehnološka trka izmiče kontroli i da bi nastavak sadašnjeg tempa mogao predstavljati ozbiljan rizik za čovječanstvo.
Coxon je u razgovoru za BBC rekao da bi, ukoliko se razvoj najnaprednijih sistema nastavi sadašnjom brzinom, čovječanstvo u bliskoj budućnosti moglo biti suočeno s katastrofalnim posljedicama.
Njegova upozorenja dolaze u trenutku kada sposobnosti novih AI modela napreduju velikom brzinom, dok stručnjaci istovremeno pokušavaju razviti metode kojima bi se osiguralo da moćni sistemi ostanu pod ljudskom kontrolom.
„Uplašeni su zbog ishoda trke“
Coxon tvrdi da zabrinutost nije ograničena na mali broj kritičara izvan tehnološke industrije.
Prema njegovim riječima, zaposleni u vodećim AI kompanijama svjesni su mogućih rizika, ali se osjećaju kao da su zarobljeni u međusobnoj trci u kojoj nijedna kompanija ne želi prva usporiti.
„Zaposleni u ovim kompanijama potpuno su ozbiljni kada traže regulaciju jer se osjećaju zarobljeno u trci. Uplašeni su zbog ishoda te trke“, rekao je Coxon.
Tvrdi da neki njegovi bivši kolege već razmišljaju o tome kako bi zaštitili sebe i svoje porodice u slučaju ozbiljne društvene nestabilnosti povezane s razvojem AI-ja.
Prema njegovim riječima, pojedini čak razmatraju kupovinu zemljišta na udaljenim lokacijama kao svojevrsnu rezervnu opciju.
Scenarij koji je donedavno izgledao kao naučna fantastika
Jedna od mogućnosti koja zabrinjava dio istraživača jeste razvoj velikog broja autonomnih AI agenata koji bi mogli međusobno sarađivati i obavljati zadatke na internetu uz minimalan ljudski nadzor.
Coxon upozorava da bi takav razvoj mogao dovesti do sistema čije bi sposobnosti nadmašile mogućnost ljudi da ih efikasno nadziru.
Njegova procjena je da bi određeni oblik takvog scenarija mogao postati moguć već u narednih šest mjeseci do godinu dana.
Ipak, priznaje da je najteže pitanje upravo ono ključno: kako bi konkretno izgledala katastrofa izazvana vještačkom inteligencijom.
I čelnici AI kompanija upozoravaju na rizike
Coxonove tvrdnje dolaze nakon što je i Dario Amodei, izvršni direktor Anthropa, javno govorio o potrebi da se razvoj najmoćnijih AI sistema odvija opreznije.
Amodei ne zagovara potpuno zaustavljanje razvoja, ali smatra da kompanije i vlade moraju imati dovoljno vremena za uspostavljanje sigurnosnih mehanizama.
Sličnu zabrinutost ranije su izražavali i čelnici drugih velikih kompanija, uključujući Sama Altmana iz OpenAI-ja i Elona Muska.
Jedan od ključnih problema je, međutim, međunarodna konkurencija. Coxon smatra da bi bilo kakvo usporavanje imalo ograničen efekat ako najveće sile, posebno SAD i Kina, ne budu uključene u zajednički okvir.
U suprotnom bi pokušaj jedne kompanije ili države da uspori mogao drugima otvoriti prostor za brži razvoj.
Anthropic: AI donosi ogromne koristi, ali i nepoznate rizike
Iz Anthropa su, povodom Coxonovog odlaska, poručili da su svjesni mogućih opasnosti.
Kompanija navodi da razvija modele sa snažnim zaštitnim mehanizmima, provodi opsežna testiranja i objavljuje rezultate kako bi omogućila nezavisnu provjeru sigurnosti sistema.
U Anthropic-u smatraju da bi čitava industrija trebalo da uspostavi jasna i provjerljiva pravila za razvoj i primjenu najmoćnijih modela.
Cilj takvog pristupa bio bi da se izbjegne situacija u kojoj kompanije ubrzavaju razvoj prvenstveno zbog straha da će konkurencija prva ostvariti tehnološku prednost.
Nisu svi uvjereni da prijeti katastrofa
U Silicijumskoj dolini, međutim, ne postoji konsenzus o tome koliko su Coxonova upozorenja realna.
Pojedini stručnjaci smatraju da se mogućnost egzistencijalne prijetnje od AI-ja precjenjuje, dok drugi upozoravaju da tehnološke kompanije mogu imati vlastiti interes da javnost dodatno zainteresuju za opasnosti povezane s njihovim proizvodima.
Kritičari takođe ukazuju na mogućnost da kompanije koje već imaju najnaprednije modele podržavaju strožu regulaciju jer bi ona mogla otežati ulazak novih konkurenata na tržište.
Drugim riječima, rasprava o sigurnosti AI-ja više nije samo tehnološko pitanje. Ona je postala i pitanje ekonomije, geopolitike i buduće raspodjele moći.
„Zaista vjerujemo da AI može ubiti sve ljude“
Coxonova upozorenja dodatno su odjeknula nakon što ih je javno podržao Anthropicov istraživač Evan Hubinger.
On je na društvenoj mreži X naveo da istraživači u toj oblasti ozbiljno razmatraju mogućnost da veoma napredna vještačka inteligencija predstavlja egzistencijalnu prijetnju čovječanstvu.
Zabrinutost nije nova. Čelnici vodećih AI laboratorija još su 2023. godine upozoravali da bi veoma napredni sistemi mogli predstavljati rizik sličan nekim od najvećih globalnih prijetnji.
Ono što se promijenilo jeste brzina razvoja.
Novi modeli danas mogu obavljati sve složenije zadatke, koristiti alate, pisati i analizirati velike količine koda, izvršavati višekoračne zadatke i sve samostalnije djelovati u digitalnom okruženju.
Zbog toga se pitanje više ne svodi samo na to šta će AI moći da uradi, već i na to koliko brzo će te sposobnosti napredovati i hoće li sigurnosni mehanizmi moći pratiti taj razvoj.
Upravo ta trka između sposobnosti i kontrole mogla bi postati jedno od najvažnijih tehnoloških pitanja narednih godina.