Čelnici kompanija OpenAI i Anthropic u srijedu su poručili Vijeću sigurnosti Ujedinjenih naroda da nijedan pojedinačni akter ne bi trebao dominirati umjetnom inteligencijom, pozvavši na međunarodnu suradnju u upravljanju rizicima te tehnologije kako ona napreduje.
Obraćajući se sjednici Vijeća sigurnosti posvećenoj umjetnoj inteligenciji i međunarodnoj sigurnosti, izvršni direktor OpenAI-ja Sam Altman rekao je: “Pred nama je izbor. Umjetna inteligencija može biti više nalik novoj renesansi kreativnosti i otkrića ili više nalik novoj industrijskoj revoluciji previranja i kaosa.”
Rekao je da bi umjetnu inteligenciju trebalo razvijati za ljude, a ne jednostavno ubrzavati rad strojeva samo radi njih samih, dodajući da su neke izjave ljudi koji rade na toj tehnologiji toliko distopijske da zvuče poput radnje loših znanstvenofantastičnih filmova.
Altman je upozorio da nijedna osoba, kompanija ni država ne bi smjela moći koristiti najmoćnije modele umjetne inteligencije kako bi nametnula svoj svjetonazor svima ostalima, istaknuvši da se odluke o umjetnoj inteligenciji ne mogu donositi samo u laboratorijima u San Franciscu, već ih treba oblikovati kroz demokratske procese i vlade odgovorne ljudima kojima služe.
Izvršni direktor Anthropica Dario Amodei izdvojio je dva ključna rizika: zlouporabu modela umjetne inteligencije, uključujući njihovu uporabu od strane bioterorista za izradu biološkog oružja, te opasnost da se sposobnosti modela razviju brže nego što ih njihovi tvorci mogu kontrolirati.
Naglasio je da bi, ako se njome loše upravlja, umjetna inteligencija mogla predstavljati rizik za cijelo čovječanstvo.
Amodei je rekao da će njegova kompanija usporiti koliko god bude potrebno kako bi osigurala da svaki novi sustav umjetne inteligencije koji objavi bude siguran, ali je naglasio da je upravljanje rizicima veće od bilo koje pojedinačne kompanije te da ima razmjere cijele industrije i globalne razmjere.
Pozvao je na zajedničke globalne standarde za testiranje modela umjetne inteligencije na rizike gubitka kontrole i rizike zlouporabe, opisujući to pitanje kao najvažnije globalno sigurnosno pitanje s kojim se svijet danas suočava.
Yoshua Bengio, supredsjedatelj Međunarodnog neovisnog panela UN-a za umjetnu inteligenciju, usprotivio se prikazu razvoja umjetne inteligencije kao neizbježnog natjecanja.
“Građani i vlade ne bi trebali prihvatiti tvrdnju kompanija da su zarobljene u utrci”, rekao je, dodajući da “utrka nije zakon prirode; ona je posljedica izbora, izbora koje donose same kompanije”.
Bengio je članovima Vijeća sigurnosti rekao da, unatoč krhkom povjerenju među državama, “utrka ugrožava svaku državu”.