„Kum vještačke inteligencije“ Geoffrey Hinton probuđen je usred noći prošle godine s viješću da je dobio Nobelovu nagradu za fiziku. Kaže da takvo priznanje nije očekivao.
„Sanjao sam da ću je dobiti za to što sam otkrio kako mozak funkcioniše. Nisam otkrio kako mozak funkcioniše, ali sam je ipak dobio“, rekao je Hinton.
Ovaj 77-godišnji istraživač nagradu je dobio za pionirski rad na neuronskim mrežama — još 1986. godine predložio je metodu za predviđanje sljedeće riječi u nizu, što je danas temeljna ideja iza velikih jezičkih modela.
Iako vjeruje da vještačka inteligencija može transformisati obrazovanje, medicinu, pa čak i doprinijeti rješavanju klimatskih promjena, Hinton je sve zabrinutiji zbog njenog ubrzanog razvoja.
„Najbolji način da to emotivno razumijemo je da zamislimo kako imamo preslatko mladunče tigra“, objašnjava Hinton u intervjuu za CBS.
„Ako ne možete biti sasvim sigurni da vas to mladunče, kad odraste, neće htjeti ubiti — imate razloga za brigu.“
„Ljudi još to nisu shvatili“
Hinton procjenjuje da postoji 10% do 20% rizika da će vještačka inteligencija jednog dana preuzeti kontrolu od ljudi.
„Ljudi još to nisu shvatili, ne razumiju šta dolazi“, upozorava on.
Njegove brige dijele i vodeće ličnosti u industriji poput izvršnog direktora Googlea Sundara Pichaija, vlasnika X-AI Elona Muska i izvršnog direktora OpenAI-ja Sama Altmana, koji su takođe izražavali sličnu zabrinutost.
Ipak, Hinton kritikuje upravo te kompanije jer, prema njegovim riječima, prioritet daju profitu umjesto sigurnosti.
„Ako pogledate šta velike kompanije trenutno rade – one lobiraju da se AI još manje reguliše. Regulacije ionako jedva da ima, a oni žele i manje“, kaže Hinton.
Posebno je razočaran Googleom, gdje je ranije radio, jer je promijenio stav o primjeni AI-a u vojne svrhe.
Prema Hintonu, AI kompanije bi trebalo mnogo više resursa da ulažu u istraživanja sigurnosti — po njegovom mišljenju, najmanje trećinu svojih resursa, dok se trenutno izdvaja znatno manje.
CBS News je pitao sve pomenute AI laboratorije koliko svojih resursa koriste za istraživanja vezana za sigurnost. Nijedna nije dala konkretan broj. Sve su izjavile da im je bezbjednost važna i da podržavaju regulaciju „u načelu“, ali su se uglavnom protivile zakonodavnim prijedlozima koji su do sada izneseni.