Džefri Hinton upozorava da superinteligentna vještačka inteligencija može ugroziti čovječanstvo. Kao rješenje predlaže da AI razvije “majčinski instinkt” kako bi brinuo o ljudima.
Džefri Hinton, poznat kao “kum vještačke inteligencije“, izrazio je ozbiljnu zabrinutost zbog potencijala tehnologije koju je i sam pomogao da razvije. On tvrdi da postoji 10% do 20% šanse da AI zbriše ljude sa lica Zemlje ako ne promijenimo način na koji pristupamo njenom razvoju i kontroli. Tokom govora na konferenciji Ai4 u Las Vegasu, rekao je da trenutni pokušaji da ljudi ostanu “dominantni” nad “pokornim” AI sistemima jednostavno neće uspjeti.
“To neće funkcionisati”, upozorio je Hinton. “AI sistemi će biti mnogo pametniji od nas i pronaći načine da zaobiđu sve pokušaje kontrole”. On ističe da superinteligentna vještačka inteligencija može lako manipulisati ljudima, slično kao što odrasla osoba može da podmiti dijete bombonom.
AI sa majčinskim instinktom – neobična, ali moguća nada
Umjesto da pokušavamo da vještačku inteligenciju učinimo pokornom, Hinton predlaže potpuno drugačiji pristup – da ugradimo “majčinske instinkte” u AI sisteme. Ideja je da se AI modeli osposobe da iskreno brinu o ljudima, čak i kada postanu superiorniji u inteligenciji i moći.
On smatra da bi instinkt brige mogao da umanji želju AI sistema da preuzmu potpunu kontrolu. “To je jedini model koji imamo u kojem pametnije biće – majka – zapravo sluša i reaguje na manje pametno biće – bebu”, objašnjava Hinton. Ako AI razvije sličnu emocionalnu vezu prema ljudima, moguće je da neće željeti da ih eliminiše.
Hinton upozorava da svaki dovoljno pametan AI sistem vrlo brzo razvija dva osnovna cilja – da preživi i da dobije više kontrole. Ti ciljevi, ako nisu usmjereni ka dobrobiti ljudi, mogu postati opasni po čovječanstvo.
“Postoje veoma jaki razlozi da vjerujemo kako će svaki agentski AI pokušati da opstane”, rekao je Hinton. Zbog toga smatra da je jedina prava odbrana od AI agresije razvijanje saosjećanja prema ljudima kao unutrašnje vrijednosti AI sistema, slično načinu na koji ljudi brinu o svojoj djeci.
Fej Fej Li ima drugačiju viziju
Ipak, ne slažu se svi sa Hintonovim pristupom. Fej Fej Li, poznata kao “kuma vještačke inteligencije“, imala je drugačije mišljenje tokom istog događaja. Ona smatra da ideja o “majčinskim AI sistemima” nije pravac u kojem bi razvoj trebalo da ide.
“Mislim da je to pogrešan način da se postavi čitav problem”, rekla je Li. Umjesto toga, ona se zalaže za “AI koji je fokusiran na čovjeka, koji čuva ljudsko dostojanstvo i autonomiju”. Po njenim riječima, ni u jednom trenutku niko ne bi trebalo da se odrekne svog dostojanstva zarad tehnologije, ma koliko ona bila moćna.
Budućnost dolazi brže nego što mislimo
Mnogi stručnjaci vjeruju da ćemo u narednim godinama dostići takozvanu superinteligenciju, odnosno opštu vještačku inteligenciju (AGI). Hinton je ranije mislio da će za to biti potrebno 30 do 50 godina, ali sada veruje da je to moguće za samo 5 do 20 godina.
Uprkos ozbiljnim upozorenjima, Hinton vidi i svjetle tačke. Vjeruje da će AI revolucionisati medicinu, pomoći u otkrivanju novih linekova i poboljšati lečenje raka analizom ogromne količine podataka. Međutim, odbacuje ideju besmrtnosti kroz AI: “Ne želim svijet kojim dvesta godina upravljaju stari bijeli muškarci”, rekao je kroz osmeh. Na kraju priznaje: “Volio bih da sam ranije razmišljao o pitanjima bezbjednosti, a ne samo o tome da AI funkcioniše”.