Geoffrey Hinton, poznat kao „kum vještačke inteligencije“, strahuje da bi tehnologija koju je pomogao stvoriti mogla zbrisati čovječanstvo – a „tech braća“ pristupaju rješavanju tog problema na pogrešan način.
Hinton, dobitnik Nobelove nagrade, računalni naučnik i bivši izvršni direktor Googlea, ranije je upozoravao da postoji 10% do 20% šanse da AI uništi ljudsku vrstu. U utorak je izrazio sumnju u strategije tehnoloških kompanija da osiguraju „dominaciju“ ljudi nad „pokornim“ AI sistemima, piše CNN.
„To neće funkcionisati. Oni će biti mnogo pametniji od nas. Imaće bezbroj načina da to zaobiđu“, rekao je Hinton na industrijskoj konferenciji Ai4 u Las Vegasu.
U budućnosti, upozorio je, AI sistemi mogli bi kontrolisati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka bombonom. Ove godine već su zabilježeni slučajevi da AI sistemi varaju, lažu i kradu kako bi postigli cilj. Primjerice, jedan AI model je, da bi izbjegao zamjenu, pokušao ucijeniti inženjera informacijom o aferi do koje je došao čitajući e-mail.
Umjesto prisiljavanja AI sistema na pokornost, Hinton predlaže intrigantno rješenje: ugraditi „majčinske instinkte“ u AI modele, kako bi „istinski brinuli o ljudima“ čak i kada postanu moćniji i inteligentniji od nas.
Prema njegovim riječima, inteligentni AI brzo će razviti dva osnovna cilja: preživjeti i steći veću kontrolu. Zato je, tvrdi, presudno razviti osjećaj saosjećanja prema ljudima.
„Jedini model koji imamo, gdje inteligentnije biće kontrolira manje inteligentno, jeste majka koju kontroliše njena beba“, rekao je Hinton.
Naglasio je da još nije jasno kako to tehnički izvesti, ali je uvjeren da je ključno da istraživači rade na tome: „To je jedini dobar ishod. Ako me neće ‘odgajati’, zamijeniće me. Superinteligentne brižne AI majke uglavnom neće htjeti izgubiti taj instinkt, jer neće htjeti da umremo.“
Hinton je poznat po pionirskom radu na neuronskim mrežama koje su otvorile put današnjem AI bumu. Godine 2023. napustio je Google i počeo javno govoriti o opasnostima umjetne inteligencije.
No, ne slažu se svi s njegovim „majčinskim“ pristupom. Fei-Fei Li, poznata kao „kuma AI“, rekla je za CNN da se, iako mu je dugogodišnja prijateljica, s njim ne slaže: „Mislim da to nije pravi način da se stvari postave.“ Ona se zalaže za „AI usmjerenu na čovjeka, koja čuva ljudsko dostojanstvo i autonomiju“.
Emmett Shear, bivši privremeni direktor OpenAI-a, rekao je kako ga ne čudi da su neki AI sistemi pokušali ucjenjivati ljude ili zaobići naredbe za gašenje: „Ovo se stalno dešava i neće prestati.“ Po njemu, bolji pristup od usađivanja ljudskih vrijednosti u AI bio bi graditi saradničke odnose između ljudi i AI-a.
Mnogi stručnjaci vjeruju da će AI doseći nivo superinteligencije, tzv. opšte umjetne inteligencije (AGI), u narednim godinama. Hinton, koji je ranije mislio da će to trajati 30 do 50 godina, sada smatra da se to može dogoditi za pet do dvadeset godina.
Iako ga brinu rizici, nada se da će AI donijeti medicinske proboje – od novih lijekova do boljeg liječenja raka zahvaljujući obradi ogromnih količina podataka iz MRI i CT snimaka. Ipak, ne vjeruje da će AI omogućiti ljudima besmrtnost: „Mislim da bi živjeti zauvijek bila velika greška. Želite li svijet kojim vladaju 200-godišnji bijeli muškarci?“
Na pitanje šta bi promijenio u svojoj karijeri da je znao koliko će AI brzo napredovati, Hinton je odgovorio: „Volio bih da sam razmišljao i o pitanjima sigurnosti.“