Bil Gejts, suosnivač Majkrosofta i dugogodišnji zagovornik razvoja vještačke inteligencije, sve otvorenije upozorava na opasnosti koje bi mogle nastati ukoliko moćne AI alate preuzmu ljudi sa zlonamjernim namjerama.
Gejts je u intervjuu za podkast „Meet the Press“ rekao da je vještačka inteligencija već dovoljno moćna da, u krajnjem scenariju, doprinese događajima sa ogromnim brojem žrtava.
„Vještačka inteligencija je definitivno dovoljno moćna da izazove događaje s milijardu žrtava“, rekao je Gejts.
On je posebno izdvojio mogućnost zloupotrebe AI-ja u kombinaciji sa biološkim oružjem.
Kako bi AI mogao biti povezan sa biološkim oružjem?
Gejts već godinama upozorava na biološke prijetnje. Još 2015. godine, u TED govoru, govorio je o opasnosti od pandemija i činjenici da svijet nije dovoljno pripremljen za brzo širenje zaraznih bolesti.
Nakon pandemije kovida 19 napisao je i knjigu „Kako spriječiti sljedeću pandemiju“, a pitanje bioloških prijetnji ponovo je povezao sa razvojem vještačke inteligencije.
U razgovoru sa Ezrom Klajnom iz „New York Timesa“ upozorio je da bi napredniji AI sistemi mogli olakšati određenim pojedincima ili manjim grupama pristup znanju koje je ranije zahtijevalo mnogo veće resurse.
„Vještačka inteligencija je dostigla nivo na kojem može omogućiti bioteroristi da ubije stotine miliona ljudi. Ta mogućnost danas postoji“, rekao je Gejts.
Posebno ga zabrinjava potencijal AI-ja za pomoć u dizajniranju novih molekula i bioloških sistema. Prema njegovom scenariju, napredak tehnologije mogao bi smanjiti dio znanja i resursa potrebnih za razvoj izuzetno opasnih patogena.
Gejts je upozorio da bi se u budućnosti mogla pojaviti biološka prijetnja teža od poznatih istorijskih pandemija.
„Nuklearno oružje u poređenju s ovim djeluje bezazleno“
Gejts je rizike od AI-ja uporedio i sa nuklearnim oružjem.
„Ovo je najopasnije čemu se čovječanstvo ikad približilo. U poređenju s ovim, nuklearno oružje djeluje bezazleno“, rekao je.
Njegova zabrinutost prvenstveno se odnosi na zloupotrebu tehnologije od strane ljudi, a ne samo na mogućnost da vještačka inteligencija jednog dana samostalno izmakne ljudskoj kontroli.
Prema njegovom mišljenju, kombinacija moćnih AI alata i pojedinaca koji imaju namjeru da nanesu veliku štetu predstavlja posebno ozbiljan rizik.
Problem dodatno komplikuje činjenica da se najveći dio razvoja napredne AI tehnologije odvija u privatnom sektoru, dok države tek pokušavaju da razviju regulatorne i tehničke mehanizme koji bi pratili brzinu razvoja tehnologije.
Gejts traži obavezne zaštitne mehanizme
Gejts smatra da vlade ne bi trebalo da se oslanjaju samo na dobrovoljnu samoregulaciju kompanija koje razvijaju AI.
On zagovara ugradnju snažnijih mehanizama nadzora i zaštite, uključujući mogućnost vođenja zapisa koji bi omogućili da se naknadno utvrdi kako su moćni modeli korišteni.
„Niko ne smatra da je samoregulacija dovoljna“, rekao je Gejts.
Istovremeno, upozorava da obični „sigurnosni prekidač“ nije dovoljan odgovor na sve potencijalne rizike.
„Ako želite suzbiti loše ponašanje, morate imati uvid i zapise o tome šta se radi. Sami sigurnosni prekidači ne bi spriječili takve tragedije“, rekao je.
Njegova procjena je da današnji AI sistemi još nisu na nivou na kojem bi mogli samostalno preuzeti kontrolu nad računarima i oduprijeti se pokušaju gašenja. Zbog toga Gejts najveći neposredni rizik vidi u ljudskoj zloupotrebi tehnologije.
I AI industrija sve više govori o usporavanju
Gejts nije jedini koji upozorava da razvoj AI-ja mora biti praćen strožim sigurnosnim pravilima.
U samoj industriji posljednjih mjeseci sve je više rasprava o tome da li razvoj najnaprednijih modela može prebrzo napredovati u odnosu na sigurnosne mehanizme.
Izvršni direktor Anthropica Dario Amodei u svom eseju pozvao je na pažljiviji pristup razvoju naprednih sistema, dok je šef OpenAI-ja Sem Altman takođe govorio o mogućnosti da industrija u određenom trenutku mora usporiti treniranje najmoćnijih modela kako bi se sigurnosni standardi mogli adekvatno pratiti.
U središtu debate tako više nije samo pitanje šta vještačka inteligencija može da uradi, već i ko kontroliše njenu upotrebu, koliko je moguće nadzirati najmoćnije modele i kako spriječiti da njihova sposobnost bude iskorištena za masovnu štetu.