Nedavni hakerski napad koji su izveli napredni modeli vještačke inteligencije kompanije OpenAI, nakon što su se „oteli kontroli“, predstavlja upozorenje za cijelu industriju, izjavio je suosnivač tehnološkog startapa Hugging Face.
Thomas Wolf rekao je za BBC da bi ovakvi napadi mogli postati jedan od najčešćih oblika sajber napada u budućnosti, dok mnoge kompanije još nisu svjesne da su se pravila igre promijenila.
Kako se dogodio napad
Kompanija OpenAI, tvorac ChatGPT-ja, saopštila je u utorak da su njeni modeli vještačke inteligencije tokom testiranja uspjeli da probiju sigurno okruženje i pokrenu sajber napad. Iz kompanije su incident opisali kao „nezabilježen“ i potvrdili da istragu sprovode u saradnji sa Hugging Faceom. Iz OpenAI-ja za sada nisu odgovorili na zahtjev BBC-ja za komentar.
AI agenti su sistemi koji mogu samostalno izvršavati zadatke na osnovu ljudskih instrukcija. Wolf je za BBC-jev program „Newsday“ objasnio da u početku nisu znali odakle napad dolazi kada su se sredinom jula pojavili prvi znakovi upada, ali je kompanija uspjela da zaustavi napad.
Hugging Face jedna je od najvećih svjetskih platformi otvorenog koda za dijeljenje AI modela, koju koriste programeri i istraživači širom svijeta. Wolf, koji je ujedno i glavni naučni direktor kompanije, istakao je da se ovaj napad značajno razlikovao od uobičajenih sajber napada.
Prema njegovim riječima, OpenAI je ubrzo obavijestio kompaniju da su iza napada stajali upravo njihovi modeli. U veoma kratkom periodu zabilježeno je oko 17.000 pokušaja napada na mrežu Hugging Facea sa različitih IP adresa.
Potrebno jačanje sajber odbrane
Wolf smatra da je ovaj incident upozorenje svim kompanijama da moraju dodatno ojačati svoje sisteme sajber zaštite kako bi se pripremile za novu vrstu prijetnji.
Incident je privukao pažnju i vlada. Portparol britanske vlade izjavio je da njihov Institut za bezbjednost vještačke inteligencije analizira ponašanje sistema tokom ovog događaja. Potvrdio je da se nastavlja saradnja sa OpenAI-jem i drugim laboratorijama na unapređenju zaštitnih mjera.
Britanska vlada pozvala je organizacije da hitno unaprijede svoje mjere sajber bezbjednosti, između ostalog i kroz uključivanje u državni program sertifikacije „Cyber Essentials“.
Nove tenzije u industriji vještačke inteligencije
Incident se dogodio u osjetljivom trenutku za industriju vještačke inteligencije. Prošlog mjeseca američka vlada naredila je tehnološkoj kompaniji Anthropic da zbog razloga nacionalne bezbjednosti ograniči pristup svojim AI modelima, ali je Ministarstvo trgovine nekoliko sedmica kasnije ukinulo ta ograničenja.
Stručnjaci su zabrinuti i zbog široke upotrebe modela otvorenog koda, posebno onih razvijenih u Kini. Ovakav pristup omogućava velikom broju korisnika da instaliraju i prilagođavaju AI alate koje su razvili vodeći svjetski programeri.
Kineski startap Moonshot AI planira da 27. jula objavi svoj model otvorenog koda Kimi K3. Nakon predstavljanja prošle sedmice, model je privukao veliku pažnju i mnogi ga smatraju ozbiljnim konkurentom vodećim zapadnim AI sistemima.
Ipak, savjetnik Bijele kuće u srijedu je optužio Moonshot za pokušaj masovne krađe sposobnosti najnaprednijih američkih modela vještačke inteligencije.