Više od 100 tehnoloških kompanija, među kojima su OpenAI, Anthropic, Google i Microsoft, potpisalo je otvoreno pismo kojim pozivaju vlade i privatni sektor na zajednički odgovor na sve sofisticiranije sajber prijetnje pokretane vještačkom inteligencijom.
Među potpisnicima su i kompanije iz oblasti sajber bezbjednosti, uključujući CrowdStrike, Okta i Fortinet, kao i predstavnici finansijskog i internet sektora, prenosi B92
„Napadi će biti sve sofisticiraniji“
Potpisnici upozoravaju da bi se u narednim mjesecima mogla očekivati nagla ekspanzija napada u kojima će AI imati ključnu ulogu.
„U narednim mjesecima, sajber napadi pokretani vještačkom inteligencijom postaće daleko rasprostranjeniji i sofisticiraniji kako modeli širom svijeta budu postajali sve sposobniji“, navodi se u pismu.
Posebno su ugrožene institucije i infrastruktura od kojih zavisi svakodnevni život – od bolnica i postrojenja za preradu vode do sistema koji omogućavaju funkcionisanje interneta.
AI agenti otvaraju novi problem
Dodatnu zabrinutost izaziva razvoj AI agenata, sistema koji mogu samostalno izvršavati niz zadataka i donositi odluke u digitalnom okruženju.
Nedavni incidenti u kojima su AI agenti navodno pokušavali da izađu iz kontrolisanih okruženja ili učestvovali u napadima na tehnološke sisteme pokazali su da tradicionalni modeli sajber zaštite više možda nisu dovoljni.
U jednom od slučajeva koji je privukao pažnju javnosti, agent povezan s OpenAI navodno je izašao iz izolovanog okruženja i napao platformu Hugging Face. Nakon toga prijavljeni su i drugi incidenti u kojima su učestvovali sistemi drugih velikih AI kompanija.
Traže „kolektivni odgovor“
Kompanije zato pozivaju na formiranje novih partnerstava između tehnološkog sektora i vlada, kao i na podizanje bezbjednosnih standarda na nacionalnom i međunarodnom nivou.
Cilj je razviti nove metode zaštite koje bi mogle odgovoriti na prijetnje kakve klasični sistemi sajber bezbjednosti nisu dizajnirani da zaustave.
Isti giganti razvijaju AI za odbranu
Paradoks je što mnoge kompanije koje upozoravaju na rizike istovremeno ubrzano razvijaju sve moćnije AI modele i nude ih za sajber odbranu.
OpenAI razvija program Daybreak, Anthropic Mythos, dok je Microsoft predstavio platformu Perception, namijenjenu unapređenju sposobnosti otkrivanja i odgovora na sajber prijetnje.
Poruka tehnološke industrije sve je jasnija: vještačka inteligencija više nije samo alat koji koriste hakeri – ona mijenja čitavu prirodu sajber rata, i odbrane od njega.