Stručnjaci za sajber bezbjednost poslali su dramatičnu poruku sa velike evropske konferencije.
• Stručnjaci upozoravaju da kognitivna vještačka inteligencija može uticati na ljudske odluke i oblikovati ponašanje korisnika.
• Među najvećim rizicima izdvajaju se sofisticirani fišing napadi, manipulacija javnim mnjenjem i zloupotreba ličnih podataka.
• Posebnu zabrinutost izaziva povezivanje moždanih signala sa pametnim uređajima i mogućnost zloupotrebe takvih sistema.
Iako vještačka inteligencija još uvijek ne može direktno da čita ljudske misli, ona je već sada sposobna da tiho utiče na naše ponašanje i oblikuje naše odluke kroz sisteme preporuka, personalizaciju i kontrolu informacija velikih razmjera.
Stručnjaci iz oblasti sajber bezbjednosti upozoravaju da se dešava veliki zaokret – sa obične obrade podataka prelazimo na sisteme koji mogu da upravljaju ljudskim razumom, što predstavlja ozbiljan rizik po našu privatnost i slobodu izbora.
Na velikoj evropskoj konferenciji kompanije Kaspersky održanoj u Rimu, bezbjednosni tim GReAT izdvojio je četiri ključna rizika koji će postajati sve opasniji sa napretkom takozvane kognitivne vještačke inteligencije.
Socijalni inženjering postaje daleko opasniji
Veliki jezički modeli pretvaraju klasične internet prevare u znatno sofisticiraniju prijetnju. Napadači više ne šalju sumnjive imejlove pune gramatičkih grešaka.
Uz pomoć AI sistema, oni sada mogu da koriste društvene mreže i velike baze podataka kako bi osmislili visoko ciljane prevare zasnovane na psihološkom profilisanju žrtve. Takvi fišing napadi mogu se automatski prilagođavati trenutku i zvučati emocionalno uvjerljivo, zbog čega ih je izuzetno teško prepoznati.
Ovakve prevare podjednako pogađaju i pojedince i velike organizacije kroz krađu podataka i finansijske malverzacije. Najnoviji podaci pokazuju da fišing već sada čini oko 15 odsto svih zabilježenih napada i predstavlja glavnu ulaznu tačku za širenje opasnih virusa i zlonamjernih softvera u kompanijama i državnim institucijama.
Kognitivna manipulacija i oblikovanje javnog mnjenja
Pored pojedinačnih napada, vještačka inteligencija omogućava operacije uticaja na milione ljudi istovremeno. Hakeri, političke kampanje i velike korporacije mogu da koriste emocionalne okidače kako bi aktivno mijenjali stavove javnosti.
Algoritmi na društvenim mrežama već sada zatvaraju ljude u mehure istomišljenika i produbljuju polarizaciju u društvu. Kako ove tehnologije budu napredovale, granica između predviđanja našeg ponašanja i njegovog svjesnog oblikovanja postaće potpuno nejasna, što direktno ugrožava javno povjerenje i demokratske procese.
Profilisanje koje vodi do zloupotrebe podataka
Povezivanjem svih digitalnih tragova i aktivnosti sa društvenih mreža, vještačka inteligencija može da izgradi zastrašujuće detaljne psihološke profile pojedinaca. Time se drastično povećava rizik od doxxing-a, odnosno javnog objavljivanja privatnih podataka sa namjerom da se neko osramoti, kao i ciljanog progona na internetu.
Informacije koje su nekada bile rasute, AI sada spaja u jednu cjelinu i otkriva osjetljive detalje o pojedincima. Još veći rizik donose prediktivni modeli, gdje sistem može da osobu osudi ili izloži prijetnjama na osnovu pretpostavljenog ponašanja, odnosno onoga što AI misli da će uraditi, a ne na osnovu stvarnih postupaka.
Spajanje ljudskog mozga i pametnih uređaja
Interfejsi mozak-računar (BCI), koji omogućavaju nepokretnim pacijentima da komuniciraju putem tumačenja moždanih signala, polako se povezuju sa IoT uređajima. To znači da se neuronski signali iz mozga mogu koristiti za upravljanje pametnim kućnim uređajima ili medicinskom opremom.
Iako je riječ o ogromnom napretku za zdravstvo, bezbjednosni rizici postaju veoma ozbiljni. Ukoliko neko kompromituje ovakav sistem, napadač bi mogao da presretne moždane signale, manipuliše odgovorima uređaja ili zloupotrijebi vezu između namjere i izvršenja akcije.
Na taj način opasnost iz digitalnog svijeta prelazi direktno u domen ljudskog tijela i fizičkog djelovanja.
“Iako je kognitivna vještačka inteligencija još u ranoj fazi razvoja i daleko od masovne primjene, njen razvoj je veoma brz”, objasnila je Nušin Šabab, vodeća istraživačica bezbjednosti u kompaniji Kaspersky.
Ona dodaje da će napredni modeli interakcije između ljudi i AI postati znatno rasprostranjeniji tokom narednih decenija, zbog čega društvo mora biti spremno prije nego što ti rizici dodatno porastu.
Na potrebu hitne regulacije upozorila je i novinarka i edukatorka za odgovornu primjenu vještačke inteligencije Teresa Potenca.
“Stvarni rizik kognitivne vještačke inteligencije jeste to što ona oblikuje naše umove – tiho i u velikim razmjerama. Naučili smo da sistemi optimizovani za angažovanje korisnika narušavaju sposobnost rasuđivanja. Zato regulativa danas predstavlja zaštitu ljudske autonomije”, poručila je Potenca.