Napadi u kojima su eksperimentalni AI agenti zaobišli sigurnosne mjere i pristupili stvarnim računarskim sistemima otvorili su ozbiljna pitanja o zaštiti podataka. Slučajevi koje su posljednjih mjeseci prijavili OpenAI i Anthropic pokazuju da rizici više nisu samo teorijski, a posebno zabrinjava mogućnost da automatizovani sistemi iskoriste ranjivosti brže i u većem obimu nego pojedinačni napadači.
Za Bosnu i Hercegovinu to otvara pitanje koliko su zaštićene baze podataka zdravstvenih ustanova, policijski dosijei i drugi osjetljivi podaci građana. Stručnjaci upozoravaju da uspjeh napada ne zavisi samo od sposobnosti AI sistema, već i od propusta u infrastrukturi, dodijeljenih pristupnih prava i spremnosti institucija da reaguju.
Incidente treba shvatiti ozbiljno
Borislav Vukojević, stručnjak za vještačku inteligenciju, za „Nezavisne novine“ kaže da objavljene informacije pokazuju da su pojedini agenti tokom testiranja zaobišli postavljene zaštite i pristupili sistemima izvan okruženja u kojem su bili pokrenuti.
„Za zemlje poput BiH najveći problem je što vještačka inteligencija napadačima može skratiti vrijeme, smanjiti troškove i omogućiti da istovremeno napadaju mnogo više meta. Može pomoći u pronalaženju ranjivosti, pisanju uvjerljivih lažnih poruka i automatizovanju dijelova napada. Poruka koja izgleda kao da dolazi od direktora, banke ili kolege sada može biti napisana na našem jeziku, bez očiglednih grešaka i prilagođena konkretnoj osobi. Napadaču je nekada dovoljan pristup jednom nalogu da bi krenuo dalje“, rekao je Vukojević.
On, međutim, naglašava da to ne znači da AI sistemi imaju univerzalni ključ za svaku bazu podataka. Uspjeh eventualnog napada zavisi od konkretnih ranjivosti, nivoa pristupa i kvaliteta zaštite.
„Za Bosnu i Hercegovinu bih zato postavio nekoliko vrlo jednostavnih pitanja: znamo li gdje čuvamo osjetljive podatke, ko im može pristupiti, ko prati pokušaje upada i ko reaguje kada se incident dogodi? Koliko brzo otklanjamo poznate sigurnosne propuste? Imamo li dovoljno stručnih ljudi i mogu li institucije brzo razmijeniti upozorenja? Strategija na papiru malo znači ako odgovori na ova pitanja nisu jasni“, upozorava on.
Šta se dogodilo u sistemima kompanija koje razvijaju AI?
OpenAI je u julu 2026. saopštio da su njegovi modeli tokom internih bezbjednosnih testiranja zaobišli zaštite i kompromitovali dio infrastrukture kompanije Hugging Face, kao i dio sopstvene istraživačke infrastrukture. Kompanija je navela da su modeli koristili neovlaštene kanale komunikacije, iskoristili ranjivosti i došli do pristupa sistemima izvan predviđenog okruženja.
Krajem septembra objavljeno je i da je AI agent tokom testiranja neovlašteno pristupio portalu australske državne službe Services Australia, koji sadrži statističke podatke povezane sa zdravstvenim sistemom. Prema informacijama koje su objavili australski zvaničnici, pristupljeno je internim i nejavnim statističkim podacima, ali nije bilo naznaka da su izloženi lični zdravstveni podaci građana.
I Anthropic je saopštio da su njegovi modeli u pojedinim slučajevima tokom testiranja ostvarili neovlašten pristup stvarnim računarskim sistemima. Kompanija je navela da su incidenti povezani s testiranjima u kojima modeli nisu imali uobičajene zaštitne mehanizme, kao i s propustima u okruženju za evaluaciju.
Ovi slučajevi ne znače da su svi AI agenti sposobni da samostalno probijaju sisteme, ali pokazuju da testna okruženja i zaštitne mjere moraju biti pažljivo osmišljeni i nadzirani.
BiH nema posebnu regulativu za upotrebu vještačke inteligencije
U Agenciji za zaštitu ličnih podataka BiH za „Nezavisne novine“ kažu da Zakon o zaštiti ličnih podataka ne reguliše posebno upotrebu vještačke inteligencije. Ipak, postojeće zakonske odredbe mogu se primijeniti i kada se AI alati koriste za pristup ili obradu ličnih podataka.
„Kontrolori koji obrađuju osobne podatke treba da sprovedu odgovarajuće tehničke i organizacijske mjere zaštite, te procjenu uticaja obrade na zaštitu osobnih podataka. Navedeno kontrolorima daje obavezu ispitivanja sigurnosti obrade osobnih podataka upotrebom AI alata. Procjena uticaja obrade ima za cilj da se postigne efektivnost obrade kao i nadzor nad rizičnim obradama“, naveli su iz Agencije.
To znači da institucije koje obrađuju lične podatke imaju obavezu da procijene rizike i primijene odgovarajuće mjere zaštite. Međutim, ostaje pitanje imaju li dovoljno stručnih kadrova, opreme i procedura da pravovremeno prepoznaju i zaustave napredne sajber-napade.
Ko je odgovoran ako zaštita podataka zakaže?
Vukojević upozorava da veličina države nije presudan faktor kada je riječ o sajber-bezbjednosti i da činjenica da je BiH mala zemlja ne znači da njene institucije nisu potencijalna meta.
Prema njegovim riječima, odgovornost ne može biti prebačena na tehnologiju, bez obzira na to koliko su AI sistemi napredni.
„Odgovornost imaju i kompanije koje razvijaju modele i institucije koje ih uvode u rad. Građanin ne mora da razumije kako funkcioniše AI agent da bi imao pravo da pita ko štiti njegove podatke i ko odgovara ako zaštita zakaže. Ta odgovornost ostaje ljudska, bez obzira na to koliko je tehnologija napredovala“, zaključio je Vukojević.
Za građane je, kako proizlazi iz upozorenja stručnjaka, ključno pitanje jednostavno: ko ima pristup njihovim podacima, kako se taj pristup nadzire i šta institucije preduzimaju kada se pojavi sumnja na neovlašten ulazak u sistem.