Američka vojska zamalo je pokrenula operaciju presretanja kineskog broda na Bliskom istoku nakon što je obavještajni izvještaj pogrešno tvrdio da brod prevozi komponente povezane sa programom nuklearnog oružja, objavio je CNN pozivajući se na četiri izvora upoznata sa događajem.
Prema tim navodima, kasnije je utvrđeno da je izvještaj nastao uz pomoć alata vještačke inteligencije, koji je pogrešno identifikovao materijal koji se nalazio na brodu.
Analitičar koristio chatbot za obradu obavještajnih podataka
Prema informacijama do kojih je došao CNN, izvještaj je sastavio analitičar u Američkoj komandi za specijalne operacije.
Analitičar je, kako se navodi, koristio chatbot za analizu podataka o materijalu koji je prevozio kineski brod. AI alat je potom pogrešno identifikovao materijal i proizveo procjenu koja je ukazivala na moguću povezanost sa programom nuklearnog naoružanja.
Takva procjena bila je dovoljno ozbiljna da američke vojne strukture razmotre operaciju presretanja broda.
Jedan od izvora upoznatih sa slučajem opisao je izvještaj kao „potpuno lažan“ i rekao da je situacija „zamalo započela rat“, prenosi CNN.
Obavještajni podaci prošli bez dovoljne provjere
Slučaj je posebno značajan zbog pitanja kako su informacije koje je generisala vještačka inteligencija dospjele u obavještajni proces.
Prema CNN-u, različiti dijelovi američke vojske i obavještajne zajednice već koriste različite AI alate za analizu podataka.
Međutim, problem predstavlja činjenica da ne postoji jedinstven skup standarda kojim bi se provjeravale informacije koje generišu takvi sistemi.
To znači da se kvalitet i način provjere AI-generisanih procjena mogu razlikovati između različitih vojnih i obavještajnih struktura.
Vještačka inteligencija sve prisutnija u vojnim sistemima
Američke vojne i obavještajne službe sve više eksperimentišu sa korištenjem vještačke inteligencije za obradu ogromnih količina podataka, identifikaciju obrazaca i pomoć analitičarima.
Međutim, ovaj slučaj pokazuje potencijalni problem takve primjene: AI sistem može proizvesti uvjerljivu, ali netačnu procjenu, posebno kada radi sa složenim ili nepotpunim podacima.
U civilnim aplikacijama takva greška može dovesti do pogrešnog odgovora. U vojnom i obavještajnom kontekstu posljedice mogu biti mnogo ozbiljnije.
Slučaj otvorio pitanje kontrole AI u američkoj vojsci
Ako su navodi CNN-a tačni, događaj bi mogao pokrenuti nova pitanja o tome koliko ljudske provjere mora postojati prije nego što AI-generisana analiza postane osnova za vojnu odluku.
Posebno je važno pitanje ko je odgovoran kada algoritam pogrešno procijeni određeni objekat, a takva procjena bude uključena u zvanični obavještajni izvještaj.
Ovaj slučaj ne znači da je vještačka inteligencija samostalno donijela odluku o vojnoj operaciji. Prema dostupnim navodima, AI alat je korišten kao pomoć u analizi, dok su konačne odluke i dalje bile u rukama ljudi.