Iako nas tehnološki giganti mjesecima uvjeravaju da je budućnost u AI agentima koji će raditi umjesto nas, novo istraživanje baca ozbiljnu sumnju na te tvrdnje. Prema najnovijim nalazima, ovi napredni sistemi imaju krupne slabosti u osnovnoj logici i matematici – upravo u oblastima koje su ključne za samostalno donošenje odluka.
AI agenti predstavljaju korak dalje od klasičnih chatbotova. Ideja je da oni samostalno koriste računar, plaćaju račune, upravljaju kalendarom ili planiraju putovanja. Međutim, istraživači su testirali najnaprednije modele i došli do zabrinjavajućih rezultata.
Ključni problem leži u tzv. akumulaciji grešaka. Pošto AI agenti rješavaju zadatke tako što ih razlažu na niz manjih koraka, svaka sitna greška u početnoj fazi vremenom se uvećava i na kraju dovodi do potpunog kolapsa cijelog procesa.
Studija pokazuje da čim zadatak zahtijeva više od nekoliko uzastopnih logičkih ili matematičkih koraka, vjerovatnoća uspjeha drastično opada. U praksi to znači da bi AI agent, umjesto da vam precizno izračuna troškove i rezerviše hotel, mogao da napravi niz pogrešnih odluka – ostavljajući vas i bez novca i bez smještaja.
Dodatni problem je gubitak fokusa. Istraživači su primijetili da AI agenti često „zaborave“ prvobitni cilj zadatka. Umjesto da ga privedu kraju, zaglave se u besmislenim ponavljanjima ili počnu da generišu potpuno nebitne podatke, gubeći nit onoga što je korisnik zapravo tražio.
„Performanse su često bile katastrofalne čim bi se u jednačinu uvela malo kompleksnija logika“, navodi se u izvještaju koji prenosi portal Futurism.
Ovi rezultati predstavljaju svojevrstan hladan tuš za kompanije poput Microsofta, Googlea i OpenAI-ja, koje se utrkuju u predstavljanju sve „pametnijih“ digitalnih asistenata. Iako su impresivni u razgovoru i jednostavnim zadacima, ovi sistemi i dalje ne razumiju svijet na način na koji to čini ljudski mozak.
Za sada, poruka korisnicima je jasna: AI agenti mogu biti korisni pomoćnici, ali im ne treba bezrezervno povjeravati važne zadatke. Posebno ne finansije, poslovne knjige ili domaće zadatke iz matematike – barem ne bez detaljne ljudske provjere.