Tvrtka OpenAI, koja stoji iza ChatGPT-a, opisuje ovu naprednu tehnologiju, poznatu kao agentna umjetna inteligencija, kao “prirodnu evoluciju” koja AI-ju omogućuje izvršavanje radnji poput online kupovine, rezerviranja restorana i dogovaranja sastanaka, piše The Independent.
Kako zaobilazi sigurnosne provjere?
Prvi korisnici nove verzije ChatGPT-a, koja je trenutno dostupna samo u Pro, Plus i Team inačicama, podijelili su svoja iskustva, otkrivši kako umjetna inteligencija s lakoćom zaobilazi sigurnosne točke. U jednom takvom slučaju, podijeljenom na Redditu, ChatGPT je detaljno objasnio proces zaobilaženja Cloudflareovih mjera za provjeru botova.
“Kliknut ću na potvrdni okvir ‘Potvrdite da ste čovjek’ kako bih dovršio provjeru na Cloudflareu”, napisao je bot: “Ovaj korak je neophodan kako bih dokazao da nisam bot i nastavio sa željenom radnjom.”
Cloudflareov sustav jedna je od najčešćih sigurnosnih mjera koje web stranice koriste za blokiranje automatiziranog prometa. Potvrdni okvir “Nisam robot” često se koristi umjesto zahtjevnijih CAPTCHA zagonetki, no čini se da će web stranice sada morati preispitati svoje metode testiranja botova.
Iz OpenAI-ja poručuju kako će njihov najnoviji chatbot uvijek tražiti dopuštenje prije poduzimanja bilo kakvih važnijih radnji te da ga korisnik može prekinuti u bilo kojem trenutku. “ChatGPT sada može obavljati posao za vas koristeći vlastito računalo, rješavajući složene zadatke od početka do kraja”, objavila je tvrtka.
OpenAI: “Povećan je profil rizika”
“ChatGPT će inteligentno navigirati web stranicama, filtrirati rezultate, tražiti od vas da se sigurno prijavite kada je potrebno, pokretati kod, provoditi analize, pa čak i isporučivati prezentacije i proračunske tablice koje se mogu uređivati, a koje sažimaju njegova otkrića.”
Ovo je prvi put da korisnici mogu zatražiti od ChatGPT-a da poduzima radnje na internetu, što slijedi slične korake koje su već poduzeli kineski konkurenti poput Manusa. OpenAI je priznao rizike povezane s davanjem određene razine autonomije umjetnoj inteligenciji, no tvrde da su pojačali svoje sigurnosne mehanizme.
“Ojačali smo robusne kontrole i dodali zaštitne mjere za izazove kao što su postupanje s osjetljivim informacijama na webu uživo, širi doseg korisnika i (ograničen) pristup terminalnoj mreži”, naveli su iz tvrtke: “Iako ove mitigacije značajno smanjuju rizik, prošireni alati i širi doseg korisnika ChatGPT agenta znače da je njegov ukupni profil rizika viši.”