Ukoliko izvore informacija čine AI halucinacije, onda su to i krajnji rezultati.
Novi izveštaj Forbsa otkriva da je Perplexity, neobična AI alatka za pretragu, zaglavljena u plagijatima i tajnim optužbama sa veba, citira neželjenu poštu lošeg kvaliteta koju generiše vještačka inteligencija sa nejasnih blogova i loše obavještenih izvora.
Forbsov izvještaj je u velikoj mjeri zasnovan na dubokom istraživanju Perplexity-ja, koje je sproveo GPTZero, startup specijalizovan za otkrivanje sadržaja generisanog vještačkom inteligencijom. U blogu objavljenom ranije ovog mjeseca, izvršni direktor GPTZero Edvard Tian je primijetio da je “povećan broj izvora povezanih sa Perplexity koji je i sam generisan od strane AI”. Kada je potom ispitano kako Perplexity dobija te informacije, otkriveno je da, u nekim slučajevima, Perplexity čak isporučuje zastarjele i netačne informacije iz AI-generisanih izvora.
Drugim riječima, to je zatvorena petlja dezinformacija upravljana vještačkom inteligencijom, u kojoj greške i izmišljotine vještačke inteligencije pronalaze put do odgovora Perplexity AI-ja. A za startap koji tvrdi da “donosi revoluciju u način na koji otkrivate informacije” nudeći “precizno znanje” kroz “ažurne” informacije iz “pouzdanih izvora”, ovo predstavlja lošu sliku.
“Perplexity je dobar onoliko koliko su dobri njegovi izvori”, rekao je Tian za Forbs. “Ako su izvori AI halucinacije, onda je i rezultat”.
Ukoliko ste oprezni sa alatima za AI detekciju, to je potpuno fer. Ali izvori koje nudi Perplexity i slične platforme, koje su Tian i Forbs naveli kao loše informacije zasnovane na vještačkoj inteligenciji, imaju znakove degeneracije vještačke inteligencije.
Iz Perplexity-ja kažu da je kompanija za pretragu AI-ja razvila svoje “sopstvene interne algoritme za otkrivanje da li je sadržaj generisan vještačkom inteligencijom”, ali da “ovi sistemi nisu savršeni i da ih je potrebno stalno usavršavati, posebno zato što su AI generisani sadržaj postaje sofisticiraniji”,