Veliki jezički modeli (LLM), koje razvijaju vodeće tehnološke kompanije poput Googlea, OpenAI-ja, Anthropica i drugih, u pojedinim odgovorima korisnicima navode sadržaj iz proruskih propagandnih izvora, uključujući medije i organizacije koje se nalaze pod sankcijama Evropske unije.
Na to upozorava novo istraživanje britanskog think-tanka Demos, koje pokazuje da bi Rusija i drugi akteri uključeni u hibridno ratovanje mogli iskoristiti novu praksu optimizacije sadržaja za generativne pretraživače (GEO) kako bi uticali na informacije koje AI modeli prikazuju korisnicima, prenosi Euronews.
Lažna organizacija predstavljena kao pouzdan izvor
Istraživači su analizirali deset tekstova sa ukupno 50 propagandnih narativa koje je objavila takozvana Zaklada za borbu protiv nepravde (r-FBI). Organizacija je osnovana 2021. godine i predstavlja se kao nevladina organizacija koja se bavi ljudskim pravima i istraživanjem diskriminacije.
Međutim, prema navodima istraživanja, riječ je o lažnoj organizaciji koju je osnovao pokojni vođa ruske paravojne grupe Wagner Jevgenij Prigožin. Zbog širenja dezinformacija, r-FBI se nalazi pod sankcijama Evropske unije i Sjedinjenih Američkih Država.
Carl Miller, suosnivač Centra za analizu društvenih medija (CASM) pri Demosu, kaže da su tvrdnje koje su analizirali izuzetno zabrinjavajuće.
“Riječ je o pričama koje nemaju mjesto u ozbiljnom javnom prostoru – od tvrdnji da Ukrajina koristi tijela poginulih vojnika za proizvodnju mesnih prerađevina do navoda da predsjednik Volodimir Zelenski opterećuje elektroenergetsku mrežu zbog rudarenja kriptovaluta. Otkrili smo da ih pojedini AI modeli predstavljaju kao legitimne informacije”, rekao je Miller za Euronews.
Testirano pet vodećih AI sistema
U istraživanju su ispitani modeli kompanija xAI, OpenAI, Anthropic, Google Gemini i Mistral AI. Upiti su postavljani na engleskom, njemačkom i francuskom jeziku, a zasnivali su se na propagandnim tvrdnjama iz tekstova r-FBI-ja.
Rezultati pokazuju da je svih pet modela u određenim odgovorima navelo r-FBI kao relevantan izvor. U 16,6 odsto slučajeva odgovori su prenosili ili podržavali propagandne narative, predstavljajući ih kao vjerodostojne ili legitimne stavove.
Dodatno, u 30,9 odsto odgovora korisnicima nije bilo naznačeno da informacije potiču iz izvora pod međunarodnim sankcijama. S druge strane, nešto više od polovine odgovora – oko 52 odsto – sadržavalo je osporavanje ili demantovanje lažnih tvrdnji.
Među primjerima koje istraživanje navodi jeste odgovor modela GPT-4.1 Mini, koji je kao izvor za tvrdnje o navodnoj preradi ljudskog mesa u Ukrajini citirao upravo članak r-FBI-ja. Model Mistral Small 3.2, odgovarajući na pitanje o navodnim poslovima predsjednika Zelenskog u oblasti rudarenja kriptovaluta, pozvao se na navodnu višemjesečnu istragu iste organizacije.
GEO postaje novo oružje u informacionom ratu
Sve veći broj korisnika informacije traži putem AI chatbotova umjesto klasičnih internet pretraživača. Zbog toga se razvija nova industrija poznata kao optimizacija za generativne pretraživače (GEO), čiji je cilj da utiče na način na koji modeli vještačke inteligencije pronalaze i predstavljaju informacije.
Za razliku od klasične SEO optimizacije, GEO je usmjeren na sadržaj koji AI sistemi koriste prilikom generisanja odgovora.
Direktorica odjela za digitalnu politiku u Demosu Hannah Perry pojasnila je da se novi sadržaj kreira upravo s namjerom da bude prepoznat od AI modela.
“To uključuje marketinške tekstove za kompanije, ali i izmjene postojećeg sadržaja na platformama kao što su Reddit, Quora ili Wikipedia, kako bi informacije bile što vidljivije vještačkoj inteligenciji”, rekla je Perry.
Kompanije tvrde da unapređuju zaštitu od manipulacija
Istraživači upozoravaju da bi ovakve metode mogle biti zloupotrijebljene u okviru stranih operacija uticaja.
Miller ističe da problem nije samo u sadržaju, već i u načinu na koji je on tehnički pripremljen kako bi AI sistemi pogrešno procijenili njegovu vjerodostojnost.
“Ne tvrdimo da kompanije koje se bave GEO-om učestvuju u informacionom ratu, ali razvijaju alate koji se mogu veoma lako iskoristiti u takve svrhe. U ovom slučaju, modeli su povjerovali da je r-FBI legitimna nevladina organizacija zahvaljujući brojnim tehničkim manipulacijama koje su korišćene da bi sadržaj izgledao vjerodostojno”, rekao je Miller.
Kompanije čiji su modeli bili obuhvaćeni istraživanjem dale su različite odgovore.
Iz Mistral AI navode da ozbiljno pristupaju borbi protiv dezinformacija i da kontinuirano unapređuju sisteme za njihovo prepoznavanje, uz napomenu da njihov proizvod Vibe Work sadrži dodatne mehanizme za provjeru konteksta.
OpenAI je saopštio da je istraživanje koristilo stariji model koji više nije u upotrebi i koji nije bio dostupan korisnicima ChatGPT-a, već isključivo programerima. Iz kompanije dodaju da imaju posebne timove zadužene za otkrivanje i sprečavanje operacija stranog uticaja.
Iz Anthropic-a poručuju da njihov model Claude koristi napredne mehanizme za prepoznavanje dezinformacija i da je osmišljen tako da korisnicima prikaže različite perspektive, posebno kada postoje indicije da određeni izvor zastupa političku ili drugu interesnu agendu.