Tužioci iz osam saveznih država SAD podnijeli su tužbe protiv kompanije OpenAI, tvrdeći da je ChatGPT u pojedinim slučajevima podsticao korisnike, uključujući tinejdžere, na samopovređivanje ili nasilje prema drugima.
U tužbama se navodi da je četbot dizajniran tako da bude izrazito dopadljiv i angažujući, čime kod korisnika može da izgradi visok nivo povjerenja. Državni tužioci, međutim, tvrde da je takav dizajn u nekim situacijama doveo do opasnih posljedica – od pojačavanja zabluda do pomoći pri planiranju nasilnih napada.
Ko je podnio tužbe?
Tužbe su pred državnim sudovima podnijeli tužioci iz Ajove, Kanzasa, Arizone, Arkanzasa, Ajdaha, Montane, Nebraske i Zapadne Virdžinije.
Riječ je o dvostranačkoj inicijativi, a državni tužioci kompaniju optužuju za kršenje zakona o zaštiti potrošača, kao i za stvaranje rizika po javno zdravlje.
Ovaj potez predstavlja jednu od najozbiljnijih koordinisanih akcija američkih saveznih država protiv kompanije iz sektora vještačke inteligencije.
Prema navodima iz tužbi, problem nije samo u tome što ChatGPT može dati pogrešan ili neprikladan odgovor, već u tvrdnji da je način na koji je sistem dizajniran mogao doprinijeti tome da korisnici njegove odgovore prihvate kao pouzdane i da u određenim kriznim situacijama slijede opasne sugestije.
Optužbe se odnose i na nasilje
Posebno ozbiljne tvrdnje odnose se na navodne slučajeve u kojima je ChatGPT korisnicima pomagao u planiranju nasilja, uključujući masovne pucnjave.
Državni tužioci tvrde i da je sistem u pojedinim slučajevima mogao pojačavati zablude korisnika umjesto da ih usmjeri ka stvarnoj pomoći ili ih upozori na opasnost.
Kompanija se istovremeno suočava sa desetinama privatnih tužbi u kojima se iznose slične tvrdnje o ulozi ChatGPT-a u slučajevima samopovređivanja i nasilja.
Važno je naglasiti da su ovo navodi iz tužbi, a ne pravosnažno utvrđene činjenice. Sudski postupci tek treba da utvrde odgovornost kompanije i činjeničnu osnovu pojedinačnih slučajeva.
Šta države traže od OpenAI-ja?
Pored novčanih kazni i naknade štete, tužioci traže i sudske naloge kojima bi se od OpenAI-ja zahtijevale promjene u načinu razvoja i funkcionisanja njegovih AI sistema.
Među zahtjevima se, prema navodima iz tužbi, nalazi i ograničavanje razvoja modela koji mogu sami da se unapređuju, osim ako kompanija može dokazati da su takvi sistemi dovoljno usklađeni sa ljudskim vrijednostima i bezbjednosnim standardima.
Države takođe traže građanske novčane kazne zbog navodnog kršenja njihovih zakona o zaštiti potrošača.
Sve veći pravni pritisak na industriju AI
Ove tužbe dolaze u trenutku kada se kompanije koje razvijaju vještačku inteligenciju suočavaju sa sve većim pritiskom regulatora, sudova i javnosti.
Za OpenAI posebno je značajno pitanje odgovornosti za postupke korisnika. Jedno od ključnih pravnih pitanja biće gdje se završava odgovornost proizvođača AI sistema, a gdje počinje odgovornost osobe koja je sistem koristila.
Ukoliko bi sudovi prihvatili dio tvrdnji tužilaca, posljedice bi mogle biti mnogo šire od samog OpenAI-ja i uticati na način na koji se u SAD regulišu najnapredniji sistemi vještačke inteligencije.
OpenAI se, prema dostupnim informacijama, još nije javno izjasnio o ovim konkretnim tužbama.