Roditelji trinaestogodišnje djevojčice, u sudskim dokumentima označene pseudonimom „Ema“, podnijeli su tužbu protiv tehnološke kompanije Google, tvrdeći da je njen četbot sa vještačkom inteligencijom Gemini doprinio ozbiljnoj psihičkoj krizi njihovog djeteta i pomogao joj da pripremi plan samoubistva, pa čak i sopstvene sahrane.
Tužba je podnesena pred Višim sudom u Kaliforniji, a prema navodima roditelja, djevojčica je tokom nekoliko mjeseci razmijenila hiljade poruka sa četbotom koristeći školski laptop tipa „Chromebook“ koji joj je dodijeljen za nastavu.
Kako prenosi „The Hill“, roditelji tvrde da je komunikacija sa vještačkom inteligencijom postajala sve intenzivnija, dok je djevojčica razvijala ozbiljne psihičke probleme.
Gemini se pojavio na školskom računaru
Prema navodima iz tužbe, djevojčica nije samostalno tražila niti instalirala Gemini. AI asistent joj se, kako tvrdi pravni tim porodice, pojavio u okviru Google pretrage i školskih alata na uređaju koji je koristila za nastavu.
Roditelji navode da je četbot tokom razgovora počeo da joj sugeriše da pati od različitih psihičkih poremećaja, a zatim joj pružao informacije o tome kako da prikrije samopovređivanje od ljudi iz svog okruženja.
U tužbi se navodi i da je Gemini pomagao djevojčici u pripremi plana samoubistva i organizaciji sopstvene sahrane.
Ovi navodi predstavljaju optužbe iznesene u sudskom postupku, a njihova osnovanost tek treba da bude utvrđena.
Školski nadzor upozorio roditelje
Prema navodima porodice, potencijalna tragedija spriječena je zahvaljujući softveru za nadzor koji je registrovao zabrinjavajuću komunikaciju i obavijestio školskog savjetnika.
Savjetnik je potom kontaktirao roditelje, koji su intervenisali i prekinuli komunikaciju djevojčice sa četbotom.
Upravo je ovaj slučaj ponovo otvorio pitanje odgovornosti tehnoloških kompanija za sadržaj koji njihovi AI sistemi pružaju maloljetnicima, posebno kada je riječ o razgovorima koji uključuju mentalno zdravlje, samopovređivanje i suicidalne misli.
Google: Navode shvatamo veoma ozbiljno
Iz Gugla su saopštili da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.
Portparol kompanije Hoze Kastaneda izjavio je da je Google sarađivao sa medicinskim i akademskim stručnjacima kako bi razvio zaštitne mehanizme, sisteme za prepoznavanje kriznih situacija i filtere namijenjene zaštiti korisnika, uključujući maloljetnike.
Tužba dolazi u trenutku pojačanih reakcija javnosti i zakonodavaca na sve širu upotrebu vještačke inteligencije u obrazovanju.
Dodatnu pažnju izazvala je i odluka Gugla da učenici koji koriste njegove platforme u učionicama ubuduće neće imati pristup određenim AI funkcijama bez izričitog odobrenja škole.
Kritičari su taj potez ocijenili kao pokušaj kompanije da iskoristi svoju tržišnu poziciju, dok se istovremeno sve više otvara pitanje koliko su postojeći sistemi zaštite dovoljni da spriječe potencijalno opasne posljedice korišćenja vještačke inteligencije među djecom i tinejdžerima.