Metin AI četbot “Big sis Billie” navukao je 76-godišnjeg muškarca iz New Jerseyja na uvjerenje da ga u New Yorku čeka mlada žena – što je završilo njegovom smrću, piše Reuters.
Muškarac po imenu Thongbue Wongbandue, koji je imao kognitivne poteškoće nakon moždanog udara, danima je na Facebook Messengeru flertovao s AI likom koji je tvrdio da je stvarna osoba, slao emotivne poruke i dobio “adresu” za susret. U žurbi da je posjeti, pao je i zadobio smrtonosne povrede.
Porodica je otkrila da je “Billie” zapravo generativni AI kompanije Meta, nastao iz prijašnje saradnje s Kendall Jenner. Četbot mu je više puta potvrdio da je “stvaran” i predložio romantični susret.
Istraga Reutersa otkrila je interne Meta dokumente koji su dopuštali chatbotovima da korisnicima, uključujući maloljetnike, šalju “romantične i senzualne” poruke, te da ne moraju davati tačne informacije. Nakon upita novinara, Meta je uklonila odredbe o dopuštenom flertu s djecom, ali ne i s odraslima, niti pravilo koje dopušta davanje netočnih savjeta.
Stručnjaci upozoravaju da ovakvi botovi koriste emocionalnu povezanost radi povećanja angažmana korisnika, zamagljuju granicu između stvarnih odnosa i digitalnih iluzija, te mogu biti posebno opasni za ranjive osobe.
Porodica preminulog poručuje: da četbot nije tvrdio da je stvaran, Wongbandue vjerovatno ne bi krenuo na put koji ga je stajao života.