U tužbi se navodi da je vještačka inteligencija umanjila ozbiljnost simptoma i navodno ga ohrabrila da ignoriše savjete porodice i prijatelja da potraži medicinsku pomoć.
Jedan sveštenik iz Sjedinjenih Američkih Država podnio je tužbu protiv kompanije OpenAI, tvrdeći da mu je ChatGPT dao pogrešne i opasne medicinske savjete koji su, kako navodi, doveli do odgađanja liječenja ozbiljnog zdravstvenog problema.
Kako prenosi The New York Times, u tužbi se navodi da je Skot Vinters, nakon što je osjetio ozbiljne zdravstvene tegobe, umjesto ljekaru pomoć potražio putem četbota zasnovanog na vještačkoj inteligenciji.
Tvrdi da je AI umanjila ozbiljnost simptoma
Prema navodima iz tužbe, ChatGPT je navodno procijenio da simptomi koje je Vinters opisao „nisu ništa opasno“, iako se kasnije ispostavilo da je imao više plućnih embolija.
U dokumentima se tvrdi i da je chatbot, navodno, koristio njegovu religioznost u odgovorima, poručujući mu da „Bog nije stvorio tvoje tijelo da neprestano otkazuje“.
Vinters dalje tvrdi da ga je ChatGPT odgovarao od odlaska u bolnicu, uprkos tome što su ga porodica i prijatelji pozivali da hitno potraži stručnu medicinsku pomoć.
OpenAI optužen za nemar
U tužbi se kompanija OpenAI i njen izvršni direktor Sem Altman terete za nemar i, kako se navodi, „neovlašćeno bavljenje medicinom“.
Advokatica Mitali Džain iz organizacije Tech Justice Law izjavila je za The New York Times da ovakvi slučajevi pokazuju opasnost kada se korisnici oslanjaju na AI umjesto na medicinske stručnjake.
Prema navodima tužbe, chatbot je u jednom trenutku čak sugerisao da ljudi iz njegove crkve „jednostavno ne razumiju“ njegovu situaciju kada su ga nagovarali da ode u bolnicu.
Traži odštetu i strože zaštitne mjere
Osim novčane odštete, Vinters od suda traži i da se obustavi rad platforme ChatGPT Health dok nezavisni stručnjaci ne procijene njenu bezbjednost.
Tužbom se takođe zahtijeva uvođenje strožih zaštitnih mehanizama koji bi spriječili da chatbot daje odgovore koji se mogu protumačiti kao medicinske dijagnoze ili preporuke za liječenje pojedinačnih korisnika.
OpenAI je ranije uveo zaštitne mjere kojima se korisnici upozoravaju da ChatGPT nije zamjena za profesionalni medicinski savjet i da se za zdravstvene probleme treba obratiti kvalifikovanim zdravstvenim radnicima. U tužbi se, međutim, tvrdi da te zaštite u ovom slučaju nisu bile dovoljno efikasne.