Članak u časopisu Annals of Internal Medicine izvijestio je o slučaju u kojem je 60-godišnji muškarac razvio bromizam, poznat i kao trovanje bromom, nakon konzultacije s ChatGPT-om. U članku je bromizam opisan kao čest sindrom s početka 20. stoljeća za koji se smatra da je pridonio gotovo svakom desetom psihijatrijskom prijemu u to vrijeme.
Pacijent je liječnicima rekao da je nakon čitanja o negativnim učincima natrijevog klorida ili kuhinjske soli konzultirao ChatGPT o eliminaciji klorida iz svoje prehrane te počeo uzimati natrijev bromid tijekom tromjesečnog razdoblja.
Autori članka su i sami postavili upit ChatGPT-ju
To je učinio unatoč tome što je pročitao da “klorid može biti zamijenjen bromidom, iako vjerojatno za druge svrhe, kao što je čišćenje”. Natrijev bromid koristio se kao sedativ početkom 20. stoljeća.
Autori članka sa Sveučilišta Washington u Seattleu rekli su da ovaj slučaj naglašava “kako korištenje umjetne inteligencije potencijalno može pridonijeti razvoju štetnih zdravstvenih ishoda koji su se mogli spriječiti”. Dodali su da, s obzirom na to da nisu mogli pristupiti zapisu pacijentova razgovora s ChatGPT-om, nije bilo moguće utvrditi točan savjet koji je muškarac dobio.
Ipak, kada su autori sami konzultirali ChatGPT o tome čime bi se klorid mogao zamijeniti, odgovor je također uključivao bromid, a nije pružio specifično zdravstveno upozorenje i nije pitao zašto autori traže takvu informaciju. “Pretpostavljamo da bi liječnik to učinio”, napisali su.
OpenAI tvrdi da je GPT-5 najviše poboljšan upravo u području zdravlja
Autori su upozorili da ChatGPT i druge AI aplikacije mogu “generirati znanstveno netočne informacije i nemaju sposobnost kritički raspravljati o rezultatima te u konačnici potiču širenje dezinformacija”. Od OpenAI-ja, razvojnog tima ChatGPT-a, zatražen je komentar. Tvrtka je prošlog tjedna najavila nadogradnju chatbota, a tvrde da je jedna od njegovih najvećih prednosti upravo u području zdravstva.
Rekli su da će ChatGPT, sada pokretan GPT-5 modelom, biti bolji u odgovaranju na pitanja povezana sa zdravljem i proaktivniji u “označavanju potencijalnih problema”, poput ozbiljnih fizičkih ili mentalnih bolesti. Međutim, naglasili su da chatbot nije zamjena za stručnu pomoć. Članak u časopisu, koji je objavljen prošlog tjedna prije lansiranja GPT-5 modela, navodi da je pacijent vjerojatno koristio raniju verziju ChatGPT-a.
Iako priznaju da AI može biti most između znanstvenika i javnosti, u članku se navodi da tehnologija također nosi rizik od pružanja informacija izvan konteksta te da je vrlo malo vjerojatno da bi medicinski stručnjak predložio natrijev bromid kada pacijent zatraži zamjenu za kuhinjsku sol.
Pacijent je bio paranoičan, no vjerovao je aplikaciji
Kao rezultat toga, autori su rekli da će liječnici morati uzeti u obzir korištenje AI-ja kada provjeravaju odakle pacijenti dobivaju svoje informacije. Autori su rekli da se pacijent s bromizmom pojavio u bolnici tvrdeći da ga njegov susjed možda truje. Također je rekao da ima višestruka prehrambena ograničenja. Unatoč tome što je bio žedan, bio je i paranoičan oko vode koja mu je ponuđena u bolnici.
Pokušao je pobjeći iz bolnice unutar 24 sata od prijema i, nakon što su ga prisilno zadržali, liječen je od psihoze. Nakon što se pacijent stabilizirao, prijavio je da ima nekoliko drugih simptoma koji su upućivali na bromizam, poput akni na licu, prekomjerne žeđi i nesanice. Index