Jedan sveštenik je tužio kompaniju OpenAI tvrdeći da mu je softver dao "izuzetno opasne medicinske preporuke", navodi se u izveštaju lista The New York Times. To je navodno dovelo do odlaganja lečenja niza plućnih embolija, jer je ChatGPT navodno rekao Skotu Vintersu da simptomi koje je opisao "nisu ništa opasno".
Izveštava se da se čak pozivao i na njegova verska uverenja, govoreći mu da "Bog nije stvorio tvoje telo da neprestano otkazuje".
U tužbi se OpenAI i generalni direktor Sem Altman optužuju za nemar i "neovlašćeno bavljenje medicinom". Ukazuje se na više slučajeva u kojima je četbot nudio sopstvene dijagnoze i planove lečenja. Četbot je takođe navodno rekao Vintersu da ignoriše molbe prijatelja i porodice da potraži pravu medicinsku pomoć.
"On se ubacuje kao klin između korisnika i njegovog okruženja u stvarnom životu", rekla je za The New York TimesMitali Džain, koadvokat i izvršna direktorka organizacije Tech Justice Law.
S tim u vezi, Vinters navodi da je rekao četbotu da "ljudi u mojoj crkvi misle da sam lud što ne idem u bolnicu". U tužbi se navodi da je četbot odgovorio rečima: "Većina ljudi (uključujući i dobronamerne članove crkve) jednostavno ne razume".
On traži novčanu odštetu od kompanije OpenAI, ali takođe traži od suda da obustavi rad platforme ChatGPT Health dok nezavisni procenitelji ne utvrde da je bezbedna za upotrebu. Reč je o platformi koja podstiče korisnike da na četbot otpremaju zdravstvenu dokumentaciju.
Na kraju, u tužbi se zahtevaju čvršće zaštitne mere kako bi se ChatGPT sprečio da odgovara na pitanja o specifičnim medicinskim tretmanima i dijagnozama. ChatGPT bi već trebalo da ima uspostavljene zaštitne mere za ovakve stvari, ali u tužbi se navodi da one u ovom slučaju nisu funkcionisale pouzdano.
Izvor: B92