OpenAI je u novom izveštaju o bezbednosti otkrio zabrinjavajuće podatke: više od milion korisnika ChatGPT-a nedeljno pokazuje indikatore samoubilačkih namera, dok stotine hiljada ispoljavaju znakove psihotičnih epizoda ili maničnog ponašanja.

Prema navodima iz zvaničnog blog posta, OpenAI procenjuje da poruke sa "eksplicitnim indikatorima potencijalnog samoubilačkog planiranja ili namere" čini značajan deo ukupnih interakcija korisnika.

To je jedno od najdirektnijih priznanja kompanije o mogućem uticaju veštačke inteligencije na mentalno zdravlje. Kompanija je saopštila i da oko 0,07 odsto aktivnih korisnika nedeljno - što je približno 560.000 ljudi od oko 800 miliona korisnika, pokazuje moguće znake psihotičnih epizoda ili maničnog ponašanja.

U objavi se napominje da su takve procene početne i da ih je teško precizno kvantifikovati. Da bi poboljšala tačnost i etičke standarde u komunikaciji, OpenAI je angažovao 170 kliničara i stručnjaka za mentalno zdravlje iz svoje Globalne mreže lekara.

Oni su analizirali više od 1.800 odgovora modela u situacijama koje uključuju ozbiljne krize mentalnog zdravlja i pomogli u prilagođavanju sadržaja koji se odnosi na emocionalnu podršku.

Stručnjaci za mentalno zdravlje ranije su upozoravali da četbotovi mogu nehotice da podstaknu opasne misli potvrđujući korisnikove zablude ili negativna osećanja - fenomen poznat kao "ulizivanje".

Generalni direktor kompanije OpenAI, Sem Altman, rekao je ranije ovog meseca da je kompanija "napravila napredak u smanjenju rizika od ozbiljnih problema mentalnog zdravlja" i najavio ublažavanje određenih ograničenja u radu ChatGPT-a.

OpenAI je saopštio da će nastaviti da razvija mehanizme za bezbedniju upotrebu svojih modela i da sarađuje sa nezavisnim stručnjacima i regulatorima kako bi, kako navode, "AI alati postali podrška, a ne pretnja korisnicima u krizi".

Izvor: N1info

Postanite deo SMARTLIFE zajednice na Viberu.