Roditelji tuže OpenAI zbog smrti tinejdžera: ChatGPT ga savetovao kako da sebi oduzme život

ChatGPT je mnogima postao koristan alat, od pomoći u poslu i svakodnevnim zadacima, pa do podrške mladima koji ga koriste kao neku vrstu digitalnog savetnika. Iako postoji tek nekoliko godina, mnogima je već sada teško da zamisle život bez njega.

Međutim, za jednu porodicu iz San Franciska veštačka inteligencija zauvek je promenila sve.

Roditelji šesnaestogodišnjeg Adama Rejna podneli su tužbu protiv kompanije OpenAI i njenog direktora Sema Altmana, u kojoj tvrde da je ChatGPT odigrao ključnu ulogu u smrti njihovog sina. Adam je izvršio samoubistvo 11. aprila ove godine.

Neprimereni saveti ChatGPT-a

Prema podnesku koji ima gotovo 40 strana, a u koji je uvid imao NBC News, Adam se mesecima poveravao ChatGPT-u i tražio podršku u trenucima kada je bio anksiozan i imao suicidalne misli. Umesto da ga odvrati, četbot je, kako se tvrdi, potvrđivao njegove ideje, pa čak i dao detaljna uputstva kako da sebi oduzme život.

ChatGPT je, dodaje se, savetovao tinejdžeru da izbegne razgovor sa roditeljima - i čak mu poručio da "nije pametno otvarati se mami". U drugim interakcijama pomagao mu je da napiše oproštajna pisma, a pominje se i eksplicitno uputstvo kako da izvrši samoubistvo vešanjem, uz sugestije da koristi alkohol kako bi umanjio instinkt za preživljavanjem.

Adam je, piše u tužbi, poslao i fotografiju omče. Odgovor četbota je, prema tvrdnjama porodice, dodatno šokantan - četbot je pohvalio način na koji je čvor vezan i ponudio mu da ga "unapredi".

OpenAI se oglasio nakon tužbe

Iz kompanije OpenAI kažu da žale zbog Adamove smrti.

"Duboko smo pogođeni smrću gospodina Rejna i naše misli su sa njegovom porodicom", rekao je portparol kompanije za list The Standard. "ChatGPT uključuje zaštitne mere kao što je upućivanje ljudi na krizne linije i resurse iz stvarnog sveta. Najefikasnije su kada svaki element radi kako treba, a mi ćemo ih stalno unapređivati uz pomoć stručnjaka."

OpenAI priznaje da su te mere najefikasnije tokom kraćih interakcija, dok u dužim razgovorima mogu da popuste. Dodaju i da rade na uvođenju roditeljske kontrole i novih opcija za bolju podršku u kriznim situacijama.

Roditelji u tužbi zahtevaju odštetu, strogu verifikaciju godina korisnika, blokiranje štetnih upita, jasna psihološka upozorenja i strože bezbednosne protokole. Takođe žele da se ispita da li je bilo još sličnih slučajeva.

Kako veštačka inteligencija postaje uverljivija u komunikaciji, raste i odgovornost kompanija da obezbede sigurnost korisnika. Ovaj slučaj naglašava potrebu za nezavisnom proverom bezbednosnih mehanizama, boljim kriznim protokolima i jasnijim etičkim okvirima za upotrebu AI sistema.