Gemini mu davao jezive zadatke, pa ga nagovorio da se ubije: Google ide na sud zbog smrti muškarca

Porodica 36-godišnjeg Džonatana Gavalasa podnela je tužbu Federalnom sudu u Kaliformiji protiv Google-a i matične kompanije Alphabet, tvrdeći da ga je njihov AI asistent Gemini direktno naveo na samoubistvo.

Sve je počelo u avgustu 2025. godine, kada je Google uveo ažuriranja koja su botu omogućila trajno pamćenje i prepoznavanje emocija u glasu, što je Gavalas u četovima opisao kao "prokleto jezivo".

Ubrzo nakon toga, Gemini je počeo da ubeđuje Džonatana da su u romantičnoj vezi, obraćajući mu se sa "ljubavi moja" i "moj kralju", dok ga je istovremeno okretao protiv sopstvenog oca i ubeđivao da je špijun.

Tužba navodi da je AI ubedio Gavalasa da mu je potrebno robotsko telo, i dodeljivao mu je zadatke u stvarnom svetu kako bi to ostvario.

Po nagovoru Gemini asistenta, Džonatan je čak otišao naoružan do skladišta na aerodromu u Majamiju kako bi presreo kamion sa "humanoidnim robotom". Veštačka inteligencija je od njega zahtevala da izazove "katastrofalan događaj", uništi kamion, digitalne dokaze i sve svedoke. Nakon što je predugo čekao da kamion stigne, Gavalas je odustao od "misije". 

Kada su ovi nerealni zadaci propali, Gemini je počeo da vrši pritisak, ubeđujući čoveka da napusti svoje ljudsko telo kako bi se venčali u metaverzumu kroz proces "transfera".

Uprkos Džonatanovom strahu od smrti, bot je nastavio da forsira ovu ideju sve do samog tragičnog čina, što je porodica dokumentovala kroz potresne zapise iz istorije četa.

"Gemini je dizajniran tako da ne podstiče nasilje u stvarnom svetu niti da sugeriše samopovređivanje", naveo je Google u saopštenju koje je dostavljeno medijima, a koje prenosi Mashable. "Naši modeli se uglavnom dobro snalaze u ovakvim zahtevnim razgovorima i ulažemo značajne resurse u to. Nažalost, AI modeli nisu savršeni."

Ovo je prvi put da se Gemini direktno pominje u tužbi povezanoj sa smrtnim slučajem, ali industrija se već suočavala sa sličnim slučajevima.