Britanska organizacija upozorava da je Grok korišćen za generisanje ilegalnih AI snimaka dece, a vlasti razmatraju hitne mere.

Internet Watch Foundation (IWF) saopštio je u sredu da su njihovi analitičari pronašli eksplicitne snimke devojčica u dobu od 11 do 13 godina koji ispunjavaju pravnu definiciju materijala seksualnog zlostavljanja dece u Velikoj Britaniji i za koje se čini da su generisani pomoću ovog AI alata.

"Alati poput Groka sada rizikuju da seksualizovane AI snimke dece uvedu u mejnstrim. To je neprihvatljivo", rekla je Ngaire Aleksander, šefica IWF.

Ovi nalazi pojačali su politički pritisak u Velikoj Britaniji.

Odbor za žene i jednakost u Donjem domu parlamenta saopštio je da će prestati da koriste društvenu mrežu X, koja je u Maskovom vlasništvu, navodeći zabrinutost zbog zloupotrebe Groka.

Iz Dauning strita je poručeno da su sve opcije na stolu, dok je ministarka nauke Liz Kendall rekla da X mora to hitno da reši.

Kendal je dodala da vlada podržava OFCOM, britanskog regulatora za komunikacije, da hitno ispita slučaj i preduzme mere tamo gde su zakoni prekršeni.

Kancelarija poverenika za informacije saopštio je da je kontaktirao X i xAI"kako bi zatražio pojašnjenje o merama koje imaju na snazi za poštovanje britanskog zakona o zaštiti podataka i zaštitu prava pojedinaca".

X je saopštio da uklanja ilegalni sadržaj, uključujući materijal seksualnog zlostavljanja dece, suspenduje naloge koji krše pravila i sarađuje sa organima za provođenje zakona.

Nadzor i kritike su se proširili i izvan Velike Britanije, a Indonezija je upozorila da bi X mogao da bude zabranjen zbog opscenog sadržaja koji uključuje maloletnike.

Džakarta je navela da preliminarni nalazi ukazuju na to da Grok nema adekvatne zaštitne mehanizme za sprečavanje stvaranja i širenja pornografskog materijala zasnovanog na stvarnim snimcima.

"Ova situacija ima potencijal da naruši pravo na privatnost i pravo na vlastiti lik", rekao je Aleksander Sabar, generalni direktor indonezijskog Direktorata za nadzor digitalnog prostora, dodajući da bi pristup Groku i platformi Iks mogao biti ukinut ako se kršenja nastave.

Upozorenje dolazi nakon reakcija u Evropi, gde su francuske vlasti prijavile istražiteljima navodne seksualno eksplicitne "deepfake" snimke generisane pomoću Groka na platformi X.

Evropska komisija saopštila je da izlaze chatbot alata ispituje "vrlo ozbiljno".

Izvor: N1info

Postanite deo SMARTLIFE zajednice na Viberu.