Iako je otac oslobođen optužbi o posedovanju materijala seksualnog zlostavljanja dece, Google odbija da mu vrati nalog.
Kada je čovek po imenu Mark iz San Franciska uslikao intimnu regiju svog sina i te slike poslao doktoru, koji je na osnovu njih dao dijagnozu i prepisao antibiotik, nije ni slutio da će mu Google ugasiti nalog, a još manje da će protiv njega biti pokrenuta policijska istraga.
Naime, kada su sporne slike otpremljene u Google Photos, kompanija ih je identifikovao kao CSAM (materijal seksualnog zlostavljanja dece), a dva dana kasnije, Markov Gmail nalog, svi servisi koji pod njega spadaju, kao i Google Fi telefonska usluga su onemogućeni zbog "štetnog sadržaja" za koji Google smatra da je "teško kršenje smernica kompanije i mogao bi biti protivzakonit".
Google je, zbog ovih fotografija i još jednog spornog videa u Markovoj arhivi, podneo izveštaj Nacionalnom centru za nestalu i eksploatisanu decu, što je dovelo do policijske istrage.
Iako je Mark oslobođen svih optužbi, Google sada odbija da mu vrati pristup nalogu. "Pratimo američki zakon u definisanju šta čini CSAM i koristimo kombinaciju tehnologije podudaranja hash-ova i veštačke inteligencije da bismo ga identifikovali i uklonili sa naših platformi", kaže Krista Muldon, portparol kompanije. Iako Muldon kaže da su zaposleni, koji se bave ovom vrstom materijala, trenirani od strane medicinskih stručnjaka da prepoznaju osipe i druge probleme na intimnoj regiji, oni nisu doktori, a medicinski eksperti nisu pozvani da procene svaki slučaj.
"Ove kompanije imaju pristup izuzetno invazivnoj količini podataka o životima ljudi, a i dalje nemaju kontekst šta su zapravo životi ljudi", kaže Danijel Kan Gilmor iz Američke unije za građanske slobode. "Ne mislim da ovi sistemi mogu uhvatiti svaki slučaj zlostavljanja dece, ali mislim da mogu imati strašne posledice po ljude u slučaju lažnih pozitivnih rezultata".
Prema federalnom zakonu, Google je dužan da prijavi ovakve slučajeve Nacionalnom centru za nestalu i eksploatisanu decu. Prošle godine, kompanija je podnela 621.583 prijava, od kojih je 4.260 prosleđeno vlastima. Među njima je bio i Markov slučaj.
Podsetimo, kompanija Apple je prošle godine naišla na žestok otpor nakon što je želela da skenira sve fotografije svojih iPhone korisnika u potrazi za dečijom pornografijom. Protivnici ove ideje su se plašili da bi ova tehnologija vremenom mogla da se koristi u druge svrhe, poput otkrivanja drugih vrsta zabranjenog sadržaja, nepodobnog političkog govora ili jednostavno za špijunažu.