Razgovor sa AI četbotom možda deluje privatno, ali ono što mu napišete u određenim okolnostima može stići i do policije. Upravo to se dogodilo jednoj ženi sa Floride, koja je Claude koristila kao lični dnevnik, sve dok bezbednosni sistem nije označio njene poruke kao potencijalnu pretnju i prosledio ih na proveru, a zatim i policiji.
Karli Mišel Heler iz Bonita Springsa uhapšena je nakon što je 26. septembra u razgovoru na Anthropic-ovoj platformi navodno napisala da planira da "puca" na kancelariju šerifa okruga Li. Prema policijskom izveštaju, sledećeg dana napisala je i da je nabavila novi pištolj.
Anthropic-ovi bezbednosni sistemi odmah su označili poruke zbog potencijalno pretećeg sadržaja. Zbog ozbiljnosti onoga što je napisano, slučaj je prosleđen timu ljudi na proveru, koji je zatim obavestio policiju.
Policija je identifikovala Heler i došla do njene kuće u Bonita Springsu, gde je privedena bez incidenta. Šerif Karmin Marseno kasnije je rekao da je Heler istražiteljima objasnila da AI koristi kao "dnevnik".
Heler je optužena za pisanu pretnju nasiljem prema zakonu Floride, a pojavljivanje pred sudom zakazano je za novembar.
Anthropic u svojim pravilima navodi da koristi sisteme za otkrivanje i praćenje sadržaja kako bi sprovodio pravila korišćenja, koja zabranjuju upotrebu njegovih proizvoda za nasilje i zastrašivanje. Kompanija takođe navodi da u ograničenim hitnim situacijama može da podeli podatke sa policijom kada postoji opasnost od smrti ili ozbiljne fizičke povrede.
Slučaj zato otvara važno pitanje privatnosti razgovora sa AI četbotovima. Njihov konverzacijski način rada lako može da stvori osećaj da korisnik razgovara u potpuno privatnom prostoru, posebno kada se četbot koristi za lične beleške.
Međutim, AI četbot nije isto što i dnevnik zaključan u fioci. Iza razgovora postoje bezbednosni sistemi i pravila kompanije, a u određenim okolnostima sadržaj može biti označen, pregledan i prosleđen nadležnim organima - baš kao što je to i ovde bio slučaj.
