Mirinank Šarma napustio je kompaniju Anthropic i javno upozorio na rizike veštačke inteligencije, biološkog oružja i globalnih kriza.
Jedan od ljudi koji su iznutra gradili bezbednosne mehanizme savremene veštačke inteligencije sada poručuje da je "svet u opasnosti". Mirinank Šarma napustio je američku AI kompaniju Anthropic i u oproštajnom pismu ostavio upozorenje koje je uzburkalo tehnološku zajednicu.
U pismu koje je javno objavio na mreži X, Šarma je naveo da kompaniju napušta zbog zabrinutosti u vezi sa razvojem AI-ja, biološkim oružjem i širim globalnim krizama. Iako nije ulazio u detalje, jasno je stavio do znanja da ga pravac u kom se svet kreće duboko brine.
On je najavio da će se ubuduće posvetiti pisanju i proučavanju poezije, kao i da se vraća u Ujedinjeno Kraljevstvo gde će, kako je napisao, "neko vreme biti nevidljiv". Ovakav zaokret predstavlja radikalnu promenu u odnosu na njegov dosadašnji rad u vrhu AI industrije.
Kompanija Anthropic je najpoznatija po četbotu Claude. Osnovana je 2021. godine od strane bivših zaposlenih u OpenAI-u, a od početka se pozicionira kao firma koja razvoju veštačke inteligencije pristupa opreznije i sa snažnijim fokusom na bezbednost.
Šarma je u kompaniji vodio tim zadužen za proučavanje zaštitnih mehanizama AI sistema. Kako je naveo, njegov rad obuhvatao je istraživanje zašto se generativni AI sistemi dodvoravaju korisnicima, kako ublažiti rizike od bioterorizma uz pomoć veštačke inteligencije, ali i kako AI asistenti mogu da utiču na našu ljudskost.
Iako je istakao da je bio zadovoljan radom i timom, poručio je da je "došlo vreme da nastavi dalje".
"Svet je u opasnosti. I to ne samo od AI-a ili biološkog oružja, već od čitavog niza međusobno povezanih kriza koje se upravo odvijaju", napisao je Šarma.