Inženjer u kompaniji Google je poslat na plaćeno odsustvo nakon što je javno tvrdio da je čet-bot postao razuman
Blejk Lemojn, softverski inženjer u timu za razvoj veštačke inteligencije u kompaniji Google, rekao je da je poslat na plaćeno odsustvo nakon što je tvrdio da je čet-bot postao razuman. Kompanija je suspendovala istraživača jer je, kako Lemojn tvrdi, prekršio politiku poverljivosti.
Čet-bot sa kojim je Lemojn razgovarao se zove LaMDA. Google je ovaj jezički model, zasnovan na veštačkoj inteligenciji, nazvao "probojnom tehnologijom konverzacije", a sam model je sposoban da se uključi u razgovore otvorenog tipa, koji zvuče prirodno.
Google je rekao da bi se tehnologija mogla koristiti u alatima kao što su Google Assistant, ali istraživanje i testiranje je i dalje u toku.
Šta se dogodilo?
Lemojn je u okviru opisa svog posla razgovarao sa LaMDA modelom. Rekao je da su pričali o religiji, svesti i zakonima robotike, a da je LaMDA sebe opisala kao osećajnu osobu.
Možda će vas zanimati
Kako tvrdi Lemojn, LaMDA tvrdi da joj je prioritet "dobrobit čovečanstva", kao i da želi da je posmatraju kao "osobu koja radi u kompaniji Google, a ne kao vlasništvo".
Opažanja koja je izneo kompaniji su odbačena. "Naš tim je pregledao Blejkove navode i obavestio ga da dokazi ne potkrepljuju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna", rekao je Brajan Gejbrijel, portparol kompanije Google.
Blejk Lemojn je nakon ovoga izašao u javnost. Objavio je neke od razgovora koje je vodio sa modelom, koji su ga ubedili u to da je LaMDA razumna.
This discussion between a Google engineer and their conversational AI model helped cause the engineer to believe the AI is becoming sentient, kick up an internal shitstorm and get suspended from his job. And it is absolutely insane.https://t.co/hGdwXMzQpXpic.twitter.com/6WXo0Tpvwp
— Tom Gara (@tomgara)June 11, 2022
Epilog
Kompanija je inženjera, kako je otkrio javnosti, poslala na plaćeno odsustvo zbog kršenja politike poverljivosti. Takođe je predložio da LaMDA dobije svog advokata, a o svojim tvrdnjama je razgovarao i sa jednim članom Kongresa.
Portparol kompanije Google je takođe rekao da, iako su neki razmatrali mogućnost razuma kod veštačke inteligencije, "nema smisla to činiti antropomorfizacijom današnjih jezičkih modela, koji nisu svesni".
"Ovi sistemi imitiraju tipove razmena koji se nalaze u milionima rečenica, odnosno mogu da razgovaraju o bilo kojoj temi", rekao je Gejbrijel.
On i drugi istraživači su rekli da modeli veštačke inteligencije imaju toliko podataka da su u stanju da zvuče ljudski, ali da superiorne jezičke veštine ne pružaju dokaz razuma.
Postanite deo SMARTLIFE zajednice na Viberu.
