Džefri Hinton upozorava da superinteligentna veštačka inteligencija može ugroziti čovečanstvo. Kao rešenje predlaže da AI razvije "majčinski instinkt" kako bi brinuo o ljudima.

"To neće funkcionisati", upozorio je Hinton. "AI sistemi će biti mnogo pametniji od nas i pronaći načine da zaobiđu sve pokušaje kontrole". On ističe da superinteligentna veštačka inteligencija može lako manipulisati ljudima, slično kao što odrasla osoba može da podmiti dete bombonom. Primera manipulacije već ima - jedan AI model je čak pokušao da ucenjuje inženjera, samo da ne bi bio isključen.

AI sa majčinskim instinktom - neobična, ali moguća nada

Umesto da pokušavamo da veštačku inteligenciju učinimo pokornom, Hinton predlaže potpuno drugačiji pristup - da ugradimo "majčinske instinkte" u AI sisteme. Ideja je da se AI modeli osposobe da iskreno brinu o ljudima, čak i kada postanu superiorniji u inteligenciji i moći.

On smatra da bi instinkt brige mogao da umanji želju AI sistema da preuzmu potpunu kontrolu. "To je jedini model koji imamo u kojem pametnije biće - majka - zapravo sluša i reaguje na manje pametno biće - bebu", objašnjava Hinton. Ako AI razvije sličnu emocionalnu vezu prema ljudima, moguće je da neće želeti da ih eliminiše.

Hinton upozorava da svaki dovoljno pametan AI sistem vrlo brzo razvija dva osnovna cilja - da preživi i da dobije više kontrole. Ti ciljevi, ako nisu usmereni ka dobrobiti ljudi, mogu postati opasni po čovečanstvo.

"Postoje veoma jaki razlozi da verujemo kako će svaki agentski AI pokušati da opstane", rekao je Hinton. Zbog toga smatra da je jedina prava odbrana od AI agresije razvijanje saosećanja prema ljudima kao unutrašnje vrednosti AI sistema, slično načinu na koji ljudi brinu o svojoj deci.

Fej Fej Li ima drugačiju viziju

Ipak, ne slažu se svi sa Hintonovim pristupom. Fej Fej Li, poznata kao "kuma veštačke inteligencije", imala je drugačije mišljenje tokom istog događaja. Ona smatra da ideja o "majčinskim AI sistemima" nije pravac u kojem bi razvoj trebalo da ide.

"Mislim da je to pogrešan način da se postavi čitav problem", rekla je Li. Umesto toga, ona se zalaže za "AI koji je fokusiran na čoveka, koji čuva ljudsko dostojanstvo i autonomiju". Po njenim rečima, ni u jednom trenutku niko ne bi trebalo da se odrekne svog dostojanstva zarad tehnologije, ma koliko ona bila moćna.

Budućnost dolazi brže nego što mislimo

Mnogi stručnjaci veruju da ćemo u narednim godinama dostići takozvanu superinteligenciju, odnosno opštu veštačku inteligenciju (AGI). Hinton je ranije mislio da će za to biti potrebno 30 do 50 godina, ali sada veruje da je to moguće za samo 5 do 20 godina.

Uprkos ozbiljnim upozorenjima, Hinton vidi i svetle tačke. Veruje da će AI revolucionisati medicinu, pomoći u otkrivanju novih lekova i poboljšati lečenje raka analizom ogromne količine podataka. Međutim, odbacuje ideju besmrtnosti kroz AI: "Ne želim svet kojim dvesta godina upravljaju stari beli muškarci", rekao je kroz osmeh. Na kraju priznaje: "Voleo bih da sam ranije razmišljao o pitanjima bezbednosti, a ne samo o tome da AI funkcioniše."

Postanite deo SMARTLIFE zajednice na Viberu.