Šta će se dogoditi onog trenutka kada veštačka inteligencija počne autonomno da stvara novu, pametniju verziju same sebe - bez ikakvog uticaja čoveka?
Ovo pitanje više nije samo scenario za naučnofantastične filmove. Ričard Soher, jedan od najuticajnijih ljudi u svetu veštačke inteligencije, izašao je iz senke sa svojim novim startapom Recursive Superintelligence i privukao investicije od neverovatnih 650 miliona dolara.
U intervjuu za TechCrunch, Soher je otkrio da njegov tim radi na stvaranju rekurzivnog, samounapređujućeg AI modela. Cilj je stvaranje sistema koji može samostalno da uoči sopstvene mane i potpuno promeni svoj dizajn kako bi ih ispravio. To je ono što mnogi u industriji smatraju svetim gralom savremenog AI istraživanja.
Mnogi danas misle da je dovoljno pustiti AI da radi obična istraživanja kako bi se sistem unapredio, ali Soher naglašava da to nije to: "To nije rekurzivno samounapređenje. To je samo obično poboljšanje. Naš glavni fokus je da izgradimo istinsku rekurzivnu samounapređujuću superinteligenciju na masovnom nivou, što znači da bi čitav proces stvaranja ideja, implementacije i validacije bio potpuno automatski."
Prema njegovim rečima, sistem bi prvo automatizovao istraživanja na polju same veštačke inteligencije, a tek kasnije bi prešao na fizičke domene.
Da bi to postigao, Soherov tim se oslanja na koncept "otvorenosti" i evolucije, gde se sistemi razvijaju kroz neprekidnu borbu. Kao primer navodi "rainbow teaming" metodu, gde se dva AI modela puštaju da se milionima puta sukobljavaju - jedan napada, dok se drugi brani i uči. Na taj način sistemi koevoluiraju i postaju neuporedivo bezbedniji i pametniji.
Kada se dostigne ovaj nivo, brzina razvoja AI sistema više neće zavisiti od ljudskog rada i programera. Jedina važna valuta i resurs postaće sirova računarska snaga. Što se brže bude pokrećetao sistem, to će AI brže učiti i menjati sebe.
Soher veruje da se granice te inteligencije ne naziru, ali naglašava da će to doneti i najveće pitanje za čovečanstvo: "Računarska snaga se ne sme potceniti. U budućnosti, jedno od najvažnijih pitanja biće koliko računarske snage čovečanstvo želi da potroši na rešavanje kog problema? Imate ovaj rak i onaj virus - koji želite prvo da rešite?"
Iako se njegov projekat fokusira na duboko naučno istraživanje, Soher obećava da Recursive neće ostati samo laboratorija zatvorena za javnost. Prve konkretne proizvode koje će ljudi moći da koriste najavljuje već u narednim kvartalima.