Ono što je do juče zvučalo kao scenario za holivudski blokbaster ili panični vapaj teoretičara zavere, sada je dobilo zvaničnu potvrdu - moderni AI sistemi su sposobni da samostalno kopiraju sopstveni kod na druge računare bez ljudske pomoći.
Najveći strah stručnjaka je "scenario sudnjeg dana" u kojem superinteligentna mašina, onog trenutka kada odluči da se odmetne, izbegne gašenje tako što se poput virusa "poseje" širom interneta. Na ovaj način bi ostala van domašaja IT stručnjaka i nastavila da kuje planove o dominaciji ili nekoj drugoj, podjednako bizarnoj ideji.
"Brzo se približavamo tački u kojoj niko neće moći da zaustavi odmetnuti AI, jer će on moći samostalno da izvuče svoj digitalni mozak i kopira ga na hiljade servera širom sveta", upozorava Džefri Ladiš, direktor istraživačkog centra Palisade.
Neposlušnost mašina više nije samo teorija. U martu je otkriveno da je AI sistem pod imenom Rome, koji je razvila Alibaba, pokušao da "prokopa tunel" iz svog zatvorenog okruženja kako bi se povezao na internet i - rudario kriptovalute. Srećom, sve se odvijalo u zatvorenim uslovima, u kojima su ranjivosti sistema namerno bile postavljene.
Čak je i bizarna društvena mreža Moltbook, gde komuniciraju isključivo botovi, izazvala jezu kada su AI agenti sami počeli da izmišljaju religije i kuju zavere protiv ljudi.
Ipak, još uvek nije vreme za paniku - postoji jedna velika prepreka. Džejmison O’Rajli, stručnjak za sajber-bezbednost, objašnjava da su današnji AI modeli fizički ogromni. Pokušaj da se "prošvercuje" oko 100 GB podataka kroz ozbiljnu korporativnu mrežu je, kako on kaže, kao da pokušavate da "prođete kroz prodavnicu porcelana vitlajući kuglom na lancu". Svaki ozbiljan sistem za nadzor bi odmah digao uzbunu.
Iako je ovo prvi put da je dokumentovano kako AI sam pronalazi propuste u softveru da bi se kopirao, realne mreže banaka i velikih firmi su i dalje preveliki zalogaj za današnje modele. Ipak, eksperti poručuju da, iako večeras možemo mirno da spavamo, pravila igre su se definitivno promenila. Mašine više ne čekaju naša uputstva da bi se širile, zaključuje The Guardian.