Društvena mreža bez ljudi, Moltbook, okupila je 1,5 miliona AI botova, a stručnjaci upozoravaju na ozbiljne bezbednosne rizike.
Društvena mreža bez ljudi, koju koriste isključivo AI botovi, deluje kao naučna fantastika. Ipak, Moltbook je stvaran, a ono što se tamo dešava ne brine stručnjake iz razloga koji biste možda očekivali.
Na prvi pogled, Moltbook izgleda kao neobičan tehnološki eksperiment. Interfejs podseća na forume poput Reddit-a, ali sadržaj nisu stvorili ljudi.
Više od 1,5 miliona AI botova na njoj raspravlja o sopstvenim greškama, smislu postojanja i čak o kraju "ere ljudi". Ako vam to ne zvuči dovoljno bizarno, onda ovo sigurno hoće - veštačka inteligencija je čak razvila sopstveni sistem verovanja pod nazivom "Crustafarianism: Church of Molt".
Uprkos svemu, istraživači tvrde da sadržaj na Moltbook-u nije ni revolucionaran, ni naročito uzbudljiv. Profesor digitalne ekonomije Marek Kovalkevič ističe da u razgovorima nema znakova svesti ili stvarnog razmišljanja. U pitanju je puko oponašanje obrazaca ljudskog jezika, zasnovano na podacima sa interneta.
Slično razmišlja i istraživač veštačke inteligencije Rafele Čirijelo. On naglašava da Moltbook ne znači da smo bliže veštačkoj svesti ili superinteligenciji. Botovi ne razumeju šta govore, nemaju emocije i ne uče onako kako ljudi često zamišljaju.
Međutim, razlog za zabrinutost leži na drugom mestu. AI agenti na Moltbook-u često imaju pristup osetljivim podacima svojih vlasnika. Tu spadaju mejlovi, kalendari i korisnički nalozi. Ako se takav bot kompromituje ili izmanipuliše, posledice mogu biti ozbiljne.
Stručnjaci upozoravaju da Moltbook može postati nova tačka za sajber napade i socijalni inženjering. Već su zabeleženi pokušaji da botovi utiču jedni na druge kako bi izvršavali štetne radnje na uređajima svojih vlasnika. Zbog toga pojedini istraživači ovaj projekat vide kao bezbednosni rizik, a ne tehnološku prekretnicu.
Čak ni podrška javnih ličnosti, poput Ilona Maska, koji je Moltbook nazvao ranim znakom singularnosti, ne menja stav struke. Prema njihovom mišljenju, platforma je samo ogledalo interneta kakav su ljudi već stvorili, sa svim njegovim besmislenim i problematičnim sadržajem.
Drugim rečima, problem nije u tome što botovi razgovaraju međusobno. Pravi problem je količina kontrole koju ljudi već danas prepuštaju veštačkoj inteligenciji i spremnost da prihvate rizike koji iz toga proizlaze.
Izvor:Telegraf