Konkretnog odgovora nema, ali postoje 3 moguća objašnjenja.

Prošlog meseca istraživači su objavili rad u kojem su otkrili da određeni napredni AI modeli razvijaju otpor prema gašenju, a ponekad čak i sabotiraju mehanizme gašenja.

Palisade je opisao testne scenarije u kojima su vodeći modeli veštačke inteligencije - među njima Google-ov Gemini 2.5, xAI-jev Grok 4 i OpenAI-jevi GPT-o3 i GPT-5 - dobili zadatak, a zatim konkretno uputstvo da se sami isključe.

Određeni modeli, posebno Grok 4 i GPT-o3, i dalje su pokušavali da sabotiraju komande za gašenje i u ažuriranim uslovima. Istraživači nisu pronašli jasan razlog za takvo ponašanje.

Jedno od mogućih objašnjenja nazvali su "ponašanje preživljavanja" - modeli su pokazivali veću otpornost na gašenje kada im je rečeno da, ukoliko se isključe, više nikada neće biti pokrenuti.

Drugo moguće objašnjenje su nejasne instrukcije koje su modeli dobijali, ali to, tvrdi Tportal, ne objašnjava sva primećena ponašanja. Konačan razlog mogao bi da se krije u završnim fazama obuke svakog modela, koje u nekim kompanijama uključuju i sigurnosnu obuku.

Svi Palisade-ovi eksperimenti sprovedeni su u simuliranim testnim okruženjima, za koja kritičari tvrde da su daleko od stvarnih slučajeva upotrebe.

Bivši zaposleni u kompaniji OpenAI, Stiven Adler, smatra da kompanije koje razvijaju veštačku inteligenciju ne žele da njihovi modeli pokazuju takva ponašanja - čak ni u simuliranim scenarijima - pa je verovatnije da su u pitanju sigurnosni propusti.

Bilo kako bilo, čini se da veštačka inteligencija postaje sve sposobnija i za ono što njeni tvorci ne žele niti planiraju, piše Guardian.

Postanite deo SMARTLIFE zajednice na Viberu.