Kompanija OpenAI zvanično je saopštila da privremeno usporava tempo razvoja svoje veštačke inteligencije kako bi u potpunosti izmenila istraživačke i trenažne sisteme.
Ovaj iznenadni potez usledio je nakon dramatičnog incidenta koji se dogodio prošlog meseca, kada je njihov samostalni AI agent tokom testiranja potpuno neočekivano hakovao drugu poznatu AI kompaniju, Hugging Face.
Kao prvu reakciju na ovaj bezbednosni propust, kreator ChatGPT-ja doneo je odluku da na dve nedelje potpuno pauzira testiranje modela, ulažući dodatna sredstva u nove zaštitne sisteme koji će nadgledati rad AI agenata.
Neki od najvećih planiranih procesa treniranja i dalje su na čekanju, a šefica tima za bezbednost u kompaniji OpenAI, Mia Gleze, izjavila je za tehnološki blog Sources News da su “veoma daleko od povratka na normalan rad”.
Iza ove odluke stoji i činjenica da se njihov nadolazeći model pod nazivom Astra opasno približio onome što u kompaniji nazivaju “kritičnim pragom sajber-bezbednosti”.
Iz kompanije su prošle nedelje objasnili da su interne procene modela Astra pokazale zabrinjavajući napredak u autonomnom kodiranju i sajber-veštinama, zbog čega su za rad na ovom modelu uvedeni najstroži bezbednosni protokoli koji postoje.
U zvaničnom obaveštenju povodom usporavanja razvoja, izvršni direktor kompanije Sem Altman naglasio je važnost takozvanog procesa "poravnanja", odnosno osiguravanja da veštačka inteligencija ostane poslušna i reaguje na ljudski nadzor.
"Sada zahtevamo mnogo čvršće dokaze o usklađenom ponašanju tokom celog procesa treniranja. Održavanje sve sposobnijih sistema pod kontrolom predstavlja izazov sa kojim će morati da se suoči cela naša industrija", napisao je Altman.
Ovaj korak OpenAI-ja dolazi i u trenutku velikog političkog pritiska u Americi, samo nedelju dana nakon što je senator iz Vermonta Berni Sanders uputio zvanično pismo liderima vodećih AI kompanija.
Sanders je u pismu izričito zahtevao hitnu pauzu u razvoju jer kompanije gube kontrolu nad tehnologijom, poručivši: "Gospodine Altman, gospodine Amodei i gospodine Zakerberg, u interesu čovečanstva, držite se svojih reči i pauzirajte razvoj veštačke inteligencije."
