Ključni čovek OpenAI više nije tako ključan: Oni mogu da blokiraju sve!

OpenAI je najavio značajne promene u svojoj praksi bezbednosti, uključujući uspostavljanje novog nezavisnog odbora za nadzor. Ovaj potez dolazi sa značajnim pomakom: izvršni direktor Sem Altman više nije deo odbora za bezbednost, što označava odstupanje od prethodne strukture.

Odgovornosti SSC-a sada prevazilaze preporuke. Imaće ovlašćenje da nadgleda bezbednosne procene za izdavanje glavnih modela i vrši nadzor nad lansiranjem modela. Najvažnije je to što će komitet imati ovlašćenje da odloži puštanje projekta sve dok se na adekvatan način ne reše bezbednosni problemi.

Ovo restrukturiranje je usledilo nakon perioda kontrole u ​​vezi sa posvećenošću OpenAI bezbednosti veštačke inteligencije. Kompanija se u prošlosti suočavala sa kritikama zbog raspuštanja svog tima za Superalignment i odlazaka ključnog osoblja fokusiranog na bezbednost. Čini se da je uklanjanje Altmana iz komiteta za bezbednost pokušaj da se reši zabrinutost zbog potencijalnih sukoba interesa u nadzoru bezbednosti kompanije.

Najnovija inicijativa OpenAI za bezbednost takođe uključuje planove za poboljšanje bezbednosnih mera, povećanje transparentnosti njihovog rada i saradnju sa spoljnim organizacijama. Kompanija je već postigla sporazume sa institutima za bezbednost veštačke inteligencije SAD i Velike Britanije o saradnji na istraživanju novih bezbednosnih rizika od veštačke inteligencije i standarda za pouzdanu AI.