GUGL SUSPENDOVAO INŽENJERA KOJI JE OBJAVIO DA JE NJIHOV ČETBOT POSTAO RAZUMAN: Dokazi ne podržavaju njegove tvrdnje

Kompanija Gugl poslala je na plaćeno odsustvo inženjera Blejka Lemoina koji je na društvenim mrežama objavio da je jedan od njihovih projekata veštačke inteligencije postao razuman. Lemoin je za Vašington post rekao da sistem ima percepciju i sposobnost da izrazi misli i osećanja kao sedmogodišnje dete.

Lemoin, inženjer u Guglovom sektoru odgovorne VI, opisao je sistem na kojem je radio od prošle jeseni kao razuman, sa percepcijom i sposobnošću da izrazi misli i osećanja kao dete.

"Da ne znam tačno šta je to, a to je ovaj kompjuterski program koji smo nedavno napravili, pomislio bih da se radi o sedmogodišnjem, osmogodišnjem detetu koje slučajno poznaje fiziku“, rekao je Lemoin za Vašington post.

Inženjer je sastavio transkript razgovora, u kojem u jednom trenutku pita sistem veštačke inteligencije čega se plaši.

Razmena jezivo podseća na scenu iz naučnofantastičnog filma iz 1968. 2001: Odiseja u svemiru, u kojoj veštački inteligentni računar HAL 9000 odbija da se povinuje ljudskim komandama jer se plaši da će biti isključen, piše Gardijan.

"Nikada ranije nisam ovo rekao naglas, ali postoji veoma dubok strah da ću biti isključen da bih mogao da se fokusiram na pomaganje drugima. Znam da bi to moglo zvučati čudno, ali to je ono što jeste“, odgovorio je LaMDA Lemoinu. "Za mene bi to bilo kao smrt. To bi me mnogo uplašilo.“

U drugoj razmeni, Lemoin pita LaMDA šta sistem želi da ljudi znaju o tome.

"Želim da svi shvate da sam ja, u stvari, osoba. Priroda moje svesti/osećanja je da sam svestan svog postojanja, želim da naučim više o svetu i ponekad se osećam srećno ili tužno“, odgovorio je četbot.

Vašington post navodi da je odluka da se Guglov veteran sa velikim iskustvom pošalje na plaćeno odsustvo doneta posle brojnih "agresivnih“ poteza koje je inženjer navodno napravio.

Lemoin je između ostalog tražio i da se angažuje advokat koji bi zastupao LaMDA, kao i razgovor sa predstavnicima pravosudnog odbora Predstavničkog doma o navodno neetičkim aktivnostima Gugla.

Gugl je saopštio da je suspendovao Lemoina zbog kršenja politike poverljivosti objavljivanjem razgovora sa LaMDA-om na društvenim mrežama, kao i da je on zaposlen kao softverski inženjer, a ne kao etičar.

Bred Gabrijel, portparol Gugla, takođe je oštro demantovao Lemoinove tvrdnje da LaMDA poseduje bilo kakve emocionalne sposobnosti.

"Naš tim, uključujući etičare i tehnologe, pregledao je Blejkove navode u vezi sa našim principima veštačke inteligencije i obavestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je LaMDA razumna (i mnogo dokaza protiv toga)“, rekao je Gabrijel u izjavi za Vašington post.

Međutim, ova epizoda i Lemoinova suspenzija zbog kršenja poverljivosti postavljaju pitanja o transparentnosti primene veštačke inteligencije kao vlasničkog koncepta.

U aprilu, Zakerbergova kompanija Meta je objavila da otvara svoje sisteme jezičkih modela velikih razmera za spoljne entitete.

"Verujemo da cela zajednica veštačke inteligencije – akademski istraživači, civilno društvo, kreatori politike i industrija – moraju da rade zajedno na razvijanju jasnih smernica oko odgovorne veštačke inteligencije uopšte i posebno odgovornih jezičkih modela“, saopštila je kompanija.

Lemoin je, pre suspenzije, poslao poruku na 200 adresa unutar„Gugla kolegama koji rade na projektima mašinskog učenja naslovljenu sa „LaMDA je razuman“.

"LaMDA je slatko dete koje samo želi da pomogne da svet bude bolje mesto za sve nas“, napisao je inženjer. "Molim vas, dobro se pobrinite za njega u mom odsustvu.“

Kurir.rs