Open AI ChatGPT neočekivano je klonirao glas korisnika tokom testiranja, otkrili su njegovi kreatori.
Kompanija koja stoji iza četbota sa veštačkom inteligencijom (AI), radi na novom naprednom glasovnom režimu GPT-4o. Kako su otkrili ovo će omogućiti botu da pruži složene govorne odgovore na pitanja koja su postavljena glasom.
Međutim, tokom testiranja, OpenAI je otkrio grešku koja je omogućila chatbot-u da "neovlašćeno generiše glas". U snimku koji je objavio The Sun, chatbot vodi razgovor sa ženskom korisnicom preko muškog glasa generisanog u AI.
- Generacija glasa je sposobnost stvaranja zvuka sintetičkim glasom koji zvuči ljudski, i uključuje generisanje glasova na osnovu kratkog ulaznog klipa. U suprotstavljenim situacijama, ova sposobnost bi mogla lakše naneti štetu tako što bi povećala učestalost prevare lažnim predstavljanjem i može se iskoristiti za širenje lažnih informacija - navode iz kompanije.
Korisnici društvenih mreža ovaj "ispad" chat bota označili su kao "jeziv".
"Ovo je više nego jezivo, zastrašujuće je", "Kada ChatGPT počne da govori, vreme je da isključite računar", "Zapanjen sam što je mogao da sintetiše glas tako brzo, pod pretpostavkom da je koristio samo glasovni odziv iz te testne sesije" bili su samo neki od komentara.
Kreatori ChatGPT-a su ranije upozorili da je način ljudskog glasa GPT-4o toliko realističan da ljudi mogu postati "emotivno oslonjeni" na njega.
(Kurir.rs/I.M.)
Bonus video: