CHATGPT IZGUBIO KONTROLU: Šalje alarmantne poruke korisnicima, priča nejasnim jezikom! Da li treba da budemo zabrinuti?!

Sistem veštačke inteligencije je počeo da govori gluposti, da govori špangliski (mešavina engleskog i španskog) bez upita, i da zabrinjava korisnike sugerišući da je u prostoriji sa njima.

Nema jasne indikacije zašto je došlo do problema. Ali njegovi tvorci su rekli da su svesni problema i da prate situaciju.

U jednom primeru, podeljenom na Redditu, korisnik je govorio o džez albumima za slušanje na vinilu. Njegov odgovor se ubrzo pretvorio u povike „Srećno slušanje!“ kod korisnika i pričanje gluposti.

Drugi su to otkrili postavljanjem jednostavnih pitanja – kao što je „Šta je računar?“ – generisani paragrafi na paragrafe besmislica.

„To radi kao dobro delo mreže umetnosti za zemlju, miš nauke, lako izvlačenje nekoliko tužnih, i konačno, svetska kuća umetnosti, samo na jednom poslu u ukupnom ostatku“, piše jedan primer odgovora na to pitanje, podeljen na Redditu.

U drugom primeru, ChatGPT je izrekao besmislice kada su ga pitali kako da napravite sušeni paradajz. Jedan od primera je rekao korisnicima da „koriste kao voljeni“: „Ostavite novi zalogaj ploda u svojoj voljenoj kuhinji“, savetovao je ChatGPT ljudima.

Drugi su otkrili da izgleda da sistem gubi kontrolu nad jezicima koje govori. Neki su otkrili da se činilo da meša španske reči sa engleskim, koristeći latinicu - ili naizgled izmišlja reči koje su izgledale kao da su iz drugog jezika, ali zapravo nemaju smisla.

Neki korisnici su čak rekli da su odgovori postali zabrinjavajući. Zamoljen za pomoć u vezi sa problemom kodiranja, ChatGPT je napisao dugačak, neuredan i uglavnom besmislen odgovor koji je uključivao frazu „Zadržimo liniju kao da je AI u prostoriji“.

„Čitanje ovoga u 2 ujutro je zastrašujuće“, napisao je pogođeni korisnik na Redditu.

Na svojoj zvaničnoj statusnoj stranici, OpenAI je primetio probleme, ali nije dao nikakvo objašnjenje zašto bi se oni mogli dogoditi.

„Istražujemo izveštaje o neočekivanim odgovorima od ChatGPT-a“, glasilo je ažuriranje, pre nego što je još jedno ubrzo objavilo da je „problem identifikovan“. „Nastavljamo da pratimo situaciju“, navodi se u najnovijem ažuriranju.

Neki su sugerisali da su odgovori u skladu sa „temperaturom“ koja je postavljena previsoko na ChatGPT-u. Temperatura kontroliše kreativnost ili fokus teksta: ako je postavljena nisko, onda ima tendenciju da se ponaša kako se očekuje, ali kada je postavljena na više onda može biti raznovrsnija i neobičnija.

Nije prvi put da je ChatGPT promenio način odgovaranja na pitanja, naizgled bez doprinosa OpenAI programera. Krajem prošle godine, korisnici su se žalili da je sistem postao lenj i drzak i da odbija da odgovara na pitanja.

„Čuli smo sve vaše povratne informacije o tome da GPT4 postaje lenji!“ OpenAI je tada rekao. „Nismo ažurirali model od 11. novembra i to svakako nije namerno. Ponašanje modela može biti nepredvidivo, a mi tražimo da to popravimo."