RAZVIJEN ALAT KOJI PREPOZNAJE CHATGPT TEKST: OpenAI razmatra da li će biti dostupan za javnost
OpenAI priznaje da je metoda laka za zaobilaženje od strane zlonamernih aktera.
OpenAI je razvio alat koji može da otkrije kada je ChatGPT korišćen za pisanje, ali kompanija još uvek razmatra da li će ga objaviti. Portparol OpenAI-a je potvrdio da se radi na metodi "vodeni žig za tekst", ali da se pristupa pažljivo zbog složenosti i mogućeg šireg uticaja.
Metoda vodenog žiga funkcioniše tako što se u tekstu prave male izmene prilikom izbora reči, što stvara nevidljivi potpis koji kasnije može biti prepoznat specijalnim alatom. Ova metoda je tehnički obećavajuća, ali nosi rizike kao što su mogućnost zloupotrebe i negativan uticaj na govornike kojima engleski nije primarni jezik, naveo je portparol.
Ovaj alat bi se razlikovao od prethodnih pokušaja detekcije AI-generisanog teksta, koji su bili manje uspešni. Čak je i OpenAI prošle godine ugasio svoj prethodni detektor AI teksta zbog niske tačnosti.
Metoda vodenog žiga bi se fokusirala isključivo na prepoznavanje tekstova napisanih uz pomoć ChatGPT-a. Nedavno ažuriranje na blogu OpenAI-a ističe da je metoda pokazala visoku tačnost protiv lokalizovanih manipulacija, poput parafraziranja, ali je manje efikasna protiv globalnih manipulacija kao što su prevođenje ili korišćenje drugih generativnih modela.
OpenAI priznaje da je metoda laka za zaobilaženje od strane zlonamernih aktera. Takođe, metoda bi mogla negativno uticati na govornike kojima engleski nije primarni jezik, što je dodatni razlog za oprez.
Izvor: Telegraf/Kurir/Darko Mulic