SAM ALTMAN POČEO SA OBUKOM NOVOG VODEĆEG AI MODELA: OpenAI želi da AI sruši još granica, a iza zavese kompanije pljušte otkazi

Napredni AI sistem bi nasledio GPT-4, koji pokreće ChatGPT. Kompanija je takođe stvorila novi komitet za bezbednost kako bi se pozabavio rizicima AI posle "Sky" incidenta.

Start-up iz San Franciska, koji je jedan od vodećih svetskih AI kompanija, naveli su u postu na blogu da očekuju da će novi model doneti „sledeći nivo sposobnosti“ jer se trudi da izgradi „veštačku opštu inteligenciju“ ili A.G.I., mašinu koja može da uradi sve što može da uradi ljudski mozak. Novi model bi bio motor za AI proizvode uključujući chat botove, digitalne asistente slične Apple-ovom Siri, pretraživače i generatore slika.

OpenAI je takođe rekao da stvara novi Komitet za bezbednost kako bi istražio kako treba da se nosi sa rizicima koje predstavljaju novi model i buduće tehnologije.

„Iako smo ponosni što smo izgradili i objavili modele koji su vodeći u industriji i po sposobnostima i po bezbednosti, pozdravljamo snažnu debatu u ovom važnom trenutku“, saopštila je kompanija.

OpenAI ima za cilj da pomeri AI tehnologiju i da napreduje brže od svojih rivala, istovremeno umirujući kritičare koji kažu da tehnologija postaje sve opasnija, pomaže u širenju dezinformacija, zameni radnih mesta i čak preti čovečanstvu. Stručnjaci se ne slažu oko toga kada će tehnološke kompanije dostići veštačku opštu inteligenciju, ali kompanije uključujući OpenAI, Google, Meta i Microsoft stalno su povećavale moć AI tehnologije već više od jedne decenije, pokazujući primetan skok otprilike svake dve do tri godine.

OpenAI-jev GPT-4, koji je objavljen u martu 2023., omogućava čet-botovima i drugim softverskim aplikacijama da odgovaraju na pitanja, pišu e-poštu, generišu seminarske radove i analiziraju podatke. Ažurirana verzija tehnologije, koja je predstavljena ovog meseca i još uvek nije široko dostupna, takođe može da generiše slike i odgovori na pitanja i komande veoma konverzacijskim glasom.

Nekoliko dana nakon što je OpenAI pokazao ažuriranu verziju - nazvanu GPT-4.0 - glumica Scarlett Johansson rekla je da je koristila glas koji je zvučao "sablasno slično njenom". Rekla je da je odbila predlog izvršnog direktora OpenAI-a, Sema Altmana, da licencira njen glas za proizvod i da je unajmila advokata i zamolila OpenAI da prestane da koristi glas. Kompanija je rekla da glas nije bio glas gospođe Johanson.

Tehnologije poput GPT-4.0 uče svoje veštine analizirajući ogromne količine digitalnih podataka, uključujući zvukove, fotografije, video zapise, članke na Wikipediji, knjige i novinske članke. New York Times je tužio OpenAI i Microsoft, tvrdeći da su prekršili autorska prava na sadržaj vesti koji se odnosi na AI sisteme.

Digitalni „trening“ A.I. modeli mogu trajati mesecima ili čak godinama. Kada se obuka završi, A.I. kompanije obično troše još nekoliko meseci na testiranje tehnologije i fino podešavanje za javnu upotrebu.

To bi moglo značiti da sledeći model OpenAI neće stići još devet meseci do godinu dana ili više.

Dok OpenAI obučava svoj novi model, njegov novi komitet za bezbednost će raditi na usavršavanju politika i procesa za zaštitu tehnologije, saopštila je kompanija. Komitet uključuje gospodina Altmana, kao i članove odbora OpenAI Bret Taylor, Adam D’Angelo i Nicole Seligman. Kompanija je saopštila da bi nove politike mogle biti na snazi krajem leta ili jeseni.

Ovog meseca, OpenAI je rekao da Ilya Sutskever, suosnivač i jedan od vođa bezbednosnih napora, napušta kompaniju. Ovo je izazvalo zabrinutost da se OpenAI nije dovoljno borio sa opasnostima koje predstavljaju AI.

Dr Sutskever se pridružio još trojici članova odbora u novembru da bi uklonio gospodina Altmana iz OpenAI-a, rekavši da se gospodinu Altmanu više ne može verovati da je plan kompanije da stvori veštačku opštu inteligenciju za dobro čovečanstva. Nakon kampanje lobiranja od strane saveznika gospodina Altmana, on je vraćen na posao pet dana kasnije i od tada je ponovo uspostavio kontrolu nad kompanijom.

Dr Sutskever je vodio ono što je OpenAI nazvao svojim timom za Superalignment, koji je istraživao načine da osigura da budući A.I. modeli ne bi naškodili nikome. Kao i drugi na terenu, on je postajao sve zabrinutiji da A.I. predstavljao pretnju čovečanstvu.

Jan Leike, koji je vodio tim za Superalignment sa dr Sutskeverom, ovog meseca je podneo ostavku iz kompanije, ostavljajući budućnost tima pod sumnjom.

OpenAI je svoja dugoročna istraživanja bezbednosti navodno uklopio u svoje veće napore da osigura da su njegove tehnologije bezbedne. Taj posao će voditi John Schulman, još jedan suosnivač, koji je prethodno bio na čelu tima koji je stvorio ChatGPT. Novi komitet za bezbednost će nadgledati istraživanje dr Šulmana i dati smernice o tome kako će se kompanija baviti tehnološkim rizicima.