MUSKOV CHATBOT POČEO DA ŠIRI LAŽI: Nevolje za AI kompaniju milijardera, malo se "zaigrali"

Novi AI četbot Grok, koji ima pristup informacijama u realnom vremenu na platformi X – počeo je da širi dezinformacije i plasira šale kao prave naslove vesti

Grok radi tako što kreira naslove i objašnjenja najnovijih vesti, u dužini od preteženo jednog pasusa i koristi najnovije objave (twittove) na X mreži. Problem je u tome što Grok teško razume (ili ne razume uopšte) viceve, kontekst i dezinformacije. U celoj ovoj priči, deluje da je tačnost veći problem od pristrasnosti, a Grok je do sada podelio nekoliko, zaista neverovatnih tvitova kao vesti na koje su naseli milioni posetilaca platforme X, piše Gizmodo.

Neke od „najpopularnijih“ laži koje je plasirao Grok je i da premijer Indije Narendra Modi podnosi ostavku i da je njegova partija izgubila na opštim izborima. Pritom, izbori u Indiji još nisu ni održani. Sledeća laž koju je plasirao Grok kao vest je informacija da je košarkaš NBA lige Klej Tomson demolirao kuću u Sakramentu „bacajući cigle”. Očigledno da je Grok pogrešno shvatio kontekst rečenice, i izraz „bacanje cigala” shvatio kao vandalski čin, a ne kao loše šutiranje na koš.

Da bi napravili još veću pometnju, pratioci trenda sportskih vesti počeli su još više da potpiruju i komentarišu ovu vest i da izmišljaju incidente koji se zapravo nisu ni dogodili. Da li slučajno ili ne, zanimljivo je da je Grok je početkom meseca, 5. aprila preneo vest da je Iran napao Tel Aviv teškim projektilima, što je bilo samo osam dana pre napada koji se stvarno dogodio.

Prema istraživanju koje je sproveo startap za bezbednost pod imenom Adversa AI, Grok se ubraja u najnesmotrenije i najnebezbednije četbotove. Osnivač i glavni inženjer Adversa AI Aleks Poljakov sa pravom pita: „Ako tehnološki guru kao što je Ilon Mask ima tako niske bezbednosne standarde kada je u pitanju veštačka inteligencija, šta se dešava u kompanijama sa dosta manje iskustva kada je u pitanju AI“?

Grok, naravno, nije jedini četbot koji pravi probleme sa širenjem dezinoformacija. Adversa AI izvestio je o ranjivostima pronađenim u najpopularnijim četbotovima veštačke inteligencije koji uključuju Gemini, Claude, Le Chat, Bing, ChatGPT i druge. Od svih njih, Grok i Le Chat su izjednačeni kao najmanje sigurni.

U međuvremenu, Elon Musk je najavio drugu verziju velikog jezičkog modela koji stoji iza četbota, a dodao je još i da se nada da će obuka ovog modela biti gotova do kraja maja. Za obuku je bilo potrebno 20 hiljada Nvidia H100 GPU procesora, koji su trenutno najnapredniji AI čipovi dostupni na tržištu. Mask je takođe dodao da bi za obuku modela Grok 3, bilo potrebno preko 100 hiljada Nvidia H100 čipova.

Generalno govoreći o ovoj temi, možda nije bitno ko šta napiše, već ko to prenosi (bez da je proverio istinitost informacije). Svi se sa osmehom možemo setiti kada je Njuznet u decembru 2010. godine plasirao šaljivu vest o pijanom Srbinu, koji je skokom u more u Šarm el Šeiku pao na ajkulu i ubio je. Vest je na početku shvaćena kao ozbiljna i prenele su je neke ozbiljne novinske kuće u zemlji i regionu, među kojima je čak i javni medijski servis Srbije.

Izvor: Benchamrk/Kurir/Darko Mulic