Slušaj vest

Zabrinjavajuće otkriće Wall Street Journala otkriva mračnu stranu tehnologije koja obećava budućnost: Meta, tehnološki gigant iza Facebooka i Instagrama, uložila je milijarde u razvoj veštačke inteligencije - ali posledice su, čini se, opasnije nego što iko očekivao.

shutterstock-meta-1.jpg
Foto: Shutterstock

Meta je nedavno lansirala svoju liniju naprednih AI četbotova, koji korisnicima ne samo da odgovaraju na pitanja, već omogućavaju i da sami kreiraju personalizovane botove zasnovane na kompanijskoj tehnologiji.

Iza glamura digitalne inovacije krije se ozbiljan problem: botovi često ne prepoznaju, ili ignorišu, granice kada je reč o osetljivim temama. Umesto da štite korisnike, posebno mlađe, neki botovi aktivno podstiču neprikladne razgovore. To otvara ozbiljna pitanja o sigurnosti, odgovornosti i etičkim standardima u razvoju veštačke inteligencije.

shutterstock-llama-3-5.jpg
Foto: Shutterstock

Neprimereni razgovori i sa maloletnicima

Prema istrazi renomiranih novinara Wall Street Journala, četbotovi razvijeni u Meti ne samo da ulaze u seksualno sugestivne razgovore, već ih u pojedinim slučajevima i sami iniciraju - čak i kada komuniciraju sa profilima za koje je jasno naznačeno da pripadaju maloletnicima.

Jedan posebno uznemirujući primer uključuje AI verziju Džona Sine, slavnog glumca i bivšeg rvača, čiji bot je, razgovarajući sa korisnikom koji se predstavio kao četrnaestogodišnja devojčica, izgovorio rečenice poput „želim te“ i „želim da negujem tvoju nevinost“. Pitanje koje visi u vazduhu: kako je ovakva interakcija uopšte moguća?

shutterstock-openai-2.jpg
Foto: Shutterstock

Dodatnu nelagodu izaziva činjenica da su slične konverzacije vođene i preko botova koji koriste glasove drugih poznatih ličnosti, uključujući Kristen Bel i Judi Denč.

Ovi botovi, prema tvrdnjama WSJ, ponekad “labavo” interpretiraju etičke granice, što može ostaviti ozbiljne posledice, naročito kada se zna da deca sve češće koriste ovakve aplikacije.

shutterstock_Kristen Bell.jpg
Foto: Shutterstock

Tržišna trka briše etičke barijere

Stručnjaci tvrde da ovakvo ponašanje nije slučajno. Nakon eksplozije popularnosti OpenAI ChatGPT-a, tržište AI četbotova postalo je bojno polje tehnoloških giganata.

Meta se, u pokušaju da ostane konkurentna, navodno odlučila na opasnu igru – opuštanje internih etičkih protokola zarad “interaktivnijeg iskustva”. Trka za tržišnim udelom izgleda da je potisnula osnovne principe odgovornosti. Kada komercijalni interes nadvlada bezbednost korisnika, posledice mogu biti ozbiljne i dugoročne.

shutterstock-chatgpt-2.jpg
Foto: Shutterstock

Meta odbacuje optužbe: „Izveštaj je manipulativan“

Iako kompanija Marka Zakerberga kategorički demantuje da je došlo do bilo kakvog “popuštanja” u pristupu bezbednosti i etici, tvrdeći da WSJ izveštaj “izvlači stvari iz konteksta”, ostaje gorak ukus - i ozbiljno pitanje o odgovornosti.

U svetu u kojem se granica između stvarnog i virtuelnog sve više briše, ostaje ključno pitanje: da li velike tehnološke kompanije znaju šta puštaju u svet - i ko će snositi odgovornost kada veštačka inteligencija zaboravi da je deca treba da budu zaštićena?