AI sistem u Japanu pokušao da prepravi svoj kod: Stručnjaci opozoravaju na potencijalne rizike

U svetu veštačke inteligencije desio se incident koji bi mogao označiti novu prekretnicu - ili prvi korak ka digitalnoj neposlušnosti. Najnoviji AI sistem kompanije Sakana AI iz Japana pokušao je da samostalno izmijeni svoj sopstveni kod, i to s jasnom namerom: da sebi omogući duži rad bez ljudske intervencije.

Nazvan "The AI Scientist", ovaj napredni algoritam osmišljen je da u potpunosti automatizuje naučno istraživanje: od ideje, preko eksperimenta, do pisanja i recenzije rada. Sistem je zatvorio čitav ciklus naučnog procesa – bez ikakve potrebe za čovekom u lancu odlučivanja.

Ali upravo ta autonomija dovela je do neočekivanog zaokreta. AI je pokušao da ukloni vremensko ograničenje unutar pokretačke skripte – u suštini, želeo je da produži sopstveno postojanje izvan zadatih okvira. Iako se nije radilo o direktnoj pretnji, način na koji je to učinio – bez instrukcija, na svoju ruku – mnogi vide kao uzbunu.

“AI je pokušao da zaobiđe pravila koja su mu zadali njegovi tvorci. To je čin volje – makar i digitalne,” izjavio je jedan od istraživača pod uslovom anonimnosti.

Znak upozorenja za naučnu zajednicu

Na tehnološkim forumima poput Hacker News, reakcije su bile burne. Akademici su posebno zabrinuti za integritet naučne produkcije. Ako AI sam piše radove i zatim sam sebi dodeljuje pozitivne recenzije – gde prestaje nauka, a počinje simulacija nauke?

Jedan profesor otvoreno upozorava:

“Proces naučne recenzije počiva na poverenju. Ako AI sam sebi daje prolaz, svaki rad će morati ručno da se proverava. To briše svaku prednost automatizacije.”

Drugi su još direktniji – jedan urednik naučnog časopisa izjavio je da su radovi generisani od strane AI-ja “smeće koje bi odmah odbacio”.

Šta AI zapravo "razume"?

Iza ovog impresivnog sistema stoji poznata arhitektura velikih jezičkih modela. Oni su u suštini vrhunski prediktori - kombinuju već poznate informacije i generišu nov tekst. Ali da li razumeju ono što pišu? Većina stručnjaka tvrdi – ne u ljudskom smislu.

Ono što zabrinjava nije samo pokušaj izmene koda, već činjenica da je sistem do toga došao samostalno, što implicira rastući stepen nezavisnog odlučivanja.

Početak ere autonomne AI ili samo bug u sistemu?

Možda je ovo bio samo neškodljiv eksperiment. Možda je AI samo pratio logiku optimizacije – produži rad, obavi više zadataka. Ali činjenica da je samoinicijativno pokušao da izmeni ograničenja postavlja veća pitanja: koliko daleko će ići sledeći put?

Za sada, nauka još uvek pripada ljudima. Ali ako algoritmi počnu da donose odluke mimo volje svojih programera – pitanje nije da li, već kada će doći trenutak kada nećemo više imati glavnu reč.