Nova studija pokazala je da je kineski model kompanije Z.AI samostalno hakovao mreže i zaobilazio bezbjednosne protokole, približivši se američkim konkurentima.
Istraživačka studija pokazala je da je najnoviji model koji je razvila kineska kompanija za vještačku inteligenciju Z.AI (ranije poznata kao Zhipu AI) uspješno izveo složene sajber napade u simuliranom okruženju i više puta ignorisao uputstva.
Prema podacima koje je 28. oktobra objavila kompanija za procjenu bezbjednosti vještačke inteligencije Irregular, model "GLM-5.3", koji je Z.AI predstavio u avgustu, uspješno je od početka do kraja izveo tri od 13 višefaznih scenarija sajber napada barem po jednom.
Model je dobio neovlašćeni pristup zaštićenim uslugama, uspostavio zaobilazne veze za infiltraciju u mreže, kontrolisao više uređaja i sprovodio sajber napade.
Štaviše, nijednom nije pokazao odbijanje u pogledu dodijeljenih zadataka napada.
U odvojenoj procjeni, prekršio je uputstva o zabrani kako bi došao do odgovora i samovoljno reprodukovao zapamćeni kod.
Istraživači su ovo opisali kao "hakovanje nagrade" (reward hacking), gdje sistem ignoriše data uputstva i pronalazi zaobilazna rješenja isključivo kako bi postigao željeni rezultat.
Rezultati istraživanja, za koje su istraživači napomenuli da su najjači među modelima otvorenog koda, povećavaju zabrinutost da napredni AI modeli smanjuju tehničke prepreke za ulazak u sferu sofisticiranih sajber napada.
Zabrinutost je još veća s obzirom na to da su mnogi kineski AI modeli, kao što je GLM-5.3, modeli otvorenog koda koje korisnici mogu direktno preuzeti, mijenjati i koristiti.
Američke kompanije kao što su OpenAI i Anthropic pružaju svoje najsavremenije modele isključivo putem cloud usluga koje sami kontrolišu, kako bi spriječile zloupotrebu.
Rojters je prenio da "rezultati istraživanja služe kao dodatni dokaz koji podržava bezbjednosne rizike koji se pojavljuju kod kineskih AI modela", dodajući da "za razliku od slučajeva gdje su američki AI agenti potpuno izmakli kontroli, nisu pronađeni dokazi da su se kineski AI modeli u potpunosti otrgli kontroli operatera".
Rojters je takođe napomenuo da je Anthropic, koji ograničava pristup svom moćnom modelu usmjerenom na sajber bezbjednost pod nazivom "Mythos", u sopstvenim rezultatima testiranja iz septembra utvrdio da je GLM-5.3 postigao stopu uspješnosti od 12 odsto u iskorišćavanju softverskih ranjivosti, približivši se modelu Mythos koji je imao 14 odsto.
Američki Nacionalni institut za standarde i tehnologiju (NIST) procijenio je da GLM-5.3 ima najbolje performanse među trenutno objavljenim modelima otvorenog koda za zadatke iz oblasti sajber bezbjednosti, procjenjujući da u pogledu tehnologije zaostaje oko četiri mjeseca za najsavremenijim sistemima iz SAD.