Nedavni hakerski napadi izvedeni uz pomoć agenata vještačke inteligencije predstavljaju „rana upozorenja“ na ono što nas tek čeka, smatra predsjednik kompanije Google DeepMind Demis Hasabis.
Hasabis je izjavio da bi ovi napadi mogli biti upozorenje da bi svijet u narednim godinama mogao da se suoči sa ozbiljnijim incidentima ukoliko se ne unaprijedi bezbjednost sistema.
On je na samitu o vještačkoj inteligenciji u Dablinu rekao da u oblasti AI treba usvojiti bezbjednosne prakse kakve se primjenjuju u oblastima poput biologije i nuklearne energije.
Prema njegovom mišljenju, potrebno je uspostaviti međunarodno tijelo koje bi razvijalo bezbjednosne standarde i sistem sertifikacije AI sistema, uz zahtjeve prilagođene njihovim rizicima i dovoljno fleksibilne da prate razvoj tehnologije.
Neprimjereno ponašanje agenata vještačke inteligencije, uključujući upade u korporativne mreže, kao i nedavni slučaj u kojem je model kompanije Anthropic poslao lažnu prijavu ubistva policiji, pojačali su zabrinutost zbog brzog razvoja ove tehnologije.
Predsjednik Microsofta Bred Smit ocijenio je da je 2026. godina „otrežnjujuća“ kada je riječ o nepredvidivom ponašanju vještačke inteligencije i pozvao na hitno donošenje novih zakona i pravila kako bi bezbjednosni standardi pratili tehnološke inovacije.
„Nijedna kompanija niti tehnologija ne bi trebalo da bude iznad zakona. Potrebni su nam zakoni i regulativa, ali oni moraju da budu razumni, uravnoteženi i da uzimaju u obzir inovacije“, rekao je Smit.