Vještačka inteligencija mora da ostane pod nadzorom i kontrolom ljudi i da se razvija i koristi u skladu s međunarodnim pravom, navodi se u deklaraciji koju je usvojilo 20 zemalja, pozivajući na međunarodnu saradnju u upravljanju rizicima, uključujući mogućnost osnivanja globalnog nadzornog tijela.
U deklaraciji se ističe da vještačka inteligencija ima „potencijal da poboljša živote, unaprijedi nauku i ojača ekonomiju“, ali se upozorava da „brzi razvoj najnaprednijih modela AI nosi ozbiljne rizike po bezbjednost i sigurnost ukoliko se njima ne upravlja na odgovarajući način“.
Deklaraciju, usvojenu u ponedjeljak na marginama Generalne skupštine UN, podržali su, između ostalih, Norveška, Finska, Njemačka, Holandija, Španija, Danska, Irska, Kanada, Australija, Južnoafrička Republika, Singapur i Turska, a među potpisnicima je i predsjednica Evropske komisije Ursula fon der Lajen.
SAD i Kina, vodeće zemlje u razvoju vještačke inteligencije, nisu potpisale ovu deklaraciju, kao ni Velika Britanija, Francuska, Italija, Indija i Japan.
Predsjednik Finske Aleksandar Stub, jedan od inicijatora izrade ovog dokumenta, rekao je da se nada da će se veći broj aktera priključiti.
"Mislim da je u interesu i Kine i SAD da imamo neku vrstu sigurnosnog mehanizma. Naša poruka je da nam je potrebna ljudska intervencija, da ljudi imaju glavnu riječ", rekao je Stub za briselski portal "Politiko".
U cilju upravljanja rizicima povezanim sa najnaprednijim tehnologijama AI, potpisnici deklaracije pozivaju kompanije da razviju „transparentne bezbjednosne protokole, uključujući obavezno testiranje prije puštanja u rad i nezavisnu procjenu“.
Vlade i regionalne organizacije pozivaju se da razvijaju i koordiniraju zajedničke standarde, jačaju transparentnost, „uključujući zajedničko izvještavanje o ozbiljnim bezbjednosnim incidentima“, i obezbijede da sve zemlje imaju pristup naučnim i stručnim kapacitetima i pouzdanim procjenama.
"Države članice UN treba da nadograde postojeće međunarodne mehanizme i razmotre osnivanje međunarodne institucije koja bi postavila standarde, omogućila verifikaciju i pozvala države kada se prekorače pragovi kritičnih sposobnosti“, navodi se u deklaraciji.
Stub je za "Politiko" rekao da se potpisnici zalažu za osnivanje nove institucije, slične Međunarodnoj agenciji za atomsku energiju, u okviru UN, ali da to pitanje treba ostaviti otvorenim 'da ljudi ne bi odbacili inicijativu samo zato što bi bila u okviru UN'.
Kao tri glavna razloga zbog kojih nedostatak efikasnog nadzora AI predstavlja prijetnju, Stub je naveo biološko oružje kreirano pomoću AI, sajber napade koje izvode AI agenti i robote-ubice koji koriste vještačku inteligenciju za smrtonosne napade.
Stub je istakao da prednosti vještačke inteligencije mogu biti mnogo veće ako se tehnologija pravilno koristi, uključujući "iskorjenjivanje bolesti, produktivnost, informacije i mnoge druge stvari", piše DES.