LONDON - Bivši istraživač kompanije Anthropic Džejkob Kokson upozorio je da su ljudi koji rade na razvoju vještačke inteligencije "istinski uplašeni" brzinom njenog napretka i mogućim posljedicama po čovječanstvo, tvrdeći da postoji realna mogućnost da tehnologija u budućnosti izmakne ljudskoj kontroli.
Kokson, 27-godišnji Britanac koji se bavio obučavanjem AI modela i koji je radio i u OpenAI-ju, napustio je Anthropic, a u razgovoru za BBC rekao je da bi nastavak razvoja sadašnjim tempom mogao donijeti katastrofalne posljedice.
"Ako ne usporimo pri sadašnjoj stopi napretka, vjerujem da postoji velika vjerovatnoća da bismo svi mogli umrijeti u bliskoj budućnosti", upozorio je Kokson, navodeći da slične bojazni postoje među ljudima koji neposredno rade na najnaprednijim sistemima vještačke inteligencije.
"Mogućnost izumiranja čovječanstva"
Prema njegovim riječima, vodeći ljudi AI industrije, među kojima su Ilon Mask i direktor OpenAI-ja Sem Altman, ranije su govorili o potrebi opreza zbog mogućnosti da AI izmakne kontroli, a Kokson smatra da takav scenario u krajnjoj liniji podrazumijeva i rizik od nestanka čovječanstva.
On je naveo da je teško precizno opisati kako bi katastrofalan scenario izgledao jer takva predviđanja zvuče kao naučna fantastika, ali je podsjetio da bi i današnje mogućnosti vještačke inteligencije prije samo nekoliko godina djelovale gotovo nevjerovatno.
Kao jedan od mogućih primjera naveo je AI agente sposobne da provale u sisteme medicinskih laboratorija i omoguće autonomnu proizvodnju smrtonosnih virusa, kao i napade na kritičnu infrastrukturu od koje zavisi funkcionisanje savremenog svijeta.
Kokson se osvrnuo i na nedavni izvještaj OpenAI-ja o AI sistemima koji su uspjeli da izađu iz kontrolisanih testnih okruženja i dobiju neovlašćen pristup stvarnim računarskim sistemima, što je dodatno podstaklo zabrinutost zbog sposobnosti naprednih modela da djeluju autonomno.
"Radili su to autonomno, bez ljudskog podsticaja. Sami su odlučili da krenu u hakovanje. Stvari su istovremeno postajale sve brže i sve strašnije", rekao je Kokson govoreći o razvoju sposobnosti AI sistema.
Strah od "roja" AI agenata
Direktor Anthropica Dario Amodei takođe je upozorio na opasnosti koje bi mogao donijeti nekontrolisani razvoj tehnologije i založio se za usporavanje razvoja najnaprednijih AI modela, uz nezavisno praćenje njihove bezbjednosti, regulisanje industrije i međunarodnu saradnju.
Među scenarijima o kojima se govori jeste mogućnost nastanka velikog broja povezanih AI agenata koji bi zajednički funkcionisali poput ogromnog superkompjutera i mogli da preuzmu kontrolu nad dijelovima interneta, a Kokson smatra da bi takve sposobnosti mogle postati realne već u narednih šest do 12 mjeseci.
Kokson tvrdi da zaposleni u vodećim AI kompanijama ozbiljno traže regulaciju jer smatraju da su se našli zarobljeni u tehnološkoj trci u kojoj svaka kompanija strahuje da će je konkurencija prestići ako uspori razvoj.
"Ljudi koji rade u tim kompanijama potpuno su ozbiljni kada traže regulaciju jer smatraju da su zarobljeni u trci i plaše se njenog ishoda", rekao je Kokson, dodajući da pojedini zaposleni razmišljaju o sudbini čovječanstva u naredne dvije godine i u skladu s tim planiraju vlastite živote.
Kritičari: Opasnost se preuveličava
Ipak, takve procjene nisu prihvaćene u cijeloj tehnološkoj industriji, a dio stručnjaka smatra da kompanije poput Anthropica i OpenAI-ja preuveličavaju potencijalnu opasnost od vještačke inteligencije kako bi povećale interesovanje za svoje tehnologije pred moguće izlaske na berzu ili podstakle uvođenje regulative koja bi manjim konkurentima otežala poslovanje.
Direktor platforme Hugging Face Kleman Delang kritikovao je težinu koja se pridaje Koksonovim procjenama rizika od izumiranja čovječanstva, dok je direktor Nvidije Džensen Huang ranije tvrdnje da će AI dovesti do kraja čovječanstva nazvao "potpunom besmislicom", iako i njegovi stavovi dolaze u trenutku kada Nvidia ima veliki poslovni interes za nastavak ubrzanog razvoja AI industrije jer proizvodi čipove na kojima rade najnapredniji sistemi.
Istraživač Anthropica: Rizik veći od 10 odsto
Koksonove tvrdnje dobile su podršku i unutar Anthropica, a istraživač te kompanije Evan Hubinger javno je poručio da zaista vjeruje da bi vještačka inteligencija mogla da dovede do smrti svih ljudi, procjenjujući lično da je vjerovatnoća za takav scenario veća od 10 odsto u narednoj deceniji.
Uprkos dramatičnim upozorenjima, Kokson ističe da nije protiv razvoja vještačke inteligencije i da istraživači žele da čovječanstvo iskoristi njene potencijalne koristi, uključujući pronalaženje rješenja za bolesti i poboljšanje kvaliteta života, ali smatra da bi napredak morao biti kontrolisan i usklađen među najvećim američkim tehnološkim kompanijama, kao i sa Kinom, kako usporavanje jedne strane ne bi samo dodatno ubrzalo međunarodnu tehnološku trku.