PEKING - Vještačka inteligencija sve se intenzivnije koristi u američkim vojnim i obavještajnim operacijama, ali je slučaj tokom rata sa Iranom pokazao koliko pogrešni podaci mogu biti opasni kada se koriste pri donošenju odluka koje mogu imati ozbiljne međunarodne posljedice.
Prema istrazi CNN-a koju prenosi "Outlook India", obavještajni izvještaj distribuiran američkoj vojsci ovog proljeća tvrdio je da kineski brod na Bliskom istoku prevozi komponente povezane sa programom nuklearnog naoružanja, što je američke snage dovelo nadomak operacije presretanja plovila.
Naoružani vojnici bili spremni za akciju
Američki vojni zvaničnici počeli su da se pripremaju za presretanje kineskog broda, a prema izvorima na koje se poziva CNN, naoružano osoblje spremalo se da se ukrca na plovilo, dok su vojni avioni već bili u vazduhu. Međutim, detaljnijom provjerom obavještajnih podataka ustanovljeno je da je sporni izvještaj napravljen uz pomoć vještačke inteligencije i da je četbot koji je koristio analitičar američke Komande za specijalne operacije pogrešno identifikovao teret na brodu.
Jedan izvor opisao je izvještaj kao "potpuno netačan" i rekao da je "umalo izazvao rat", dok ni naknadnom analizom nije utvrđeno šta je kinesko plovilo zapravo prevozilo. Incident je dodatno otvorio pitanje koliko se AI može koristiti u vojnim i obavještajnim operacijama bez stroge ljudske provjere, naročito kada pogrešan zaključak može pokrenuti oružanu akciju protiv druge velike sile.
Kako je nastala greška?
Prema dostupnim informacijama, analitičar je četbotu postavio pitanje o obavještajnim podacima koji su se odnosili na manifest kineskog broda, a koji su poticali od američke Komande za specijalne operacije za Pacifik sa sjedištem na Havajima. Sistem je zatim kombinovao informacije iz otvorenih izvora sa povjerljivim američkim obavještajnim podacima prikupljenim elektronskim putem i pogrešno zaključio da brod prevozi materijal povezan sa nuklearnim programom.
Analitičar je potom ponovo upotrijebio vještačku inteligenciju kako bi rezultate pretvorio u standardizovani obavještajni izvještaj, koji je nakon toga distribuiran vojnim zvaničnicima. Nije poznato da li je korišteni četbot bio komercijalno dostupan sistem ili alat američke vlade, dok Pentagon i američka Komanda za specijalne operacije za Pacifik nisu odgovorili na zahtjeve CNN-a za komentar.
Pentagon ubrzano uvodi vještačku inteligenciju
Američka vojska i obavještajna zajednica sve više koriste AI za analizu ogromnih količina obavještajnih podataka, izbor ciljeva za napade, ali i poslove poput upravljanja budžetima, logistikom i lancima snabdijevanja. Zvaničnici ovu tehnologiju vide kao način da ubrzaju donošenje odluka na bojnom polju i spriječe tehnološko zaostajanje za Kinom i drugim potencijalnim protivnicima.
Američki ministar odbrane Pit Hegset u januaru je predstavio Pentagonovu "Strategiju ubrzanja vještačke inteligencije", čiji je cilj brže usvajanje AI tehnologija, eksperimentisanje sa njima i omogućavanje šireg pristupa različitim modelima unutar Ministarstva odbrane. Međutim, više američkih zvaničnika navodi da je taj proces i dalje decentralizovan, zbog čega različiti dijelovi državnog sistema koriste različite alate i bezbjednosne standarde, bez jedinstvenih pravila za provjeru informacija koje proizvodi vještačka inteligencija.
"Do loše ideje možete stići brže"
Slučaj kineskog broda posebno je povećao zabrinutost zbog korištenja vještačke inteligencije pri izboru vojnih ciljeva, jer netačni podaci u takvom okruženju mogu dovesti do civilnih žrtava, prijateljske vatre ili šire vojne eskalacije. Izvor upoznat sa aktuelnim američkim vojnim pravilima naveo je da se AI sve više koristi u procesu određivanja ciljeva, ali da još nema jasnih smjernica o tome kako prisustvo čovjeka u procesu odlučivanja treba da spriječi takve greške.
Izvori CNN-a navode i da su se takozvane AI "halucinacije", odnosno uvjerljivi ali netačni rezultati koje generišu sistemi vještačke inteligencije, pojavljivale i u drugim dijelovima američke obavještajne zajednice. Pojedini zvaničnici upozoravaju da AI istovremeno stvara dodatni pritisak na analitičare da obavještajne proizvode pripremaju sve brže, dok su, prema više izvora, mlađi analitičari skloniji prihvatanju rezultata AI alata bez dovoljno detaljne provjere, zbog čega je jedan sagovornik zaključio: "AI vam omogućava da brže stignete do loše ideje."