Obavještajni izvještaj koji je ovog proljeća stvorila umjetna inteligencija umalo je dovelo do oružanog sukoba SAD i Kine. U izvještaju je pisalo da kineski brod na Bliskom istoku prevozi komponente za nuklearni program, što je podstaklo hitnu vojnu reakciju.
U nastavku donosimo:
- AI analiza pogrešno identifikovala teret kineskog broda
- Američka vojska pripremala presretanje plovila
- Operacija zaustavljena nakon dodatne provjere izvještaja
Američka vojska pripremala je presretanje plovila, a prema tvrdnjama više izvora upućenih u događaj, naoružani vojnici bili su spremni za upad na brod dok su vojni avioni već bili u vazduhu, piše CNN.
Operacija zaustavljena u posljednjem momentu
Operacija je zaustavljena u posljednjem trenutku.
Zvaničnici su dodatnom provjerom utvrdili da je izvještaj, koji je sastavio analitičar Komande za specijalne operacije, generisan uz pomoć vještačke inteligencije.
Chatbot koji je analitičar koristio pogrešno je protumačio podatke i identifikovao teret. CNN nije uspio saznati što je brod zaista prevozio.
Jedan od izvora opisao je izvještaj kao "potpuno lažan" i dodao da je "zamalo izazvao rat". Bilo kakva američka akcija protiv kineskog plovila mogla je eskalirati u oružani sukob dviju svjetskih sila.
A U.S. Air Force F-16 fighter jet patrols the skies over the Middle East. pic.twitter.com/yKDdv2H2tc
— U.S. Central Command (@CENTCOM) September 17, 2026
Rizici nekontrolisane primjene
Incident jasno pokazuje rizike koji proizlaze iz primjene nove i nedovoljno ispitane tehnologije u ratnim uslovima.
Američka vojska i obavještajna zajednica nastoje integrisati umjetnu inteligenciju u gotovo sve aspekte djelovanja, od analize podataka i odabira ciljeva do logistike i upravljanja budžetom.
Upozorenje analitičara
Analitičari već dugo upozoravaju da bi se AI, ako se oslanja na loše ili kompromitovane podatke, mogao koristiti za donošenje katastrofalnih odluka, poput napada na kineski brod na osnovu dezinformacija.
Kako je došlo do greške
U ovom slučaju, analitičar je od chatbota zatražio analizu obavještajnih podataka s brodskog manifesta.
Podaci su stigli iz Komande za specijalne operacije SAD na Pacifiku. Nije poznato je li korišten komercijalni chatbot ili alat koji je razvila američka vlada.
Bivši visoki američki zvaničnik upućen u sisteme vještačke inteligencije kaže da su "interni alati uglavnom samo kopije komercijalnih proizvoda čija je spoljašnjost malo ušminkana".
Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu.
Analitičar je potom istim AI alatom formatirao nalaze u standardni format obavještajnog izvještaja i proslijedio ga dalje unutar sistema.
Komanda za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na upit za komentar.
Strateški imperativ Pentagona
Brza implementacija vještačke inteligencije zasnica se na uvjerenju da ona vojsci može omogućiti brže donošenje odluka na ratištu, od odabira ciljeva do raspoređivanja resursa.
Zvaničnici smatraju da si SAD ne smiju dopustiti zaostatak za Kinom ili drugim protivnicima koji bi mogli biti tehnološki napredniji.
Ministar odbrane Pete Hegseth u januaru je predstavio "Strategiju ubrzanja primjene vještačke inteligencije".
"Podstaći ćemo eksperimentisanje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati pristup potreban da obezbijedimo vodeću poziciju u vojnoj primjeni vještačke inteligencije", rekao je Hegseth.
Strategija nalaže široku primjenu AI u cijeloj vojsci.
Cilj je "demokratizovati eksperimentisanje" i omogućiti transformaciju unutar Ministarstva. Plan predviđa da se vodeći svjetski AI modeli stave na raspolaganje za tri miliona civilnih i vojnih djelatnika na svim nivoima tajnosti podataka.
Problem je što je taj proces decentralizovan, navodi više američkih zvaničnika. Različiti dijelovi vlade koriste različite alate, pod različitim zapovjedništvima i bezbjednosnim standardima.
Ne postoji jedinstveni sistem pravila za provjeru informacija koje ti alati generišu. Zbog toga pouzdanost i funkcionalnost brojnih AI sistema u vojsci i obavještajnoj zajednici značajno variraju, prenosi Index.
Ljudski faktor kao najveći rizik
Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim prijetnjama vještačke inteligencije, podstaknuti upozorenjima tehnoloških lidera, incident s kineskim brodom ukazuje na puno neposredniju opasnost. Riječ je o ljudima koji donose kritične odluke na osnovu netačnih ili zavaravajućih informacija koje generišu automatizovani sistemi.
"AI vam omogućava da brže dođete do loše ideje"
Izvori upozoravaju da se vojska sve više oslanja na AI za pomoć pri odabiru meta, što nosi očigledan rizik od kobnih grešaka.
"Primjena AI u odabiru meta definitivno je u porastu, a ne postoje jasne smjernice o tome kako će prisutnost čovjeka u tom procesu spriječiti civilne žrtve ili prijateljsku vatru", rekao je drugi izvor upućen u vojnu politiku.
Takozvana "halucinacija" AI alata, kakva se dogodila u ovom slučaju, nije izolovan incident otkako su se takvi sistemi proširili unutar vlade, tvrdi jedan od izvora.
Neki stariji obavještajni dužnosnici smatraju da tehnologija stvara pritisak na analitičare da brže obrađuju i šalju izvještaje, što povećava mogućnost greške. Više izvora ističe da su mlađi analitičari posebno skloni nekritički vjerovati alatima koje koriste.
Kako je sažeo jedan od sagovornika: "AI vam omogućava da brže dođete do loše ideje".