Veštačka inteligencija već godinama ulazi u vojne komandne sisteme mnogo brže nego što države uspevaju da definišu granice njene upotrebe. Prednost koju nude brzina obrade podataka i automatizovana analiza postala je previše privlačna da bi je velike sile ignorisale.
Najosetljiviji trenutak nastaje kada rezultat koji je proizvela mašina prestane da bude samo pomoć analitičaru i postane deo lanca donošenja odluka o stvarnoj vojnoj operaciji. Tu više nije reč o grešci u tekstu, pogrešno generisanoj slici ili netačnom odgovoru korisniku.
Pentagon poslednjih meseci veoma brzo širi upotrebu ovih sistema. Kina istovremeno razvija sopstvene vojne modele, ali javno insistira da odluka o upotrebi sile mora ostati u ljudskim rukama. Najnovija priča iz američke vojske pokazuje koliko mala može biti udaljenost između te debate i stvarnog incidenta.
CNN: Američki avioni već bili u vazduhu
CNN je 18. septembra objavio da je američka vojska tokom proleća 2026, usred rata sa Iranom, bila veoma blizu presretanja kineskog broda na Bliskom istoku zbog obaveštajnog izveštaja za koji se kasnije pokazalo da je netačan.
Prema četiri izvora CNN-a upoznata sa događajem, izveštaj je tvrdio da kineski brod prevozi komponente povezane sa programom nuklearnog oružja. Američka vojska je nakon toga počela da priprema presretanje, naoružani pripadnici čekali su ukrcavanje na brod, dok su vojni avioni već bili podignuti u vazduh.
Tek neposredno pred planiranu akciju počela je detaljnija provera dokumenta. Tada je utvrđeno da je analitičar Komande za specijalne operacije koristio chatbot sa veštačkom inteligencijom i da je sistem pogrešno identifikovao robu navedenu u manifestu kineskog broda.
CNN navodi da je početna informacija poticala iz Komande za specijalne operacije SAD za Pacifik na Havajima. Analitičar je od sistema veštačke inteligencije zatražio da obradi informacije iz otvorenih izvora zajedno sa poverljivim podacima elektronskog izviđanja, nakon čega je sistem izveo pogrešan zaključak o teretu.
Problem se zatim udvostručio. Analitičar je ponovo koristio veštačku inteligenciju da rezultat pretvori u standardni obaveštajni izveštaj, dokument koji je potom prosleđen kroz uobičajene vojne kanale i izgledao kao materijal kojem komandanti mogu da veruju.
Jedan sagovornik CNN-a opisao je izveštaj kao „potpuno lažan“, dok je drugi deo iste procene bio još ozbiljniji: incident je, prema tom izvoru, „skoro započeo rat“. CNN nije uspeo da utvrdi šta se stvarno nalazilo na brodu niti koji je konkretan model veštačke inteligencije korišćen.
Pentagon i Komanda za specijalne operacije za Pacifik nisu odgovorili CNN-u na zahtev za komentar. Tvrdnje da je brod prevozio prehrambene proizvode ili da je sistem pogrešno protumačio izraz povezan sa „jezgrima orašastih plodova“ za sada nisu deo potvrđenog CNN izveštaja.
Kinesko Ministarstvo odbrane odavno upozorilo na takav scenario
Posebno je zanimljivo što je kinesko Ministarstvo odbrane još nekoliko meseci pre ovog događaja javno upozorilo na gotovo isti problem.
Portparol Ministarstva, pukovnik Đijang Bin, 11. marta je odgovarao na pitanje o američkom ubrzanom uvođenju veštačke inteligencije u vojne operacije protiv Venecuele i Irana. Njegov odgovor nije bio kritika same tehnologije, već načina na koji ona ulazi u odluke o ratu i upotrebi sile.
Đijang je upozorio na „neograničenu primenu“ veštačke inteligencije u vojsci, preveliki uticaj algoritama na ratne odluke i mogućnost da algoritmi dobiju moć da odlučuju o životu i smrti. Takav pristup, prema njegovim rečima, potkopava odgovornost u ratu i nosi rizik „tehnološkog gubitka kontrole“.
Kineski stav tada je bio vrlo konkretan: čovek mora zadržati primat u vojnoj primeni veštačke inteligencije, dok sistemi naoružanja moraju ostati pod ljudskom kontrolom. Peking je istovremeno kritikovao korišćenje tehnološke prednosti radi postizanja apsolutne vojne dominacije.
To upozorenje dato je 11. marta, upravo tokom američko-izraelskog rata protiv Irana, dakle u periodu u kojem se prema CNN-u dogodio incident sa kineskim brodom.
Sjangšan: Veštačka inteligencija skraćuje vreme za odluku
Ista tema vratila se ove nedelje na Pekinškom forumu Sjangšan, najvećem kineskom međunarodnom skupu posvećenom odbrani i bezbednosti. Na skupu je učestvovalo oko 2.000 vojnih zvaničnika, diplomata i stručnjaka iz približno 100 država.
Jedno od centralnih upozorenja bilo je da veštačka inteligencija ubrzava donošenje odluka upravo u trenutku kada dezinformacije i pogrešni podaci povećavaju mogućnost pogrešne procene. Pakistanski sekretar odbrane Muhamed Ali opisao je tehnološki razvoj kao proces koji „sabija strateški vremenski okvir“, ostavljajući državama sve manje vremena da proveravaju informacije pre reakcije.
Predstavnik Međunarodnog komiteta Crvenog krsta Jirg Lauber naglasio je da rast autonomije sistema naoružanja povećava potrebu za očuvanjem ljudskog rasuđivanja i kontrole nad upotrebom sile. Predstavnici više azijskih država na forumu takođe su govorili o potrebi međunarodnih pravila koja bi ograničila rizike vojne primene veštačke inteligencije.
Rasprava je održana samo dan pre nego što je CNN objavio slučaj kineskog broda. Primer iz američkog lanca odlučivanja praktično pokazuje problem o kojem su učesnici Sjangšana govorili: sistem ubrzava obradu informacije, ali istom brzinom može da ubrza i grešku.
Pentagon je veštačku inteligenciju već uveo duboko u vojni sistem
Još 2. maja pisali smo kako Pentagon povezuje NVIDIA, Google, OpenAI i druge velike tehnološke kompanije sa najstrože zaštićenim vojnim mrežama. Sistemi veštačke inteligencije već se koriste za obradu obaveštajnih informacija, operativno planiranje i ubrzavanje procesa donošenja odluka.
Pentagon tada nije govorio o veštačkoj inteligenciji kao pomoćnom eksperimentu, već kao delu buduće komandne infrastrukture. Internu platformu GenAI.mil već je koristilo više od 1,3 miliona ljudi, dok su modeli počeli da ulaze i na mreže nivoa IL6 i IL7, gde se obrađuju neki od najosetljivijih američkih vojnih podataka.
Samo nekoliko nedelja kasnije pisali smo da je broj korisnika alata veštačke inteligencije u američkom Ministarstvu odbrane za godinu dana porastao sa približno 80.000 na oko 1,5 miliona, odnosno za 1.775 odsto. Pentagon je taj rast predstavljao kao način da se komercijalni tehnološki napredak što brže prenese u vojne operacije.
Od ratnih igara do stvarnog kineskog broda
U 26. februara preneli smo rezultate studije u kojoj su sada već zastareli modeli GPT-5.2, Claude Sonnet 4 i Gemini 3 Flash korišćeni u simuliranim međunarodnim krizama. U 95 odsto scenarija modeli su na kraju posegnuli za nuklearnim oružjem, dok su se u 86 odsto sukoba pojavljivale greške povezane sa „ratnom maglom“ i nepotpunim informacijama.
Prema CNN-ovom izveštaju, ovog proleća nije bila u pitanju ratna igra, simulacija niti laboratorijski test. Naoružani američki vojnici pripremali su se za ukrcavanje na kineski brod, vojni avioni već su bili u vazduhu, a podatak koji je pokrenuo lanac događaja pokazao se kao rezultat pogrešne procene sistema veštačke inteligencije.
