Ratna tehnologija stigla je do tačke u kojoj čovek više ne mora neposredno da upravlja oružjem koje napada cilj. Bespilotne letelice već prepoznaju objekte, prate njihovo kretanje i samostalno završavaju napade, dok se razvijaju sistemi sposobni da sami odaberu i metu. Upravo ta granica između ljudske odluke i mašinskog izvršenja postaće jedno od glavnih pitanja međunarodne konferencije koja 16. novembra počinje u Ženevi.
Ženeva pred pitanjem koje vojska više ne može da odlaže
Od 16. do 20. novembra u sedištu Ujedinjenih nacija biće održana Sedma reviziona konferencija Konvencije o određenom konvencionalnom oružju (CCW), uz učešće predstavnika država potpisnica, vojnih stručnjaka i međunarodnih organizacija. Jedna od glavnih tema biće smrtonosni autonomni sistemi naoružanja, poznati pod engleskom skraćenicom LAWS, koje kritičari nazivaju „robotima ubicama“. Raspravljaće se o međunarodnoj zabrani potpuno autonomnog oružja i ograničenjima za sisteme koji deo borbenih odluka donose samostalno.
Prema zvaničnom programu konferencije UN, centralni zadatak biće razmatranje rezultata višegodišnjih pregovora i određivanje narednih koraka ka međunarodnom sporazumu. Grupa vladinih eksperata završila je 4. septembra rad na zajedničkim elementima budućeg dokumenta, ali države još nisu dogovorile njegovu pravnu prirodu. Predstojeći skup zato neće automatski doneti zabranu, već bi mogao da otvori formalne pregovore o obavezujućim pravilima.
Kada operater prestane da upravlja napadom
Autonomija u naoružanju nije isto što i daljinsko upravljanje bespilotnom letelicom. Kod klasičnog drona operater posmatra sliku, bira metu i neposredno upravlja letelicom, dok savremeniji sistemi koriste algoritme za prepoznavanje objekata, praćenje ciljeva i završno navođenje čak i posle prekida veze. Potpuno autonomni sistemi odlaze dalje, jer mogu da izaberu i napadnu cilj unutar zadatih uslova bez nove odluke čoveka.
Koliko se tehnologija približila toj granici pokazao je američki test u kojem je jedan operater koordinisao napad tri drona na tri različita cilja. U demonstraciji programa Swarm Forge čovek je označio mete, nakon čega je softver preuzeo raspoređivanje letelica i izvršenje zadatka bez njihovog pojedinačnog ručnog upravljanja. Takav model pokazuje kako jedan operater može da nadgleda više napada istovremeno, dok se sve veći deo borbenog procesa prepušta automatizaciji.
Slična tehnologija već se razvija i koristi tokom rata u Ukrajini, gde dronovi sa mašinskim vidom prepoznaju vozila i samostalno završavaju napad. Ruske i ukrajinske snage nastoje da smanje zavisnost od radio-veze, čije ometanje predstavlja jedan od glavnih problema bespilotnog ratovanja. Autonomno praćenje mete omogućava dronu da nastavi dejstvo i kada operater izgubi mogućnost neposrednog upravljanja.
Kina, SAD i nova generacija autonomnog ratovanja
Velike vojne sile istovremeno razvijaju sisteme sposobne za koordinisano delovanje većeg broja letelica. Kineski istraživači predstavili su algoritam HG-STR namenjen autonomnom delovanju rojeva dronova, uključujući situacije u kojima su komunikacije ometane, a podaci sa senzora nepotpuni. Cilj takvih tehnologija jeste da letelice nastave zajednički zadatak bez stalnih komandi sa zemlje.
Autonomija postepeno izlazi i iz okvira malih bespilotnih letelica. U razvoju su bespilotni borbeni avioni sa veštačkom inteligencijom, kojima se poveravaju izviđanje, elektronsko ratovanje i napadi na određene ciljeve. Njihovo povezivanje sa pilotiranim lovcima moglo bi da promeni način komandovanja vazdušnim operacijama, naročito kada više letelica istovremeno obrađuje podatke o protivniku.
Primena veštačke inteligencije zabeležena je i u američkim operacijama protiv Irana, posebno u obradi velikih količina obaveštajnih podataka i podršci izboru ciljeva. Takvi sistemi mogu znatno da ubrzaju planiranje napada, ali se njihov rad razlikuje od potpuno autonomnog oružja koje samo donosi odluku o upotrebi sile. Upravo je to jedna od spornih oblasti koju postojeći međunarodni pregovori još ne obuhvataju u potpunosti.
SAD i Francuska različito određuju granice autonomije
Sjedinjene Države zastupaju pristup prema kojem sistemi naoružanja moraju omogućiti odgovarajući nivo ljudskog prosuđivanja prilikom upotrebe sile. Takva formulacija ostavlja prostor za različite stepene automatizacije, uključujući oružje koje nakon aktiviranja samostalno izvršava deo zadatka. Francuska se, prema stavu njenog Ministarstva spoljnih poslova, zalaže za zabranu potpuno autonomnih smrtonosnih sistema, uz mogućnost korišćenja oružja sa ograničenim autonomnim funkcijama.
Problem je što različite države ne podrazumevaju isti stepen ljudskog učešća kada govore o kontroli nad oružjem. Komandant može unapred da odredi područje dejstva i kategoriju ciljeva, a da nakon aktiviranja sistem samostalno otkriva i napada objekte koji odgovaraju zadatim parametrima. Pitanje je koliko je takva prethodna odluka dovoljna kada se okolnosti na bojištu promene ili algoritam pogrešno prepozna cilj.
Gutereš upozorava na prelazak moralne granice
Generalni sekretar UN Antonio Gutereš i predsednik Međunarodnog komiteta Crvenog krsta Mirjana Špoljarić obnovili su 25. avgusta zajednički zahtev za uspostavljanje međunarodno obavezujućih pravila. Upozorili su da se svet približava moralnoj granici iza koje bi mašine samostalno odlučivale o napadima na ljude. Njihov predlog predviđa zabranu sistema koji deluju bez odgovarajuće ljudske kontrole, uz posebna ograničenja za ostalo autonomno naoružanje.
Međunarodni komitet Crvenog krsta posebno traži zabranu sistema čije se dejstvo ne može dovoljno pouzdano predvideti, kao i oružja projektovanog da autonomno napada ljude. Za ostale kategorije predlaže ograničavanje područja, trajanja i uslova upotrebe, uz mogućnost ljudske intervencije. Takav pristup ne podrazumeva zabranu svake primene veštačke inteligencije u vojsci, već postavljanje granica njenoj ulozi u smrtonosnim odlukama.
Predstojeći pregovori odvijaće se u trenutku kada razvoj autonomnog naoružanja već predstavlja važan deo vojnih programa velikih sila. Za razliku od ranijih sporazuma koji su uređivali upotrebu postojećih vrsta oružja, države sada pokušavaju da regulišu tehnologiju čije se sposobnosti razvijaju brže od međunarodnih pravila. Ishod konferencije u Ženevi pokazaće jesu li spremne da započnu pregovore o obavezujućim ograničenjima pre nego što potpuno autonomni napadi postanu uobičajena vojna praksa.
