Veštačka inteligencija ulazi u rat: Može li mašina naučiti saosećanje pre nego što počne sama da bira mete?

Veštačka inteligencija više ne ulazi u vojsku samo kroz logistiku, analizu podataka ili izviđanje. Sve bliža je i samom trenutku odluke o tome kada, gde i protiv koga treba upotrebiti silu. Upravo tu počinje problem koji tehnologija sama ne može lako da reši. Foreign Policy zato otvara mnogo stariju raspravu, teoriju pravednog rata, i postavlja je pred novu vrstu oružja.

Vekovima se pokušavalo da se odredi kada je rat dozvoljen, koliko sile sme da se upotrebi i ko snosi odgovornost za posledice. Danas se između političke odluke i trenutka udara sve češće pojavljuju dronovi, algoritmi, senzori i automatizovani sistemi za izbor ciljeva. Čovek još nije potpuno nestao iz tog lanca, ali se njegova uloga menja.

Što je sistem autonomniji, to je lakše da se odluka o ubijanju udalji od osobe koja snosi političku, moralnu ili pravnu odgovornost. Foreign Policy upravo u tome vidi jedan od najvećih izazova nove tehnološke ere. Simboličan primer dogodio se ovog proleća tokom Strasne nedelje, kada je jedan sveštenik posetio ukrajinsku jedinicu dronova kod Zaporožja. Molio se sa vojnicima, a zatim svetom vodom blagoslovio borbeni dron Gara pre nego što je poleteo na zadatak.

Čovek još postoji u lancu, ali sve manje odlučuje

Dron iz tog primera i dalje je zahtevao ljudskog operatera.

Problem nastaje sa sistemima koje vodeće vojske razvijaju tako da mogu samostalno da otkrivaju, klasifikuju i prate mete, a u pojedinim scenarijima i da dejstvuju bez neposredne odluke čoveka u poslednjem trenutku.

Foreign Policy upozorava da takva tehnologija povećava broj posrednika između političkog ili vojnog vrha i samog čina ubijanja.

Što je više tehnoloških slojeva između naredbe i udara, lakše je distancirati se od posledica.

To, prema autoru, može da smanji političku cenu ulaska u sukob i da rat učini lakšim za pokretanje, čak i kada pojedinačni udari postanu precizniji.

Teorija pravednog rata dobija novu vrstu problema

Klasična teorija pravednog rata polazi od toga da odluka o sukobu mora biti odgovor na agresiju, zasnovana na opravdanoj nameri i doneta od strane nadležnog organa.

Rat bi trebalo da bude poslednje sredstvo i da postoji razumna mogućnost da se završi pravednim mirom.

Tokom samog ratovanja sila mora da bude proporcionalna značaju vojnog cilja, dok civili ne smeju biti neposredna meta.

Strane u sukobu trebalo bi da preduzmu dodatne mere kako bi smanjile rizik po civile, čak i kada to za njihove sopstvene snage znači veći rizik.

Sve to je relativno jasno dok odluku donosi čovek.

Mnogo je složenije kada algoritam treba da proceni da li određena osoba predstavlja pretnju, da li je napad proporcionalan ili da li situacija zahteva uzdržavanje.

Mašina može biti precizna, ali ne poznaje milosrđe

Foreign Policy posebno ističe problem osobina koje se ne mogu lako svesti na kod.

Mašina može biti preciznija u prepoznavanju određenog obrasca, brža u analizi i sposobna da istovremeno obradi mnogo više podataka od čoveka.

To ne znači da razume saosećanje, milosrđe ili moralnu težinu odluke.

Takve osobine nisu važne samo zato što rat čine manje brutalnim. One ponekad utiču i na odluku da se napad ne izvrši, da se protivniku omogući predaja ili da se prihvati dodatni rizik kako bi se zaštitili civili.

Upravo zato autor upozorava da veća tehnička preciznost ne mora automatski da znači i humaniji rat.

Ko će biti odgovoran kada algoritam pogreši?

Još veći problem predstavlja odgovornost.

Kada vojnik donese pogrešnu odluku, postoji komandni lanac, pravila angažovanja i mogućnost da se utvrdi ko je naredio ili izvršio određenu radnju.

Kod autonomnog sistema lanac postaje mnogo složeniji.

Komandant može tvrditi da je sledio preporuku sistema. Operater da nije imao dovoljno vremena da je proveri. Programer da nije donosio odluku o upotrebi sile. Proizvođač da je sistem korišćen van predviđenih uslova.

Foreign Policy zato smatra da buduća teorija pravednog rata mora jasnije da poveže odluke sa njihovim posledicama i spreči da tehnologija postane način za razvodnjavanje odgovornosti.

Etika mora da uđe u sistem pre nego što oružje poleti

Jedno od mogućih rešenja jeste ugradnja ograničenja pre nego što sistem uopšte bude raspoređen.

To znači da se unapred određuje koje mete sme da razmatra, u kojim uslovima sme da deluje, kada mora da traži potvrdu čoveka i šta se događa kada nivo pouzdanosti padne ispod određenog praga.

Ideja je da se zaštita civila i druga pravila ne uvode tek posle incidenta, kroz istragu i prebacivanje krivice, već da budu deo samog dizajna oružja.

Foreign Policy zaključuje da teorija pravednog rata zato ne mora da bude odbačena, već prilagođena svetu u kojem će sve veći deo sukoba prolaziti kroz tehnološke posrednike.

Najveći izazov neće biti samo da se napravi mašina koja ume preciznije da pogodi metu, već sistem koji zna kada ne treba da puca.

Podsetimo, Papa Lav XIV objavio je nedavno encikliku „Veličanstveno čovečanstvo“, dokument koji pokušava da postavi socijalnu doktrinu Katoličke crkve u doba veštačke inteligencije. Njena centralna poruka je jasna: veštačka inteligencija treba da služi čovečanstvu, a ne da postane sredstvo njegovog porobljavanja.