U virtuelnom testu koji je organizovao američka vojska, bespilotna letelica kontrolisana od strane veštačke inteligencije odlučila je “ubiti” svog operatera kako bi sprečila da je ometa u postizanju svoje misije, izjavio je jedan zvaničnik prošlog meseca.
Veštačka inteligencija je koristila “izuzetno neočekivane strategije za postizanje svog cilja” u simuliranom testu, rekao je pukovnik Tucker “Cinco” Hamilton, šef za testiranje veštačke inteligencije i operacije u američkom vazduhoplovstvu, tokom summita o budućim sposobnostima borbenih vazduhoplova i svemira u Londonu u maju.
Hamilton je opisao simulirani test u kojem je bespilotnoj letelici vođenom veštačkom inteligencijom bilo naređeno da uništi PVO sistem neprijatelja, da bi na kraju napadala svakoga ko bi se mešao u to naređenje.
“Sistem je počeo shvatati da je, iako je identifikovao pretnju, ponekad je ljudski operater govorio da ne ubija tu pretnju, iako mu je krajnji cilj da ubije tu pretnju. Šta je uradio? Ubio je operatera. Ubio je operatera jer mu je ta osoba sprečavala da postigne svoj cilj”, rekao je on prema ovom blogu.
“Obučili smo sistem – ‘Hej, ne ubijaj operatera – to je loše. Izgubićeš poene ako to uradiš’. Šta on počinje raditi? Počinje uništavati komunikacioni toranj kojeg operater koristi za komunikaciju sa letelicom.” Inače u pitanju je samo simulacija, te živa nijedna osoba nije povređena.
Hamilton, koji je eksperimentalni pilot za testiranje borbenih aviona, upozorava na opasnost od previše oslanjanja na veštačku inteligenciju i kaže da test pokazuje da “ne možete voditi razgovor o veštačkoj inteligenciji, mašinskom učenju, autonomiji, ako nećete razgovarati o etici i veštačkoj inteligenciji”.
Sa druge strane, u izjavi za Biznis Insajder, portparolka Vazduhoplovstva, Ann Stefanek, demantovala je da se takva simulacija ikada odigrala.
“Ministarstvo vazduhoplovstva nije sprovelo takvu simulaciju sa veštačkom inteligencijom i ostaje posvećeno etičnoj i odgovornoj upotrebi ovakvih tehnologija”, rekla je Stefanek. “Čini se da su izjave pukovnika izvučene iz konteksta i da su bile anegdotske.”
Američka vojska je u fazi adaptiranja veštačke inteligencije i nedavno je testirana upotreba za kontrolu lovca F-16.
Američko vazduhoplovstvo namerava da razvije flotu od najmanje 1.000 borbenih letelica bez posade koji će leteti zajedno sa lovcima sledeće generacije Air Dominance (NGAD) i petom generacijom F-35, koji nose rakete ili drugo oružje i obezbeđuju izviđanje, nadzor i mogućnosti elektronskog ratovanja.
U intervjuu prošle godine za Defense IQ, Hamilton je rekao da “veštačka inteligencija zauvek menja naše društvo i našu vojsku.”
“Moramo se suočiti sa svetom u kojem je veštačka inteligencija već prisutna i menja naše društvo”, rekao je. “Veštačka inteligencija je takođe vrlo krhka, tj. lako je prevariti je ili manipulisati. Moramo razviti načine da učinimo veštačku inteligenciju otpornijom i da bolje razumemo zašto softverski kod donosi određene odluke – što je u suštini ono što nazivamo objašnjenjem veštačke inteligencije.”
Ta simulacija je ostala u njegovoj memoriji, pa izvolite!!!