Ratovi su decenijama unazad zavisili od čovjeka koji donosi odluku o napad, a danas smo sve bliže da se ta granica promijeni.
Razvoj autonomnih sistema sa vještačkom inteligencijom njemačke kompanije HELSING unaprijedila je vještačku inteligenciju od čovjekovog pomoćnika pri realizaciji napada do aktivnog učesnika na bojištu.
Iako dron ”HX-2” ne donosi potpuno autonomne odluke prilikom napada na bojištu, sa fokusom na razvoj vještačke inteligencije kod autonomni oruzanih sistema era rata na leđima algoritma sve je bliža. Dok su vojne industrije nekada resurse usmjerivale uglavnom u opremu poput tenkova, brodova i borbenih aviona što je koštalo kako mnogo novca tako i vremena, sve veći interes privlače autonomni sistem sa vještačkom inteligencijom koji su jeftiniji, brži za izradu, jednostavniji za rukovanje i još važnije mogu funkcionisati bez podrške čovjeka.
Kako oružje zasnovano na vještačkoj inteligencijom prave razliku na bojištu?
Rat je u finansijskom smislu veoma iscrpljujući za jednu državu. Upravo u tom pogledu autonomno oružje sa integriranom vještačkom inteligencijom poput dronova HX-2 mijenja pravila igra. Uz izuzetno jeftinije troškove izrade, dron HX-2 zahvaljujući naprednom sistemu za analizu izviđa situaciju na bojištu i mapira mete neprijatelja poput artiljerskih sistema i oklopnih vozila koji su skriveni. Jednom kada vještačka inteligencija koja upravlja dronom locira potencijalnu metu šalje signal i čeka dozvolu za napad, gdje se pri napadu urušava na neprijatelje i postaje dron kamikaza.
Pored toga, softver potpomognut vještačkom inteligencijom omogućava dronu da nastavi sa radom čak ukoliko komunikacijski sistem i GPS signal budu žrtve protivničkog sistema za elektronsko ometanje, što znači da dron neće kolabirati čak ako izgubi svaku vezu sa čovjekom nego će nastaviti sa zadatkom.
Uz jedan od najnaprednijih sistema svoje vrste, kompanija HELSING proizvodi i prvi borbeni avion bez pilota, a zahvaljući vještačkoj inteligenciji koja postaje pilot provođenje opasnih misija postaje područje za imaginaciju prilikom misije. Kako je sama potpredsjednica kompanije HELSING Stephanie Lingemann kazala ”situacija se mijenja kada više ne morate razmišljati o ljudskom životu u letjelici”.
CA-1 EUROPA bespilotna letjelica svoj debi će ugledati u 2029. godini, dok su Ukrajinski vojnici već testirali dronove kamikaze HX-2 na bojištu protiv neprijatelja, a u navodima suosnivača kompanije HELSING SE Gundbert Scherf-a u prikupljenim analizama sa terena uspješna upotreba dronova je zabilježena u 70% slučajeva. Ostaje otvoreno pitanje šta se dogodilo u preostalih 30% situacija, ali ta informacija nije navedena u članku koji je objavljen za medij New York Times.
Etička granica puno je bliža nego što mislimo
Primjena autonomnog oružje ne istiskuje samo tehničko, već i etičko pitanje. Sa promjenom prirode odgovornosti teško je prigrliti osjećaj da će potvrda čovjeka za izvođenje napada ovisiti isključivo o analizi vještačke inteligencije, te da će rat postati sukob automatiziranih pristrasnosti koje je nametnuo program, a ne čovjek.
Kada na bojište bude raspoređeno na stotine ovakvih dronova, uz munjevitu brzinu vještačke inteligencije u izradi analiza, zbog kvantiteta dronova, a i sporijeg procesiranja informacija, čovjek će se naći u situaciji u kojoj ishod misije ovisiti o njegovoj spretnosti i brzini, ili povjerenju u preciznost sistema.
Sa podacima da dosadašnja verzija softvera koju koriste dronovi HX-2 sadrži 70% uspješnosti, ostaje upitno da li jedan sistem može ponuditi realizaciju napada koji će garantirati uspjeh od gotovo čistih 100%. Ukoliko sistem ne postigne preciznost koja će podići brojku koji neće rezultirati pogreškom u sistemu, onda je gotovo izvjesno da primjena ovakvog oružja na bojištu nosi na kragni katastrofu koja iz etičke perspektive neće moći biti opravdana.
Ako sistem prilikom analize područja identifikuje mete koje su pogrešne, a čovjek uslijed vremenske nemogućnost svoju odluku osloni na pouzdanost sistema i dozvoli napad ostaje pitanje ko će snositi odgovornost za nastale posljedice, Kada oružje dobije dozvolu da nastupi, suprotno od čovjeka ono nema empatiju, a ni dilemu prilikom realizacije cilja.
Koliko se ulaže u razvoj autonomnog oružja sa sustavom vještačke inteligencije?
Glasnogovornik Pentagona Sean Parnell u intervju za U.S. Naval Istintute kazao je da ”dronovi i autonomni sistemi predstavljaju najznačajniju inovaciju na bojnom bolju ove generacije”, što opravdava interes za izdvanje iz budžeta čak 55 milijardi dolara za razvoj oružja zasnovanog na vještačkoj inteligenciji.
Evropska Unija, također, nije ravnodušna prema oružju ovakvog tipa. Prema navodima medijske kuće EuroNews, Evropska Unija spremila paket od 115 miliona eura za podršku u razvijanju kompanija koje proizvode oružje zasnovano na vještačkoj inteligenciji.
Njemački medij HartPunkt prenio je informaciju da je Njemački parlament prije nekoliko dana usvojio odluku kojom je odobreno izdvajanje od 220 miliona eura za vojni ugovor, a koji se odnosi na finansiranje razvoja oružja baziranog na vještačkoj inteligenciji kompanije HELSING.
Ovi podaci ukazuju da oružje zasnovano na vještačkoj inteligenciji nije samo faza koja će brzo proći, već da se interes za razvoj i osiguravanje oružja ovakvo tipa brzo širi, te da ono postaje strana prema kojoj će se definisati nova era ratovanja, jer će pouzdan i precizan softver vještačke inteligencije koji je integriran sa oružjem nositi veću važnost od broja raspoloživih oklopnih vozila na bojištu.
Sa brzim razvojem novih tehnologija koje svoju primjenu mogu naći u ratnoj industriji, gotovo da je nemoguće previdjeti kako će ratovanje izgleda u narednoj deceniji ili dvije. No, jedno može biti sigurno – a to je da smo na korak bliže eri u kojoj se manje pita čovjek, a više tehnologija. I iako u podsvijesti svih ljudi postoji imaginarna slika o futurističkom ratu gdje vještačka inteligencija preuzima kontrola nad većinom važnijih funkcija, ta slika u glavi skoro da više i ne mora biti futuristička, već može biti slika sadašnjice.
Kako rat često zbog svoje brutalnosti odbija da prepozna svijest o važnosti etičke granice ostajemo bojazni da bi u slučaju kolateralne štete zbog greške u sustavu mogli postati svijet gdje se potencijalne greške i stradanje nedužnih ljudi svrstava iza strateških ciljeva sukoba. Mašina i softver neće osjećati krivicu, a društvo će utočište utjeha tražiti u izgovoru da su odluke u ratu previše brze i kompleksne da bi ih čovjek sam donosio, a potom snosio odgovornost za nešto što nadilazi granice ljudskog uma.
Nije poznato kakav će stav zauzeti države tokom narednih godina o oružja ovakvog tipa, te da li će sistemi dostignuti preciznost u toj mjeri da će biti efikasniji i pouzdaniji u boljoj identifikaciji ciljeva, manjem broju grešaka, i bržem reagovanju na prijetnje u odnosu na čovjeka, što je utopija za sve kompanije koje razvijaju ovakvu vrstu oružja.
Kako je evidentno da se interes za razvoj ovakvog tipa oružja ne razvija iz znatiželje i pripreme za dugogodišnji mir, izvijesno je da će kompanije i vlade početi razvijati sisteme koji će u defanzivnom smislu parirati ovakvom oružju, čime bi svjedočili pravom spektaklu naučne fantastike u borbi za komad onoga što je namijenjeno čovjeku.