Roboti ubice nisu zabranjeni
1. septembar 2018.
U Ženevi je noćas bez ikakvih opipljivih rezultata završena celonedeljna konferencija UN o borbi za kontrolu prozvodnje i upotrebe potpuno autonomnog oružja (LAWS) - takozvanih robota ubica. Na konferenciji je učestvovalo 88 država, kao i stručnjaci za razoružanje, naučnici i nevladine organizacije. Iako je većina učesnika glasala za pregovore o novom međunarodnom zakonodavstvu u ovoj oblasti, do sporazuma oko toga nije došlo, pošto takav dokument mora biti usvojen jednoglasno.
Nekoliko država je izjavilo da bi trebalo nastaviti pregovore o potpuno autonomnom oružju, ali se snažno suprotstavljaju bilo kakvom radu usmerenom na novi sporazum, političku deklaraciju ili bilo koje druge nove mere za rešavanje opasnosti koje predstavlja ovo oružje. Te države - SAD, Izrael, Velika Britanija, Rusija, Južna Koreja i Australija - više puta su izrazile želju da istražuju potencijalne „prednosti" ili „koristi" razvoja i upotrebe smrtonosnih autonomnih sistema oružja. Ove zemlje ulažu dosta novca u vojnu upotrebu veštačke inteligencije.
Ruski predsednik Vladimir Putin je jednom prilikom rekao da će svetom vladati onaj ko bude vodeći u veštačkoj inteligenciji. On se boji da bi vodeću ulogu na tom polju mogle imati SAD ili Kina. SAD smatraju da bi se upotrebom veštačke inteligencije smanjile civilne žrtve i „kolateralna šteta”. SAD navode da bi kompjuter, za razliku od vojnika, imao bolji pregled nad velikim brojem informacija na ratištu i na taj način pravio manje grešaka.
Međunarodna zajednica u svom sedištu u Ženevi raspravlja o tome još od 2004. godine. Razgovori se vode u okviru Konvencije UN o kontroli nekonvencionanog oružja. Iz neformalnih razgovora su 2017. godine nastali zvanični razgovori.
Manjina koja koči većinu
Međunarodna zajednica se deli na tri tabora: protivnike, zagovornike i zemlje koje su negde u sredini, kao što su Nemačka i Francuska.
26 zemlja je do sada zatražilo zabranu upotrebe autonomnog oružja i za takvu odluku je dobilo podršku civilnog društva. Peticiju za zabranu upotrebe autonomnog oružja, koju je pokrenuo američki institut „Future of Life”, potpisalo je više od 230 organizacija i 3.000 osoba. Među njima su vodeći naučnici i preduzetnici u oblasti veštačke inteligencije, kao što su šef Tesle Elon Mask ili „Google Deep Mind”. Oni su se obavezali da neće podržati razvoj smrtonosnih autonomnih oružanih sistema i zahtevaju „stroge međunarodne norme i zakone” koji bi to zabranili. O ubijanju ljudi nikada ne bi trebalo da odlučuju mašine.
Nemačka: „Da, ali ne odmah"
Nemačka i Francuska su zemlje koje traže neki srednji put. Nemačka vlada, kao prvi korak, predlaže političku deklaraciju koja će kasnije biti usvojena vojnim kodeksom ponašanja, a poslednji korak bi bio sporazum o zabrani. Aktivisti kampanje „Stop Killer Robots” zahtevaju da Nemačka, kao velika i važna evropska zemlja, bude predvodnica i zalažu se za hitnu zabranu autonomnog oružja.
Diplomate i aktivisti se ipak slažu u jednoj stvari, a to je da vremena nema mnogo. Već sada neke armije vrše eksperimente sa jatima dronova, dok drugi rade na razvoju odbrane od takvih jata. Među njima je i nemačka vojska Bundesver.
„Stop Killer Robots”
Tomas Kihenmajster je predsednik nemačke organizacije „Facing Finance” koja je članica međunarodne kampanje „Stop Killer Robots”. Kihenmajstera često možete videti na sajmovima oružja kako razgovara sa proizvođačima. Oružje, koje do jednog određenog stepena samostalno deluje, danas se može pronaći u standardnoj ponudi. Jedan od primera su rakete koje same traže ciljeve i na kraju same odlučuju koji će cilj uništiti. Takvim raketama u osnovi upravljaju ljudi, ali za konkretni napad nema vojnika da narede otvaranje vatre, a često se više ne mogu ni zaustaviti.
Takvo oružje ne može da razlikuje vojno od civilnog vozila. Upravo to nalaže međunarodno pravo. Razlika između boraca i civila je najvažnije pravilo međunarodnog prava, koje važi i u ratu. To pravo obavezuje zaraćene strane na najveću moguću zaštitu civila i civilnih objekata.
U tu kategoriju Međunarodni komitet Crvenog krsta svrstava autonomne sisteme oružja koji mogu samostalno da traže, odaberu i napadaju svoje ciljeve. Samostalno znači bez ljudske intervencije. Upravo je to problem: šta ako takva raketa pored toga što uništi neprijateljski cilj, ubije i civile? „U takvo oružje ne možemo ugraditi čip koji će poštovati međunarodno pravo”, kaže Tomas Kihenmajster.
Mogućnost neformalnog puta
Stepen samostalnosti u oružanim sistemima se povećava zahvaljujući veoma brzom napretku u oblasti veštačke inteligencije i robotike. U međuvremenu su mašine sposobne da uče i to zahvaljujući upotrebi neuronskih mreža sličnim ljudskom mozgu. Industrija naoružanja to koristi: oružje je sve brže i efikasnije, a istovremeno se smanjuje opasnost za vojnike. To je upravo ono što vojska želi.
Pošto razgovori u Ženevi nisu doneli napredak, raste pritisak na civilno društvo. Sporazum o zabrani bi mogao nastati van UN. Dakle, sličan sporazum kao što je slučaj sa borbom protiv nagaznih mina. Međunarodna kampanja protiv upotrebe nagaznih mina je 1997. godine dobila Nobelovu nagradu za mir.