Identifikacija poboljšana umjetnom inteligencijom

U maju ove godine Khalaf al-Romaithi je odletio iz Turske u Jordan kako bi potražio novu školu za svog sina. No, ovaj emiratski disident tamo je zatočen zbog očiju. Ili, točnije, zbog biometrijskih podataka koje su odavale njegove oči.

58-godišnjak je putovao s turskom putovnicom, ali skeniranje njegovih šarenica u zračnoj luci u Ammanu pokazalo je da je on Khalaf al-Romaithi koji je prethodno osuđen na 15 godina zatvora u Ujedinjenim Arapskim Emiratima. Presuda je donesena u sklopu masovnog suđenja grupi od 94 kritičara političkon vrha UAE 2013. godine, koje su organizacije za ljudska prava osudile kao politički motivirano.

"Zatvoren je u Ammanu nakon skeniranja šarenice", potvrdio je Hamad al-Shamsi, direktor Emirates Detainees Advocacy Center, neprofitne organizacije koja pomaže ljudima u zatvorima UAE. No, on dodaje,kako niko sa sigurnošću ne može reći kako su Jordanci došli do al-Romaithijevih biometrijskih podataka. Moguće je da su im informacije dali u Ujedinjenim arapskim emiratima, sugerirao je on.

Ni jordanski, niti emiratski predstavnici u Njemačkoj nisu odgovorili na upit DW-a da to prokomentiraju.

Al-Romaithi je, prema navodima odvjetnika, ilegalno poslan iz Jordana u UAE, gdje se nalazi u zatvoru.

Zabrinjavajući znakovi na Bliskom istoku

Slučaj al-Romaithi zabrinjava, kada je riječ o tome kako se lični biometrijski podaci koriste na Bliskom istoku, objasnila je Yana Gorokhovskaia iz američke organizacije Freedom House.

"Vrlo smo zabrinuti zbog sve većeg korištenja biometrijske tehnologije u cilju bliže suradnje između represivnih vlada, što smo vidjeli na Bliskom istoku i također u središnjoj Aziji", rekla je ona za DW.

Biometrijski podaci uključuju sve jedinstvene markere koji identificiraju osobu. Neki aspekti nisu novi: naposljetku, to uključuje otiske prstiju, nešto s čime policija radi od kasnog 19. stoljeća. Također uključuje genetski materijal, ili DNK, koji se koristi u kriminalističkim istragama od kasnih 1980-ih. 

Međutim danas su biometrijski podaci puno raznolikiji i uključuju sve, od otisaka vaših dlanova, preko oblika vašeg lica i skeniranja šarenica, do izgleda vaših ušnih resica, pa čak i načina na koji dišete i hodate. U budućnosti bi biometrijski podaci mogli uključivati i način na koji tipkate, način na koji potpisujete svoje ime te prepoznavanje glasa i pokreta.

Naravno, korištenje biometrijskih podataka za identifikaciju ljudi nije nužno negativno.

Mnogi ljudi već su upoznati s onim što je poznato kao biometrijska provjera. Time se usklađuju jedinstveni podaci osobe, kao što su otisci prstiju ili šarenice, s podacima koji su već uneseni. To se zove provjera jedan na jedan. Uobičajen primjer je otključavanje mobilnog telefona skeniranjem otiska prsta.

Druga upotreba ove vrste podataka naziva se daljinska biometrijska identifikacija ili RBI. To uključuje softversku uporedbu jedinstvenih obilježja osobe s velikom bazom podataka obilježja mnogih drugih, što se naziva identifikacija jedan prema više. To je nešto što se može vidjeti u špijunskom filmu, gdje lutajuća digitalna kamera uočava krivca u gomili, nakon što je uskladila oči, ušne resice, čak i njihov hod, i pretpostavila da je to osoba koju traže.

Opasniji zahvaljujući vještaškoj inteligenciji

Upravo RBI zabrinjava borce za ljudska prava, posebice jer se koristi zajedno s naprednim algoritmima i vještačkom inteligencijom.

To ima veze s načinom na koji se tehnologija razvila u posljednjih nekoliko godina, kaže Ella Jakubowska, viša savjetnica za politiku u mreži European Digital Rights (EDRi) sa sjedištem u Bruxellesu, koja je vođa radne grupe koja radi na prepoznavanju lica i biometriji.

"Postoji nekoliko stvari koje se čine kao prava promjena", primjećuje ona. "Jedan bi bio broj različitih načina na koje možete identificirati i pratiti osobu. Drugi bi bio da se potencijal softvera za prepoznavanje obrazaca eksponencijalno povećao u posljednjih pet ili nešto više godina. Sada možete identificirati nekoga ne samo na temelju slike, već možete znati i uzorak njegovih nogu i stopala dok hoda."

"Ovakav razvoj je smanjio barijere; brže je i jeftinije nego ikad imati masovnu pohranu podataka i njihovu obradu. Sve to doprinosi potencijalu za prepoznavanje velikog broja ljudi vrlo brzo, u velikom broju", upozorila je ona. "To proširuje potencijal proizvoljnog masovnog nadzora", dodaje.

Ovo je tamna strana moderne biometrijske identifikacije i predstavlja nešto što bi moglo postati veći problem u autoritarnim režimima poput onih na Bliskom istoku. 

"Široko rasprostranjena upotreba biometrijskih identifikacijskih sistema, u kombinaciji sa slabim zakonima o privatnosti i općenito slabom vladavinom prava i zaštitom ljudskih prava, otvara vrata autoritarnim zloupotrebama koje će alati umjetne inteligencije vjerojatno pogoršati", navode autori studije objavljene 2022. u kojoj je proučavana upotreba vještačke inteligencije na Bliskom istoku, a koju je objavio Europski institut za Mediteran.

Digitalna transformacija u toku

Bogatije zemlje u regiji, poput zaljevskih država, već su oduševljene biometrijskom identifikacijom. "Ove su tehnologije središnje jer regija - posebice zemlje Zaljeva - prolazi kroz digitalnu transformaciju", rekao je za DW Mohammed Soliman, direktor programa za strateške tehnologije i kibernetičku sigurnost na Institutu za Bliski istok sa sjedištem u Washingtonu.

Trenutačno gotovo sve zemlje Bliskog istoka koriste biometrijske podatke na graničnim prelazima u svrhe useljavanja.

Nedavne uspješne priče iz Dubaija govore o tome kako se policija na aerodromu hvali kako je uhvatila prevaranta, koji je koristio lažne kreditne kartice dok je bio maskiran i to tako što je provjeravala oblik njegovih ušiju. U drugom slučaju uhapsili su muškarca koji je nosio dugu žensku haljinu i veo na licu na osnovu načina na koji je hodao i njegovih tjelesnih mjera.

Neke zemlje, uključujući Katar, Saudijsku Arabiju i UAE, prikupile su biometrijske podatke kao dio registracije državljanstva koji lokalnom stanovništvu omogućuje pristup državnim uslugama. Drugi, poput Iraka i Jemena, su ih prikupljali za registraciju birača.

No sve te informacije mogle bi se koristiti i na drugačiji, zlonamjerniji način, tvrde stručnjaci.

"Svaka vlada mogla bi sakupiti bazu biometrijskih podataka svoje cjelokupne populacije i dopustiti da se to koristi sa CCTV kamerama po cijelom i oko cijelog grada", kaže Jakubowska iz EDRi-ja i dodaje: "Onda imate živu sliku najintimnijih dijelova života ljudi. Možete vidjeti ko se sastao s novinarom, ko je otišao u queer bar, ko se sprijateljio s političkim protivnikom ili disidentom - a to može biti vrlo opasno."

Amba Kak, direktorica instituta AI Now sa sjedištem u New Yorku, se slaže da tehnologija može omogućiti vladama moć nad njihovim građanima. 

"Ovi sistemi omogućuju masovni nadzor takve vrste koji ozbiljno mijenja ravnotežu moći između onih koji nadziru i onih koji su promatrani, s ozbiljnim uznemirujućim učincima na političke i privatne živote građana", kaže ona. 

Može li zloupotreba biti zaustavljena?

Dakle, kako se to može spriječiti na Bliskom istoku, gdje autoritarni režimi možda još uvijek ne zloupotrebljavaju biometrijske podatke na očigledan način - ali gdje očito imaju interes za društvenom kontrolom?

"Postoji velika ideja da je obrada biometrijskih podataka ljudi korisna i ima prednosti", tvrdi Jakubowska. "Ali zapravo su ovi podaci toliko osjetljivi, Oni nisu kao lozinka koja se može poništiti. Oni vas identificiraju tokom cijelog života, tako da ćemo uvijek početi s pitanjem trebamo li to doista učiniti?"

Europska unija trenutno vodi raspravu o onome što će vjerojatno biti prvi zakon o vještačkoj inteligenciji na svijetu. Pravila o tome kako bi se biometrijski podaci trebali koristiti i trebaju li se uopće koristiti, vjerojatno će biti jedna od najspornijih tema.

"Ono oko čega se stvarno brinem je da ako EU kaže da postoje legitimni slučajevi korištenja te tehnologije, mi ćemo to legitimizirati za druge zemlje", kaže Jakubowska, koja bi voljela da EU zauzme oštriji stav. Ona kaže da definitivno postoji snaga u cijeloj jurisdikciji koja kaže, 'mislimo da je ovo neprihvatljivo'."

AI Now Institute želi potpunu zabranu daljinske biometrijske identifikacije, dodaje Kak.

"Ništa drugo nema smisla", kaže Kak za DW, dodajući da zakoni o privatnosti i druga pravila neće pomoći. "I ne samo na Bliskom istoku, već i ovdje u SAD-u i u Europi. Problemi s ovim sistemima nisu magično riješeni u zapadnim liberalnim demokracijama, iako je distopija onoga što može poći po zlu često odmah opipljiva u autoritarnim režimima", zaključuje Kak.

Uredila: Emily Schultheis

Pratite nas i na Facebooku, preko Twittera, na Youtubeu, kao i na Instagramu