Kakva nas budućnost čeka: Gdje god neko krene, vlada zna ko je, sa kim je i šta radi

Kada se Mekenzi Fegan ukrcala na let iz Nujorka do Meksiko Sitija, niko joj nije tražio pasoš ili kupon za ukrcavanje.

Osoblje aviokompanije je američkoj spisateljici samo reklo da se nasmije prema kameri.

Za nekoliko sekundi, njena fotografija je nađena u bazi podataka američke Agencije za carinu i zaštitu granice (CBP) i 34-godišnja Amerikanka je mogla da se ukrca.

„Da li je prepoznavanje lica zamijenilo kupone za ukrcavanje, bez mog znanja? Jesam li pristala na to?” napisala je u obraćanju aviokompaniji Džetblu (JetBlue), u objavi na Tviteru koja se brzo proširila internetom. To je izazvalo raspostranjenu nelagodu zbog sveprisutne tehnologije, piše Rojters.

Kompjuteri su posljednjih godina postali mnogo bolji u prepoznavanju lica, otvarajući mnoštvo takvih aplikacija, od ulaženja u trag kriminalcima do brojanja đaka koji bježe sa časova.

Međutim, dok se kamere pojavljuju na neočekivanim mjestima širom svijeta, aktivisti ukazuju na problem gubitka privatnosti i kažu da je društvo možda na pragu distopije u kojoj Veliki brat vidi sve.

„Ulazimo u potencijalnu budućnost u kojoj, gdje god neko krene, vlada zna ko je, sa kim je i šta radi,” kaže Adam Švarc, advokat koji radi za američku Fondaciju za elektronske granice (EFF), koja se bavi odbranom ljudskih prava i sloboda u digitalnom obliku.

A vlada koja sve zna i vidi zvuči zastrašujuće, kaže Fegan, koja sebe opisuje kao politički aktivnu, queer, „obojenu” ženu imigrantskog porijekla.

„Istorijski govoreći, situacija nije najsjajnija za ljude poput mene kada represivna vlada doće na vlast”, kazala je za Rojters.

Bording proces prepoznavanja lica koji koristi Džetblu kompanija je dio šireg pilot programa vlade koji je počeo 2017. i obuhvata 15 američkih aerodroma i nekoliko aviokompanija, uključujući Delta i Britiš ervejs, prema podacima CBP-a.

Ta agencija je saopštila da je cilj programa, za koji se očekuje da do 2023. pokrije 97 odsto letova iz SAD, da pojača bezbjednost i ubrza carinske kontrole.

Grupe za ljudska prava postavljaju pitanje da li cilj opravdava sredstva.

„Među vladama postiji tendencija, čak i kada imaju legitimni cilj...da nove tehnologije posmatraju kao neku vrstu magije”, kaže Sara St. Vinsent, koja se bavi iszraživanjem u vezi s nacionalnom bezbjednošću i nadzorom u Hjuman rajts voču.

„Međutim, moramo biti sigurni da svi ti mehanizmi koriste metode koje najmanje narušavaju privatnost.”

Ona je dodala da ova tehnologija i strah od njenih potencijalnih posljedica - može u teoriji obeshrabriti potpuno zakonito ponašanje bilo da se radi o prisustvovanju protestu, učešću u ljubavnoj aferi ili sastanku sa nekim ko je osuđen za krivično djelo.

Ova tehnologija ima probleme i sa preciznošću, posebno kada je u pitanju identifikovanje pripadnika etničkih manjina, dodala je. Studija Instituta za tehnologiju u Masačusetsu iz 2018. godine utvrdila je da su tri glavna programa za analizu lica mnogo bolje prepoznala muškarce svijetle puti nego žene tamnije kože.

CBP je saopštio da njegov sistem na aerodromu ima stopu poklapanja od 98 odsto.

Prema podacima do decembra, on je pomogao u identifikovanju 7.000 osoba koje su boravile u zemlji duže nego što je dozvoljeno i šest koje su pokušale da uđu sa lažnim dokumentima, navedeno je. Slični sistemi se testiraju na drugim aerodromima, uključujući Shiphol u Amsterdamu i singapurski Čangi.

Aerodromska kontrola je prirodno mjesto za prepoznavanje lica, jer su putnici pripremljeni za provjeru identiteta, kaže Elke Oberg, portparolka njemačke kompanije za prepoznavanje lica Kognitek (Cognitec).

Ona je, međutim, kazala da da se ljudima prvo mora reći kako to funkcioniše, zašto pomaže, gdje idu podaci i da li mogu da odbiju tu proceduru.

Džetblu je saopštio da se od putnika ne zahtijeva da se ukrcaju na biometrijski način i da su obaviješteni preko objava na gejtu. Ta kompanija nema pristup fotografijama klijenata, koje se, kako je saopštio CBP, brišu u roku od 14 dana.

Prepoznavanje lica ima širu upotrebu od putovanja avionom i testira se da čita emocije, seksualnost i lične crte koje nemaju veze sa fizičkim identitetom.

Rojters navodi da policija u Londonu testira tu tehnologiju da bi vidjela može li tačno identifikovati tražene kriminace.

Kamere su postavljene na devet lokacija kako bi se provjerilo da li se prolaznik nalazi u bazi podataka prekršilaca zakona.

Više od 90 odsto onih koji su zaustavljeni nakon podudaranja nije napravila nikakav prekršaj, prema podacima koje je objavila grupa za zaštitu privatnosti Big Brother Watch.

Mnogi pametni telefoni omogućavaju korisnicima da pristupe uređaju pogledom u kameru, što je korak dalje od prepoznavanja otiska palca.

A pjevačica Tejlor Svift je koristila kamere za prepoznavanje lica da bi pojačala svoju bezbjednost tokom turneje 2018, prema pisanju časopisa „Roling stoun”. Kiosci su emitovali snimke pjevačice i istovremeno fotografisali gledaoce da bi provjerili da li se nalaze u bazi podataka poznatih uhoditelja.

Kompanije namještaju algoritme za prepoznavanje ne samo identiteta nego i emocija, sa dalekosežnim implikacijama, kaže Ejmi Stepanovič, advokatica specijalizovana sa sajber bezbjednost u grupi Access Now.

„Otkriveno je sa su neka emotivna stanja bolja kada se želi nešto prodati ljudima,” kazala je.

Istraživači na Univerzitetu Stenford su kazali da su napravili softver koji bi mogao da kaže da li je neko gej ili heteroseksualan.

Taj program je analizirao fotografije na sajtovima za upoznavanje kako bi donio odluku - u studiji 2017. za koju su LGBT grupe kazale da je opasna.

Neki u toj industriji kažu da je regulativa od vitalnog značaja, navodi Rojters.

Švarc iz EFF-a kaže da bi vlastima trebalo potpuno zabraniti da koriste tu tehnologiju za sveobuhvatni nadzor.

Takođe bi trebalo jasno ograničiti vrstu i količinu informacija koje privatne kompanije mogu da prikupe, a klijentima bi trebalo dati mogućnost da ne učestvuju u tome.

Tehnološki giganti Majkrosoft i Amazon su podržali zakon koji bi osigurao da se ova tehnologija koristi transparentno i na način koji štiti prava u Sjedinjenim Državama, gdje ovo pitanje trenutno nije regulisano.

„Zamislite da je vlada tokom prošlog mjeseca pratila gdje god ste išli, bez vaše dozvole ili znanja”, napisao je u blogu prošle godine šef Majkrosofta Bred Smit.

„To je odavno tema naučne fantastike i popularnih filmova...a sada je pri tome da postane moguće.”

Melisa Dovl, izvršna direktorka Kairosa, američke kompanije za prepoznavanje lica, kaže da je važno ne zaboraviti potencijalne benefite.

Ona je za Rojters izjavila da bi se ta procedura mogla koristiti za provjeru starosti na mjestima sastanaka kako bi se djeca zaštitila od predatora ili za identifikaciju pijanih vozača, dodala je.

„Prepoznavanje lica može zapravo pomoći da se ljudi zaštite. A na kraju, kompanije će biti odgovorne za etičku primjenu te tehnologije.”

Greške pri identifikovanju žena i pripadnika manjina

Kompanija Majkrosoft je nedavno odbacila zahtjev jedne policijske agencije u Kaliforniji da tehnologiju za prepoznavanje lica instalira u vozila policajaca i u kamere za tijelo zbog zabrinutosti u vezi sa ljudskim pravima, rekao je predsjednik kompanije Bred Smit.

Majkrosoft je zaključio da bi to dovelo do toga da se nedužne žene i pripadnici manjina nesrazmjerno zadržavaju radi ispitivanja zato što se vještačka inteligencija (AI) uglavnom testira na fotografijama bijelaca i muškaraca.

Brojni istraživački projekti su pokazali da AI ima više slučajeva pogrešnog identifikovanja kod žena i manjina.

U govoru na konferenciji na Univerzitetu Stenford, Smit je rekao da je Majkrosoft takođe odbio da instalira tehnologiju za prepoznavanje lica na kamere koje pokrivaju grad jedne neimenovane države za koju je organizacija Fridom haus ocijenila da nije slobodna. Smit je saopštio da bi to ugušilo slobodu okupljanja u tom gradu.

Sa druge strane, Majkrosoft je pristao da obezbijedi tehnologiju jednom američkom zatvoru nakon što je kompanija zaključila da će to poboljšati bezbjednost u toj instituciji.

Smit je objasnio te odluke kao posvećenost ljudskim pravima što je sve važnije s obzirom na to da brzi tehnološki napredak omogućava vladama da sprovode obimni nadzor, raspoređuju oružje i preduzimaju druge korake koje će možda biti nemoguće preinačiti.

Pozivajući na bolju regulativu prepoznavanja lica i druge upotrebe vještačke inteligencije, Smit je upozorio da bi bez toga, kompanije koje nagomilavaju većinu podatka mogle pobijediti u borbi za razvoj najbolje AI u „trci prema dnu”.

Komesarka UN za ljudska prava Mišel Bašele je na istoj konferenciji pozvala tehnološke kompanije da se uzdrže od stvaranja novih mehanizama, a da prethodno ne procijene njihov uticaj.

„Molim vas da se držite principa ljudskih prava kada razvijate tehnologiju”, rekla je Bašele, bivša predsjednica Čilea.

( Angelina Šofranac )