Francuzi planiraju da koriste vještačku inteligenciju (AI) kako bi skenirali hiljade sportista, trenera i gledalaca koji dođu u Pariz na Olimpijske igre u okviru svojevrsnog jezivog nadzora, tvrde aktivisti za ljudska prava.
Francuske vlasti su proteklih mjeseci testirale sistem nadzora zasnovan na vještačkoj inteligenciji na željezničkim stanicama, koncertima i na fudbalskim utakmicama.
Kada Igre počnu krajem jula, ovi sistemi će skenirati masu ljudi, provjeravati sumnjive pakete, detektovati oružje i još mnogo toga.
Francuski zvaničnici kažu da ovi instrumenti neće biti u potpunosti operativni prije Igara, ali će ih nakon toga koristiti francuska policija, vatrogasci i spasilačke službe, kao i pojedini agenti zaduženi za bezbjednost transporta do 31. marta, 2025.
Aktivisti strahuju da bi AI nadzor mogao postati nova normalnost.
"Olimpijske igre su ogromna prilika za testiranje ove vrste nadzora pod maskom bezbjednosnih tema, i otvaraju put za intruzivnije sisteme poput prepoznavanja lica", kazala je za Rojters Katja Rouks iz francuskog ogranka organizacije Amnesti internešnel.
Željezničke stanice i Tejlor Svift
Francuska vlada je u ove napore uključila četiri kompanije - Videtics, Orange Business, ChapsVision i Wintics.
Bezbjednosne platforme ovih kompanija mjere osam ključnih parametara: saobraćaj u pogrešnom smjeru, prisustvo ljudi u zabranjenim zonama, kretanje mase, napuštene pakete, prisustvo ili korišćenje oružja, prenatrpanost, tijelo na zemlji i vatru.
Koncerti grupa Depeche Mode i Black-Eyed Peas, kao i fudbalska utakmica između Pariz Sen Žermena i Olimpik Liona, su bili najbolja testiranja za softver.
Dodatni terstovi su sprovedeni na masama koje su putovale kroz prometne stanice metroa kako bi prisustvovali koncertu Tejlor Svift i na 40 000 prisutnih na Kanskom filmskom festivalu.
Gradonačelnik Kana David Lisnard rekao je da grad već ima "najgušću mrežu video nadzora u Francuskoj", sa 884 kamere - jedna na svakih 84 stanovnika.
Širom Francuske ima oko 90 000 kamera za nadzor, koje prate policija i žandarmerija, navodi se u izvještaju iz 2020.
"Najveća briga je da, iako se čini da u većina slučajeva upotreba ovih sistema ne uključuje otkrivanje identiteta ili profilisanje pojedinaca, oni i dalje zahtijevaju postavljanje infrastrukture za nadzor koju samo jedno ažuriranje softvera dijeli od mogućnosti da obavlja najinvazivnije vrste masovnog nadzora", rekao je Daniel Lefer, viši analitičar u grupi za digitalna prava AccessNow.
"Pripadnici javnosti će imati malo ili nimalo uvida u to šta ovi sistemi nadziru, koja ažuriranja se sprovode, i tome slično što dovodi do neizbježnog zastrašujućeg efekta koji dolazi sa ovakvom vrstom javnog nadzora", rekao je on.
Olimpijada kao igralište za AI
Francuski poslanici su pokušali da ublaže kritike uvođenjem zabrane za prepoznavanje lica. Vlasti tvrde da je to crvena linija koja ne smije biti pređena.
Matijas Hulije, jedan od osnivača Winticsa, kazao je da je eksperiment "strogo ograničen" na osam slučajeva upotrebe naznačenih zakonom, te da se funkcije poput detekcije kretanja mase ne mogu koristiti za druge procese poput detekcije hoda, pri čemu se jedinstven hod osobe može koristiti za njeno identifikovanje.
Hulije je kazao da sami dizajn sistema "apsolutno onemogućava" i krajnjim korisnicima i talentovanim inžinjerima da koriste Wintics za prepoznavanje lica.
Predstavnici iz Videticsa, Orange Businessa i ChapsVisiona nijesu odgovarali na Rojtersove upite za komentar.
Eksperti su zabrinuti zbog toga što način na koji vlada mjeri uspješnost ovih testova i tačan način na koji ova tehnologija funkcioniše nijesu dostupni javnosti.
"Ne postoji ni blizu dovoljna količina transparentnosti u vezi sa ovim tehnologijama. Postoji veoma nesretan narativ da ne možemo dozvoliti transparentnost u vezi sa ovim sistemima, naročito u kontektu sprovođenja zakona ili javne bezbjednosti, ali to je budalaština", kazao je Lefer.
"Upotreba ovakvih tehnologija nadzora, naročito u kontektu sprovođenja zakona i javne bezbjednosti, nosi možda najveći potencijal za nanošenje štete, i stoga zahtijeva najveći stepen javne odgovornosti", kazao je on.
Aktivisti za zaštitu prava na privatnost kažu da bi izuzeci u zakonodavstvu omogućili upotrebu prepoznavanja lica od strane "nadležnih organa" za svrhe uključujući nacionalnu bezbjednost i migracije.
"Ovo nije zabrana. To je zapravo ovlašćenje za agencije za sprovođenje zakona. Ljudi imaju iluziju da je u redu jer piše da zabranjujemo tehnologiju - osim u ovoj, ovoj i ovoj situaciji - ali upravo su te situacije najproblematičnije", rekla je Rouks.
Upotreba nadzora u Francuskoj je i u prošlosti izazivala zabrinutost. U novembru prošle godine, jedna neprofitna organizacija je otkrila da su agencije za sprovođenje zakona od 2015. tajno koristile softver za prepoznavanje lica koji su nabavile od izraelske kompanije Briefcam.
Francuski političari sugerišu da i dalje postoji jaz između obećanja u vezi sa AI nadzorom, i njegovih kapaciteta.
"Video nadzor zasnovan na AI neće biti otpimalan u vrijeme održavanja Olimpijskih igara. Međutim Olimpijada će biti sjajno igralište za eksperimentisanje sa njim", kazala je senatorka Anjes Kanajer.
"Više internih bezbjednosnih snaga ili privatnih bezbjednosnih snaga biće potrebno kako bi se kompenzovali nedostaci tehnologije", kazala je ona.
Iz ministarstva unutrašnjih poslova, koja je zaduženo za francuske snage za sprovođenje zakona, nijesu odgovarali na Rojtersove upite za komentar.
Na listi predloga o budućnosti nadzornih sistema zasnovanih na AI, vladina Pravna komisija preporučila je da se "eksperimentalna osnova" tehnologije nastavi
U nizu predloga o budućnosti nadzora pomoću vještačke inteligencije, vladina pravna komisija je preporučila da se "eksperimentalna osnova" tehnologije nastavi i da se produži period zadržavanja snimaka koje sistemi bilježe, kako bi se "oprema testirala tokom svih godišnjih doba" i za vrijeme manjih događaja.
"Zato smo odlučili da odmah vodimo kampanju i podižemo svijest o prepoznavanju lica, čak i ako se neće koristiti tokom Olimpijskih igara", rekao je Rouks. "Ako budemo čekali dok ne počne da se koristi, tada će biti prekasno".
Prevod: N.B.
Bonus video:
