Kompanija Tviter sprovodi istragu nakon što su korisnici otkrili da algoritam te društvene mreže za odabir fotografija ponekad daje prednost belim licima nauštrb crnih.
Korisnici su primetili kada u istom postu stoje dve fotografije - jedna crnog lica, a druga belog - Tviter često prikazuje samo belo lice kada se aplikacija koristi na mobilnom telefonu.
Iz Tvitera su rekli da su tokom razvoja algoritma testirali i rasnu i rodnu pristrasnost.
„Jasno je da nam preostaje još toga što treba da proverimo", dodali su iz kompanije.
- Tviter izbacuje reči „gospodar", „rob" i „crna lista" iz programerskog govora
- Studentkinja iz Irske posle rasističkih uvreda: „Zahvalna sam na podršci zbog koje se osećam bezbedno"
- Nema ukidanja „Patrolnih šapa“ uprkos tvrdnjama iz Bele kuće
Tehnološki direktor Tvitera, Parag Agraval, objavio je: „Radili smo analizu na našem modelu kada smo ga isporučili - ali [njemu] je potrebno kontinuirano unapređivanje.
„Volim ovaj javni, otvoreni i rigorozni test - i nestrpljiv sam da učim iz ovoga".
Dlake na licu
Najnovija kontroverza počela je kada je Kolin Medlend, menadžer Univerziteta iz Vankuvera sa kolegom koristio aplikaciju za video konferencije Zum.
Softver je očigledno greškom identifikovao glavu kolege, koji je crnac, kao deo pozadine i - uklonio je.
Ali kada je Medlend objavio njihove fotografije na Tviteru, otkrio je da je njegovo lice - a ne lice njegovog kolege - odabrano na aplikaciji za mobilne telefone, čak i kada je promenio redosled fotografija.
Njegovo otkriće podstaklo je niz drugih eksperimenata korisnika, koji su, na primer, utvrdili da:
- Lice lidera republikanaca u američkom Senatu Miča Mekonela ima prednost u odnosu na crno lice bivšeg američkog predsednika Baraka Obame
- Prednost ima fotografija belog čoveka u odelu od one na kojoj je crnac
Direktor Tvitera koji je zadužen za dizajn, Dantli Dejvis, rekao je da bi uklanjanje dlaka i naočara sa lica Medlenda rešilo problem - „zbog kontrasta sa njegovom kožom".
Odgovarajući na kritike, on je napisao na Tviteru: „Znam da mislite da je zabavno poentirati protiv mene - ali ja sam iznerviran zbog ovoga kao i svi drugi. Međutim, u stanju sam da to popravim i hoću.
„100 odsto smo krivi. Niko ne sme da kaže drugačije."
„Mnogo je pitanja"
Zijan Vang, inženjer i suosnivač kompanije za neuronske mreže Medžik poni, koju je kupio Tviter, rekao je da testovi na algoritmu iz 2017. godine nisu pronašli „značajnu pristrasnost između etničke pripadnosti (ili polova)" - ali da bi Tviter trebalo ponovo da istraži ove podatke.
Testovi su koristili parove lica koja pripadaju različitim etničkim grupama,
„Mnogo je pitanja za koja će nam trebati vremena da odgovorimo na njih", rekao je.
"Objavićemo više detalja nakon što interni timovi budu imali priliku da to pogledaju."
Rasizam i problemi u SAD:
Krajem prošle godine, studija američke vlade snavela je da su algoritmi za prepoznavanje lica mnogo manje precizni u identifikovanju crnih i azijskih lica od belih.
U Velikoj Britaniji su policijski službenici prošle godine izrazili zabrinutost zbog algoritama koji „pojačavaju" predrasude i zatražili jasnije smernice za upotrebu tehnologije.
U junu ove godine, slični problemi naveli su IBM da objavi da više neće nuditi softver za prepoznavanje lica za „masovni nadzor ili rasno profilisanje".
Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Bonus video:
