Lažne gole fotografije hiljada žena objavljene na internetu
Neke od djevojaka „su djelovale maloljetno", navodi se u izvještaju kompanije Sensiti koja se bavi borbom protiv zloupotrebe vizuelnih sadržaja stvorenim vještačkom inteligencijom
Lažne gole slike više od 100.000 žena napravljene su od fotografija sa društvenih mreža i podeljene na internetu, navodi se u novom izveštaju.
Odeća je digitalno uklonjena sa fotografija žena korišćenjem tehnologije veštačke inteligencije, a zatim su slike deljene na aplikaciji za razmenu poruka Telegram.
Neke od devojaka „su delovale maloletno", navodi se u izveštaju kompanije Sensiti koja se bavi borbom protiv zloupotrebe vizuelnih sadržaja stvorenim veštačkom inteligencijom.
Međutim, oni koji vode ovaj servis na Telegramu rekli su da je to jednostavno „zabava".
- Pravi (i lažni) seksualni život Bele Torn
- Život u raljama algoritma
- I najbrži superkompjuter na svetu učestvuje u borbi protiv korona virusa
BBC je testirao softver i dobio loše rezultate.
Sensiti tvrdi da je tehnologija koja se ovde koristi takozvani „dip-fejk bot". (deepfake - duboko lažni)
Dip-fejkovi su kompjuterski generisane, često realistične slike i video snimci, zasnovani na stvarnom predlošku. Jedna od njegovih upotreba bila je stvaranje lažnih pornografskih video klipova poznatih ličnosti.
Ali izvršni direktor Sensitija Đorđo Patrini rekao je da je prelazak na korišćenje fotografija privatnih lica relativno nov.
„Imati nalog na društvenim mrežama sa javnim fotografijama dovoljno je da bilo ko postane meta", upozorio je on.
Bot na Telegramu
Na privatnom kanalu Telegrama živi bot koji radi na principu veštačke inteligencije. Korisnici mogu da pošalju fotografiju žene, a on će digitalno ukloniti njenu odeću za svega par minuta, besplatno.
BBC je testirao nekoliko slika, uz saglasnost osoba na njima, ali ni jedna fotografija nije bila u potpunosti realistična - među našim rezultatima je bila i fotografija žene sa pupkom na dijafragmi.
Slična aplikacija je ukinuta prošle godine, ali veruje se da postoje druge „krekovane" verzije softvera u opticaju.
Administrator koji pruža ovu uslugu, poznatu samo pod nazivom „P", rekao je: „Nije me toliko briga. Ovo je zabava bez nasilja.
„Ovim niko nikoga neće ucenjivati, jer su slike nerealistične."
Takođe je rekao da tim gleda koje se fotografije dele, a „kada vidimo maloletnike blokiramo korisnika zauvek".
Ali odluka o tome da li će fotografiju deliti sa drugima zavisi od toga ko je uopšte koristio bota da bi je stvorio, rekao je on.
Braneći svoj relativni nivo štete, dodao je: „U svetu postoje ratovi, bolesti, mnoge loše stvari."
Takođe je tvrdio da će uskoro ukloniti sve slike.
Telegram nije odgovorio na zahtev za komentar.
„Pedofilski sadržaj"
Sensiti je izvestio da je između jula 2019. i 2020. oko 104.852 žena bilo na meti, a njihove lažne gole slike su deljene onlajn.
Njihova istraga je otkrila da su osobe na nekim od slika izgledale maloletno, „što sugeriše da su neki korisnici primarno koristili bota za generisanje i deljenje pedofilskog sadržaja".
Bot je imao značajno oglašavanje na ruskoj društvenoj mreži VK, a istraživanje na platformi pokazalo je da je većina korisnika bila iz Rusije i zemalja bivšeg SSSR-a.
Telegram je u Rusiji bio zvanično zabranjen do početka ove godine.
„Mnoge od ovih veb sajtova ili aplikacija se ne kriju niti funkcionišu 'ispod radara', jer nisu strogo zabranjene", rekao je Đorđo Patrini iz Sensitija.
„Dok se to ne dogodi, bojim se da će biti samo gore."
- Pogledajte kako je je snimak glumice Bele Torn zloupotrebljen za lažni porno film
Autori izveštaja kažu da su sva svoja saznanja podelili sa Telegramom, kompanijom VK i relevantnim agencijama za sprovođenje zakona, ali nisu dobili odgovor.
Nina Šik, autorka knjige Dip-fejkovi i Infokalipsa, rekla je da se tvorci dip-fejkova nalaze širom sveta i da je zakonska zaštita samo „igra mačke i miša" sa tom tehnologijom.
„Samo je pitanje vremena kada će taj sadržaj postati sofisticiraniji. Čini se da se broj dip-fejk lažnih porno video snimaka udvostručuje svakih šest meseci", rekla je.
„Naši pravni sistemi nisu pogodni da ispune svoju svrhu po ovom pitanju. Društvo se menja brže nego što možemo zamisliti zbog ovog eksponencijalnog tehnološkog napretka, a mi kao društvo nismo odlučili kako da to regulišemo.
„To je poražavajuće za žrtve lažne pornografije. Može im potpuno uništiti život jer se osećaju povređeno i poniženo."
Prošle godine američka država Virdžinija postala je jedno od prvih koji su zabranili dip-fejkove.
Aktuelni britanski zakon o lažnim golim slikama nedavno je u univerzitetskom izveštaju kritikovan zbog toga što je „nedosledan, zastareo i zbunjujući".
Uprkos napretku u pitanjima poput osvetničke pornografije i podmetanja, "u zakonu i dalje postoje mnoge otvorene praznine", kaže Luci Hadlei iz dobrotvorne organizacije Vomen's Aid.
Iako ove statistike pokazuju koliko dip-fejk slike mogu biti široko rasprostranjene, to trenutno nije poseban prekršaj.
Vlada je naložila Pravnoj komisiji da preispita zakon o tom pitanju u Engleskoj i Velsu. Njegova saznanja se očekuju 2021. godine.
Pogledajte i ovaj video o dip-fejk tehnologiji
Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
( BBC Serbian Svi članovi )