„Ne želim da neko pomisli da sam ikada u životu rekla ove užasne stvari. Koristiti ukrajinsku devojku kao lice koje promoviše Rusiju je suludo".
Olga Loik je videla da se njeno lice pojavljuje u raznim video snimcima na kineskim društvenim mrežama, a to je lako napraviti alatima generativne veštačke inteligencije koji su dostupni na internetu.
„Mogla sam da vidim moje lice i čujem moj glas.
„Bilo je prilično jezivo, jer sam videla sebe kako govorim stvari koje nikada nisam rekla", kaže za BBC 21-godišnjakinja, koji studira na Univerzitetu u Pensilvaniji, u Sjedinjenim Državama (SAD).
- Borba protiv dipfejkova „pretvorila se u trku u naoružanju“
- Kako prepoznati da je fotografija obrađena i da je lažna
- „Internet budućnosti će se spojiti sa ljudskim mozgom“: Mičio Kaku, vizionarski fizičar
Nalozi na kojima je prikazan njen lik imali su desetine različitih imena kao što su Sofija, Nataša, Ejpril, i Stejsi.
Ove „devojke" su govorile na mandarinskom - jeziku koji Olga nikada nije učila.
One su očigledno bile iz Rusije i pričale su o prijateljstvu Kine i Rusije ili reklamirale ruske proizvode.
„Videla sam da se u 90 odsto snimaka govori o Kini i Rusiji, prijateljstvu Kine i Rusije, da moramo da budemo jaki saveznici, kao i da se reklamira hrana".
Jedan od najvećih naloga bio je „Nataša je uvezla hranu" koji ima više od 300.000 pratilaca.
„Nataša" bi izgovarala rečenice poput „Rusija je najbolja zemlja. Tužno je što neke zemlje ne vole Rusiju, i Ruskinje žele da dođu u Kinu", pre nego što bi počela da reklamira proizvode kao na primer ruske slatkiše.
Ovo je razbesnelo Olgu, čija porodica i dalje živi u Ukrajini.
Međutim, šire gledano, njen slučaj je skrenuo pažnju na opasnosti tehnologije koja se razvija toliko brzo da je ozbiljan izazov kako je regulisati i zaštiti ljude.
BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.
Od Jutjuba do platforme Sjaohungšu
Likovi Olge, koje generiše veštačka inteligencija i koji govore mandarinskim kineskim jezikom, počeli su da se pojavljuju 2023. godine - ubrzo nakon što je pokrenula Jutjub kanal koji ne ažurira redovno.
Otprilike mesec dana kasnije, počela je da dobija poruke od ljudi koji su tvrdili da su je videli na kineskim društvenim mrežama kako govori mandarinski.
To je zaintrigiralo, pa je počela da pretražuje i pronašla je njen lik koji je generisala veštačka inteligencija na Sjaohungšuu (Xiaohongshu), platformi sličnoj Instagramu, i Bilibiliju (Bilibili), video sajtu sličnom Jutjubu.
„Bilo ih je mnogo [naloga]. Na nekima su bile ruske zastave", rekla je Olga, koja je do sada pronašla oko 35 naloga koji koriste njen lik.
Pošto je njen verenik postavio objavu o ovakvim nalozima, oglasila se kompanija HeyGen, za koju Olga tvrdi da je razvila alat veštačke inteligencije za stvaranje kopija stvarnih lica.
Otkrili su da je više od 4.900 snimaka napravljeno pomoću njenog lica i da su onemogućili dalje korišćenje njenog lika.
Predstavnik za medije kompanije izjavio je za BBC da je njihov sistem hakovan radi stvaranja, kako je naveo, „neovlašćenog sadržaja", i da su odmah ažurirali njihove bezbednosne i verifikacione protokole da bi sprečili dalju zloupotrebu njihove platforme.
Ali Angela Džang sa Univerziteta u Hongkongu, kaže da su slučajevi poput Olginog „veoma uobičajeni u Kini".
U zemlji „postoji ogromna podzemna industrija specijalizovana za falsifikovanje, prisvajanje ličnih podataka i proizvodnju dipfejkova (stvaranje lažnog vizuelnog ili audio sadržaja upotrebom veštačke inteligencije)", kaže ona.
To se dešava uprkos činjenici da je Kina među prvim zemalja koja pokušava da reguliše upotrebu veštačke inteligencije.
Čak je izmenila zakone da bi zaštitila prava ličnost od stvaranja lažnih digitalnih likova.
Prema podacima koje je objavilo odeljenje za javnu bezbednost 2023. godine, 515 ljudi je uhapšeno zbog „zamene lica upotrebom veštačke inteligencije", a ovim problemom se bave i sudovi u Kini.
Kako je onda toliko Olginih snimaka dospelo na internet?
Jedno od mogućih objašnjenja je zato što su promovisali prijateljstvo Kine i Rusije.
Peking i Moskva su se poslednjih godina prilično zbližili.
Kineski vođa Si Đinping i ruski predsednik Vladimir Putin izjavili su da prijateljstvo dve zemlje „nema granica".
Putin je boravio u dvodnevnoj poseti Kini 16. i 17. juna.
Kineski državni mediji prenose ruske stavove kojima se opravdava njena invaziju na Ukrajinu, a na društvenim mrežama se rasprave o ratu cenzurišu.
„Nejasno je da li su ovi nalozi bili koordinisani unutar zajedničkog cilja, ali promovisanje poruke koja je u skladu sa vladinom propagandom im zasigurno ide u korist", kaže Emi Hajn, istraživačica prava i tehnologije na Univerzitetu u Bolonji i Katoličkom univerzitetu u Levenu, u Belgiji.
„Čak i ako ovi nalozi nisu izričito povezani sa Komunističkom partijom Kine, manja je verovatnoća da će poruka koja je usklađena sa njenom politikom biti uklonjena".
Ali to znači da su obični ljudi poput Olge ugroženi i da mogu da upadnu u probleme po kineskim zakonima, upozoravaju stručnjaci.
Kila Blomkvist, istraživačica tehnologije i geopolitike na Univerzitetu u Oksfordu, upozorava da „postoji rizik da ljudi budu stavljeni u veštački generisane politički osetljive sadržaje" i da im se zbog toga „izreknu momentalne kazne bez odgovarajućeg postupka".
Dodaje da je u pogledu veštačke inteligencije i politike privatnosti na internetu, Peking usredsređen na izgradnju prava potrošača radi zaštite od raznih privatnih pljačkaša, ali naglašava da su „prava građana u odnosu na vlasti i dalje izuzetno slaba".
Hajn objašnjava da je „osnovni cilj kineskih propisa o veštačkoj inteligenciji da se održi ravnoteža između društvene stabilnosti i promovisanja inovacija i ekonomskog razvoja".
„Iako propisi na papiru izgledaju strogi, postoje dokazi o njihovoj selektivnoj primeni.
„To se posebno odnosi na pravila izdavanja dozvole za upotrebu generativne veštačke inteligencije, čija svrha može da bude stvaranje pogodnijeg okruženja za inovacije, uz prećutno razumevanje da postoji zakonski osnov za uvođenje reda kada je to potrebno", objašnjava ona.
'Nije poslednja žrtva'
Ali problemi koji proizilaze iz Olginog slučaja prevazilaze granice Kine.
On razotkriva poteškoće zakonodavaca da urede ovu industriju, koja se, čini se, razvija vrtoglavom brzinom, i da sa njom održe korak.
Ali to ne znači da se ne trude.
U martu je Evropski parlament usvojio Zakon o veštačkoj inteligenciji, prvi sveobuhvatni pravni okvir na svetu kojim se ograničavaju rizici od ove tehnologije.
A u oktobru 2023. godine, američki predsednik Džozef Bajden objavio je izvršnu naredbu kojom se oni koji razvijaju veštačku inteligenciju obavezuju da podatke dostavljaju vladi.
Kako propisi na nacionalnom i međunarodnom nivou zaostaju za brzinom razvoja veštačke inteligencije, potrebno nam je „jasnije razumevanje i veći konsenzus o najopasnijim pretnjama i načinima kako da ih ublažimo", kaže Blomkvist.
„Međutim, zbog neslaganja unutar zemalja i na međunarodnom nivou izostaju opipljive aktivnosti.
„SAD i Kina su ključni igrači, ali će postizanje konsenzusa i koordinacija neophodnih zajedničkih aktivnosti predstavljati izazov", dodaje ona.
U međuvremenu, na individualnom nivou, čini se da ljudi mogu malo šta da učine osim da ništa ne objavljuju na internetu.
„Jedino što možemo da uradimo je da im ne damo nikakav materijal za rad: da ne postavljamo naše fotografije, snimke ili audio zapise na javne društvene mreže", kaže Hajn.
„Međutim, loši momci će uvek imati motiva da oponašaju druge, pa čak i ako se vlade obračunaju sa njima, očekujem da takve aktivnosti nastave da rastu jer propisi ne mogu da isprate razvoj".
Olga je „100 odsto sigurna" da neće biti poslednja žrtva generativne veštačke inteligencije.
Ali je odlučna da ostane prisutna na internetu.
Njena iskustva je podelila na njenom Jutjub kanalu i kaže da joj neki kineski korisnici pomažu tako što u komentarima ispod snimaka u kojima je njen lik ističu da su lažni i da to nije ona.
Kaže i da su mnogi od tih snimaka uklonjeni.
„Želela sam da podelim moju priču, želela sam da budem sigurna da će ljudi razumeti da nije sve što vide na internetu stvarno", kaže ona.
„Volim da delim moje ideje sa svetom, i niko od ovih prevaranta ne može da me spreči u tome".
Pogledajte i ovaj video:
Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Bonus video:
