Ožalošćeni roditelji izrazili su gađenje prema jezivom trendu na TikToku u kojem se veštačka inteligencija koristi za stvaranje snimaka u kojima se pojavljuju ubijena deca iz stvarnog života.
Na ovim snimcima, nastalim bez pristanka rodbine, vide se grubo animirane verzije te dece, od kojih su neka još bebe, kako govore o tome kako su ubijena.
Negde od aprila na TikTok su postavljani čitavi talasi ovih kompjuterski generisanih videa, iako je kompanija u martu najavila zabranu objavljivanja verzija mladih osoba nastalih uz pomoć veštačke inteligencije.
Međutim, istraga BBC-ja pronašla je dokaze koji ukazuju na to da je možda došlo do nesporazuma među zaposlenima u TikToku oko politike platforme.
Jedan moderator sadržaja na Tik Toku rekao je za BBC da ga četiri meseca nakon uvođenja zabrane kompanija još nije obavestila o promeni pravila.
- Nova opasnost veštačke inteligencije: Koriste je za pravljenje seksualnih fotografija dece
- Kako je veštačka inteligencija ugrozila život deteta
- Trideset pojmova ključnih za razumevanje veštačke inteligencije
Pojedini video snimci sa žrtvama nastalim veštačkom inteligencijom ostali su na platformi i nekoliko meseci, dok su neki drugi imali milione pregleda.
Ožalošćena rodbina u nekoliko zemalja oglasila se povodom snimaka nastalih korišćenjem veštačke inteligencije njihovih pokojnih najmilijih koji su se pojavili na internetu.
Baronica Biban Kidron, nezavisna članica Doma lordova u britanskom parlamentu, kaže da ovi snimci mogu biti posebno uznemirujući za ožalošćene porodice zato što predstavljaju simulacije njihovih pokojnih rođaka koji govore kao da pričaju vlastitu priču.
„Ako ste neko ko je bio povezan sa tim detetom, posebno roditelj ili član njegove porodice, onda je to napad, emocionalni napad", kaže ona.
„Gore od najgoreg aperkata"
Rodbina neke od pokojne dece oglasila se nedugo nakon što su ovi snimci prvi put počeli da se pojavljuju.
Jedna od prvih bila je Kanađanka Ameli Lemiju.
U julu 2020. godine je njene ćerke - Romi (6) i Nora (11) - ubio njen otuđeni muž, koji je potom izvršio samoubistvo.
U aprilu ove godine, Lemiju je bila šokirana kad je dobila TikTok snimak nastao korišćenjem veštačke inteligencije a u kom se pojavljuje verzija Nore koja govori o ubistvima.
„To je gore od najgoreg aperkata koji možete da zamislite", kaže Lemiju.
„Nisam imala snage da pogledam do kraja, a nije ni moj brat. Počeo je da viče da se odmah prekine."
Lemiju je bila posebno zabrinuta da bi njeni mladi nećaci i nećake mogli slučajno da nabasaju na video njihovih mrtvih rođaka dok skroluju TikTokom.
Iako je velik broj ljudi prijavio video TikToku, on je ipak ostao onlajn.
Na kraju, nakon što se Lemiju više puta pojavila u medijima govoreći o vlastitoj užasnutoj reakciji na video, anonimni nalog koji ga je objavio bio je obrisan.
Lemiju nije uspela da otkrije ko je načinio video, ali je zapanjena delima te osobe.
„To je neverovatno šokantno, da neko uradi nešto tako uznemirujuće, nešto od čega ćemo se oporavljati do kraja života", kaže ona.
„Oni samo žele preglede, lajkove, deljenja. I ljude koji ostavljaju komentare ispod. Lično, to ne mogu da oprostim."
- Tri stadijuma veštačke inteligencije: Da li može da dovede do našeg izumiranja?
- Kako da veštačka inteligencija postane bezbednija: Nije lako kao što mislite
- Kako je Netfliks znao da sam biseksualna pre mene
Nova tehnologija
Nastanak ovih videa omogućila je sve veća pristupačnost softvera veštačke inteligencije na internetu.
Sada je moguće lako napraviti i animirati osnovne ljudske figure i dati im scenario šta da izgovaraju kompjuterski generisanim glasom.
Neka od lica na snimcima sa žrtvama iz stvarnog života ne liče na pravu osobu.
Ali druga su zasnovana na pravim fotografijama.
Ljudi koji prave ove snimke obično se trude da ostanu anonimni.
Ali BBC je otkrio da je jedan od autora student iz Londona po imenu Ritul.
Na svom kanalu na Jutjubu on je promovisao ono što naziva „pripovednim" video snimcima kao brz način da se steknu pratioci na TikToku.
„Dobio sam hiljade i hiljade pratilaca postavljanjem pripovednih videa uz pomoć veštačke inteligencije", rekao je on na jednom snimku.
„Stekao sam 47.000 pratilica, a to je bilo za manje od tri nedelje."
Ritul je odbio naš zahtev za komentar, a njegov nalog na TikToku u međuvremenu je obrisan.
Snimci na TikToku moraju da privuku pažnju u nekoliko sekundi inače će korisnici nastaviti da skroluju.
I zato su se autori poput Ritula usredsredili na pravljenje snimaka o najekstremnijim ili najkontroverznijim slučajevima.
Priče o tragičnoj sudbini neke dece bile su predmet više snimaka na nekoliko jezika, uključujući portugalski, španski, francuski, nemački, italijanski i poljski.
U dvomesečnom periodu, BBC je otkrio 170 različitih TikTok videa nastalih uz pomoć veštačke inteligencije u kojima se pojavljuje verzija Džejmsa Baldžera, dvogodišnjeg britanskog dečaka kog je ubilo dvoje starije dece u Mersisajdu, u Engleskoj, 1993. godine.
Ovaj fenomen sa TikToka dospeo je i na naslovne strane britanskih novina u julu, kad je Džemjsova majka Deniz Fergus rekla listu da su snimci zasnovani na njenom sinu „više nego bolesni".
Reakcija TikToka
TikTik je preduzeo masovno skidanje ovih videa i izdao saopštenje u kom je rekao:
„Na našoj platformi nema mesta za uznemirujući sadržaj ove vrste. Mi nastavljamo da uklanjamo sadržaj ove vrste čim naiđemo na njega."
Među snimcima Džejmsa Baldžera koji su uklonjeni bila su i dva na vijetnamskom koja su zajedno stekla četiri miliona pregleda.
BBC je razgovarao sa moderatorom sadržaja na TikToku u Vijetnamu, koji je pristao da bude intervjuisan pod uslovom da ostane anoniman.
On je rekao da mu dve nedelje nakon što su snimci uklonjeni kompanija još uvek nije zvanično saopštila da je ovakva vrsta sadržaja zabranjena.
On je za BBC rekao da veruje kako su snimci dozvoljeni prema pravilima TikToka koji dopuštaju da žrtve eksploatacije i zlostavljanja ispričaju svoje priče.
Postoji li, dakle, nekakav nesporazum među osobljem TikToka oko toga kako tačno glasi politika kompanije?
TikTok nije konkretno odgovorio na tu tačku kad smo tražili komentar kompanije.
Ali je TikTok jasno stavio do znanja da taj moderator nije u pravu kad sugeriše da bi ovi snimci mogli biti dozvoljeni na platformi kao iskustva žrtava - zato što su to kompjuterski generisani snimci mrtve dece umesto pravih iskustava preživelih.
I dalje veoma lako možete da nađete ovu vrstu sadržaja na TikToku.
Ali TikTok kaže da ne krije činjenicu da neće moći da ih pronađe sve.
Dodatno izveštavanje Tuong Le iz BBC vijentamskog servisa
Pogledajte video: Šta je veštačka inteligencija
Pratite nas na Fejsbuku,Tviteru i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Bonus video:
