Pozivi za stvaranje tijela UN za nadzor vještačke inteligencije

Savjet bezbjednosti Ujedinjenih nacija (UN) prvi put je održao sjednicu o prijetnji koju vještačka inteligencija (AI) predstavlja za međunarodni mir i stabilnost, a generalni sekretar UN Antonio Gutereš pozvao je na regulaciju AI i uspostavljanje tijela za nadzor nove tehnologije koja je izaziva koliko nade, toliko i strahova, prenosi Radio slobodna Evropa (RSE) pisanje svjetskih medija.

Zlonamjerno korišćenje sistema vještačke inteligencije moglo bi uzrokovati "užasnu" količinu smrti i razaranja, rekao je generalni sekretar UN, pozivajući na stvaranje novog tijela UN koje bi se pozabavilo prijetnjama koje predstavlja ova tehnologija, napisao je Gardijan.

Gutereš je rekao da štetna upotreba vještačke inteligencije u terorističke, kriminalne ili državne svrhe takođe može uzrokovati "duboku psihološku štetu", te je rekao da su sajber napadi omogućeni vještačkom inteligencijom već ciljani na mirovne i humanitarne operacije UN-a.

"Zlonamjerna upotreba AI sistema u terorističke, kriminalne ili državne svrhe mogla bi uzrokovati užasne smrti i razaranja, široko rasprostranjenu traumu i duboku psihičku štetu nezamislivih razmjera", rekao je Gutereš.

Govoreći na prvoj sjednici Savjeta bezbjednosti UN o vještačkoj inteligenciji, 18. jula, on je rekao da bi pojava generativne vještačke inteligencije – termina za AI alate kao što je ChatGPT koji proizvode uvjerljiv tekst, sliku i glas iz ljudskih podsticaja – mogla značiti odlučujući trenutak za dezinformacije i govor mržnje i dodati "novu dimenziju" manipulaciji ljudskog ponašanja.

Gutereš je pozvao na stvaranje novog tijela UN-a po uzoru na slične agencije, poput Međuvladinog panela za klimatske promjene, kako bi se uhvatio u koštac s rizicima.

"Ključni cilj ovog tijela bio bi da podrži zemlje da zauvijek maksimiziraju koristi od AI, da ublaže postojeće i potencijalne rizike, te da uspostave i upravljaju međunarodno dogovorenim mehanizmima za praćenje i upravljanje", rekao je on.

Gutereš je na sjednici SB UN rekao da bi nadzorno tijelo UN-a trebalo da djeluje kao upravljačka agencija koja reguliše, prati i sprovodi regulative vezane za vještačku inteligenciju, piše Njujork tajms.

Predložena agencija bi se sastojala od stručnjaka iz ove oblasti koji bi svoju stručnost podijelili s vladama i administrativnim agencijama kojima možda nedostaje tehničko znanje za rješavanje prijetnji od vještačke inteligencije.

Većina diplomata je podržala pojam globalnog mehanizma upravljanja i skup međunarodnih pravila, ističe Njujork tajms, dodajući da izgledi za pravno obavezujuću rezoluciju o upravljanju AI ipak ostaju daleki.

"Nijedna zemlja neće ostati netaknuta vještačkom inteligencijom, tako da moramo uključiti i angažovati najširu koaliciju međunarodnih aktera iz svih sektora", rekao je britanski ministar spoljnih poslova Džejms Kleverli, koji je predsjedavao sastankom jer Britanija predsjedava SB UN ovog mjeseca.

Diplomate ali i vodeći stručnjaci iz oblasti AI 18. jula su izložili SB UN rizike i pretnje, zajedno sa naučnim i društvenim koristima, nove tehnologije u nastajanju. Istaknuto je da mnogo toga o ovoj tehnologiji ostaje nepoznato, koja je, napisao je list, izazvala barem onoliko strahova koliko i nade.

Na sjednici je spomenuta i vojna upotreba autonomnog oružja na bojnom polju ili za atentate, kao što je AI Robot kojeg je Izrael poslao u Iran da ubije vrhunskog nuklearnog naučnika, Mohsena Fahrizadeha.

Gutereš je rekao da Ujedinjene nacije moraju doći do pravno obavezujućeg sporazuma do 2026. godine o zabrani korišćenja AI u automatskom oružju.

Na prvom sastanku SB UN o vještačkoj inteligenciji Kina je poručila kako tehnologija ne bi trebalo da postane "odbjegli konj", dok su Sjedinjene Države upozorile da AI ne bi trebalo da se koristi za cenzuru ili represiju, naglasio je Rojters.

Kineski ambasador u UN Žang Jun opisao je AI kao "mač s dvije oštrice" i rekao da Peking podržava centralnu koordinacijsku ulogu UN u uspostavljanju vodećih principa za vještačku inteligenciju.

"Da li je (AI) dobra ili loša, dobra ili zla, zavisi od toga kako je čovječanstvo koristi, reguliše i kako se balansira naučni razvoj i bezbjednost", rekao je Žang, dodajući da je potrebna fokusiranost i na ljude i na AI kako bi se dobro regulisao njen razvoj i "spriječilo da ova tehnologija postane odbjegli konj".

Zamjenik američkog ambasadora u UN, Džefri Delarentis takođe je rekao da postoji potreba da zemlje rade zajedno na AI i drugim novim tehnologijama kako bi se pozabavile rizicima po ljudska prava koji prijete da naruše mir i sigurnost.

"Nijedna država članica ne bi trebalo da koristi vještačku inteligenciju za cenzuru, ograničavanje, represiju ili obespravljivanje ljudi", rekao je.

Rusija je postavila pitanje da li SB UN koji je zadužen za održavanje međunarodnog mira i sigurnosti, treba da raspravlja o AI.

"Ono što je neophodno je profesionalna, naučna, stručno zasnovana diskusija koja može potrajati nekoliko godina i ta diskusija je već u toku na specijalizovanim platformama", rekao je zamjenik ruskog ambasadora u UN Dmitrij Poljanski.

Britanski ministar spoljnih poslova koji je predsjedavao sastankom o vještačkoj inteligenciji poručio je da će AI "fundamentalno promijeniti svaki aspekt ljudskog života" te da je hitno potrebno "oblikovati globalno upravljanje transformativnim tehnologijama jer vještačka inteligencija ne poznaje granice".

O prijetnjama AI globalnom miru, SB UN su izvijestili Džek Klark, suosnivač visokoprofilnog AI startapa Antropik i profesor Zeng Ji, kodirektor Kinesko-britanskog istraživačkog centra za etiku i upravljanje vještačkom inteligencijom.

Klark je poručio kako se ne može vjerovati da će nekolicina velikih tehnoloških kompanija koje vode trku za komercijalizaciju AI garantovati sigurnost sistema koje još ne razumijemo pa zbog toga svijet mora da se udruži kako bi spriječio zloupotrebu tehnologije, ističe Asošiejtid pres (The Associated Press).

Izvršni direktor Antropika koji je napustio OpenAI, kreatora najpoznatijeg ChatGPT chat bota, kaže da je pratio razvoj AI u protekloj deceniji do 2023. godine, gdje novi sistemi vještačke inteligencije mogu pobijediti vojne pilote u simulacijama vazdušnih borbi, stabilizovati plazmu u reaktorima nuklearne fuzije, dizajnirati komponente za poluvodiče sljedeće generacije i pregledati robu na proizvodnim linijama.

Upozorio je na "potencijalne prijetnje međunarodnom miru, sigurnosti i globalnoj stabilnosti" zbog dva bitna kvaliteta AI sistema – njihovog potencijala za zloupotrebu i njihove nepredvidivosti "kao i inherentne krhkosti koje razvija tako uski skup aktera".

U video brifingu SB UN, Klark je takođe izrazio nadu da će globalna akcija uspjeti rekavši da je ohrabren što mnoge zemlje naglašavaju važnost testiranja i procjene sigurnosti u svojim predlozima o AI, uključujući Evropsku uniju, Kinu i SAD.

Trenutno, međutim, ne postoje standardi ili čak najbolje prakse o tome "kako testirati ove granične sisteme na stvari kao što su diskriminacija, zloupotreba ili sigurnost", što otežava vladama da kreiraju politike i omogućava privatnom sektoru da uživa prednost u informacijama, rekao je Klark.

Profesor Zeng Ji, direktor Laboratorije za kognitivnu inteligenciju inspirisanu mozgom, Kineske akademije nauka, rekao je SB UN da "Ujedinjene nacije moraju igrati centralnu ulogu u uspostavljanju okvira za AI za razvoj i upravljanje kako bi se osigurali globalni mir i sigurnost". Zeng je predložio da SB UN razmotri osnivanje radne grupe za razmatranje kratkoročnih i dugoročnih izazova koje AI predstavlja za međunarodni mir i sigurnost.

Generalni sekretar UN Antonio Gutereš je naglasio da su UN "idealno mjesto" za usvajanje globalnih standarda kako bi se maksimizirale prednosti vještačke inteligencije i ublažili njeni rizici.

Kao prvi korak ka zbližavanju nacija, Gutereš je pozvao da se imenuje Savjetodavni odbor na visokom nivou za AI koji će do kraja godine izvještavati o opcijama za globalno upravljanje ovom tehnologijom.

( BETA )