Džefri Hinton, jedan od takozvanih kumova vještačke inteligencije (AI), pozvao je vlade da se umiješaju i pobrinu da mašine ne preuzmu kontrolu nad društvom.
Hinton je dospio na naslovne strane u maju, kada je objavio da je napustio Gugl posle decenije rada da bi slobodnije govorio o opasnostima vještačke inteligencije, ubrzo nakon što je objavljivanje ChatGPT (ČetDŽiPiTi) zaokupilo maštu svijeta.
Veoma cijenjeni naučnik u oblasti vještačke inteligencije, sa sjedištem na Univerzitetu u Torontu, govorio je publici u prepunoj sali na konferenciji o tehnologiji "Koližn" ("Sudar") u tom kanadskom gradu.
Konferencija je okupila više od 30.000 osnivača startapa, investitora i tehnoloških radnika, od kojih većina žele da nauče kako da upravljaju talasom vještačke inteligencije i da ne slušaju lekcije o opasnostima koje on nosi.
"Prije nego što vještačka inteligencija bude pametnija od nas, mislim da ljude koji je razvijaju treba ohrabriti da ulože mnogo truda u razumijevanje kako bi mogla da pokuša da preuzme kontrolu", rekao je Hinton.
"Trenutno postoji 99 veoma pametnih ljudi koji pokušavaju da poboljšaju vještačku inteligenciju i jedna veoma pametna osoba koja pokušava da shvati kako da zaustavi to da ona preuzme (sve) i koja možda želi da bude uravnoteženija", rekao je on.
AI bi mogao da produbi nejednakost, dodao je Hinton, upozoravajući da rizike koje donosi vještačka inteligencija treba shvatiti ozbiljno uprkos njegovim kritičarima koji vjeruju da pretjeruje sa pričom o rizicima.
"Mislim da je važno da ljudi shvate da ovo nije naučna fantastika, da ovo nije samo izazivanje straha", insistirao je on. "To je pravi rizik o kome moramo da razmišljamo i moramo unaprijed da smislimo kako da se nosimo sa njim".
Hinton je takođe izrazio zabrinutost da će vještačka inteligencija produbiti nejednakost, sa ogromnim povećanjem produktivnosti zbog njenog korišćenja u korist bogatih, a ne radnika.
"Bogatstvo neće ići ljudima koji rade. Ući će u to tako da bogatiji budu oni bogati, a ne oni siromašniji, a to je veoma loše za društvo", dodao je on.
Takođe je ukazao na opasnost od lažnih vijesti koje kreiraju botovi u stilu ChatGPT-a i rekao da se nada da bi sadržaj generisan vještačkom inteligencijom mogao da bude oblježen na način sličan onome kako centralne banke označavaju vodenim žigom gotovinski novac.
"Veoma je važno da pokušamo, na primjer, da sve što je lažno označimo kao lažno. Da li to možemo tehnički da uradimo, ne znam", rekao je on.
Evropska unija razmatra takvu tehniku u svom zakonu o vještačkoj inteligenciji, zakonu koji će postaviti pravila za vještačku inteligenciju u Evropi, o čemu pregovaraju zakonodavci.
"Prenaseljenost na Marsu"
Hintonova lista opasnosti od vještačke inteligencije u suprotnosti je sa diskusijama na konferencijama koje su bile manje o bezbjednosti i prijetnjama, a više o iskorištavanju prilike stvorene pojavom ChatGPT-a.
Investitorka rizičnog kapitala Sara Guo rekla je da je priča o AI kao egzistencijalnoj prijetnji preuranjena i uporedila je sa "govorom o prenaseljenosti na Marsu", citirajući drugog gurua vještačke inteligencije, Endrua Nga.
Ona je takođe upozorila na "zarobljavanje putem propisa" koje bi dovelo do toga da vladina intervencija zaštiti aktuelne službenike prije nego što bude imala priliku da se koristi sektorima kao što su zdravstvo, obrazovanje ili nauka.
Mišljenja su se razlikovala o tome da li će trenutni generativni giganti vještačke inteligencije, koji uglavnom podržavaju Majkosoft OpenAI i Gugl, ostati bez premca ili će novi akteri proširiti polje sopstvenim modelima i inovacijama.
"Za pet godina i dalje zamišljam da ako želite da odete i pronađete najbolji, najtačniji, najnapredniji opšti model, vjerovatno ćete morati da idete u jednu od rijetkih kompanija koje imaju kapital da to urade", rekla je Li Mari Brasvel iz kompanije za rizični kapital Kleiner Perkins.
Bonus video:
