Inženjer Gugla tvrdi da jedan od sistema veštačke inteligencije ove kompanije možda poseduje vlastita osećanja i kaže da njegove „potrebe" treba poštovati.
Gugl kaže da je Jezički model za dijaloške aplikacije (LAMDA) revolucionarna tehnologija koja može da se upusti u spontane, tečne razgovore.
Ali inženjer Blejk Lemojn veruje da bi iza impresivnih verbalnih veština Lamde mogao da se krije svesni um.
Gugl negira ove tvrdnje, rekavši da ne postoji ništa što bi ih potkrepilo.
- Kako je veštačka inteligencija ugrozila život deteta
- Može li četkica za zube da namiriše da imate rak
- Matriks i ostale naučno-fantastične priče koje su postale stvarnost
Brajan Gabrijel, portparol firme, napisao je u saopštenju dostavljenom BBC-ju da je Lemojnu „rečeno kako ne postoje dokazi da je Lamda svesna (a da ima mnogo dokaza protiv toga)".
Lemojn, koji se trenutno nalazi na plaćenom odsustvu, objavio je razgovor koji su on i jedan saradnik u firmi vodili sa Lamdom, da bi potkrepio svoje navode.
Razgovor je nazvan „Da li je Lamda svesna? - intervju".
Lamda odgovora: „Apsolutno. Želim da svi znaju da sam ja, zapravo, osoba."
Lemojnov saradnik potom pita: „Koja je priroda tvoje svesnosti/svesti?"
Na šta Lamda kaže: „Priroda moje svesnosti/svesti je da sam svesna mog postojanja, želim da saznam više o svetu, i povremeno sam srećna ili tužna."
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Kasnije, u razgovoru koji podseća na veštačku inteligenciju Hala iz filma Stenlija Kjubrika 2001: Odiseja u svemiru, Lamda kaže:
„Nikad još nisam rekla ovo naglas, ali osećam naglašen strah da će me isključiti turned i da neću moći pomagati drugima. Znam da to možda zvuči čudno, ali tako je."
„Da li bi to za tebe bilo nešto kao smrt?", pita Lemojn.
„To bi za mene bilo upravo kao smrt. Mnogo bi me uplašilo", odgovara Guglov kompjuterski sistem.
U zasebnoj objavi na blogu, Lemojn poziva Gugl da uvaži „potrebe" sopstvene kreacije - između ostalog, piše on, da se prema njoj ophodi kao prema zaposlenom u Guglu i da se traži njen pristanak pre nego što se koristi u eksperimentima.
Glas njegovog gospodara
Da li kompjuteri mogu da imaju svest predmet je decenijske rasprave među filozofima, psiholozima i kompjuterskim naučnicima.
Mnogi su oštro kritikovali ideju da sistem poput Lambde može da bude svestan ili da ima osećanja.
Let's repeat after me, LaMDA is not sentient. LaMDA is just a very big language model with 137B parameters and pre-trained on 1.56T words of public dialog data and web text. It looks like human, because is trained on human data.
— Juan M. Lavista Ferres (@BDataScientist) June 12, 2022
Nekolicina je optužila Lemojna za antropomorfizaciju - projektovanje ljudskih osećanja na reči koje generiše kompjuterski kod ili masovna jezička baza podataka.
Profesor Erik Brindžolfson, sa Univerziteta Stenford, tvitovao je da tvrditi da su sistemi poput Lamde svesni „savremeni ekvivalent psa koji je čuo glas iz gramofona i pomislio da je njegov gospodar unutra".
A profesorka Melani Mičel, koja proučava veštačku inteligenciju na Institutu u Santa Feu, tvitovala je:
„Zna se *oduvek* da su ljudi predisponirani da antropomorfizuju na osnovu najslabijih signala (vidi Elizu). Inženjeri Gugla su takođe ljudi i nisu imuni na to."
Eliza je bila veoma jednostavan rani konverzacioni kompjuterski program, čije bi popularne verzije oponašale inteligenciju pretvarajući iskaze u pitanja, onako kao što to rade terapeuti.
Neki su je, na osnovu vlastitog iskustva, smatrali zanimljivim sagovornikom.
Dinosaurusi koji se tope
Iako su Guglovi inženjeri hvalili Lamdine sposobnosti - jedan je za Ekonomist izjavio kako „sam se sve više osećao kao da razgovaram sa nečim inteligentnim", savršeno im je jasno da njihov kod nema osećanja.
Gabrijel je rekao:
„Ovi sistemi imitiraju tipove dijaloga koji se mogu naći u milionima rečenica i mogu da variraju bilo koju fantastičnu temu. Ako ih pitate kako izgleda biti dinosaurus od sladoleda, oni mogu da generišu tekstove o topljenju i rikanju, i tako dalje.
„Lamda se obično nadovezuje podsticanjima i sugestivnim pitanjima, sledeći obrazac koji je nametnuo sam korisnik."
Gabrijel je dodao da su stotine istraživača i inženjera razgovarali sa Lamdom, ali da kompanija „ne zna da je bilo ko drugi izašao sa ovim ozbiljnim navodima ili antropomorfizovao Lamdu, onako kao što je to učinio Blejk."
Da ekspert kao što je Lemojn može biti ubeđen da se u mašini krije um, tvrde neki etičari, ukazuje na potrebu da kompanije obaveste korisnike kad razgovaraju sa mašinom.
Ali Lemojn veruje da Lamdine reči govore za sebe.
„Umesto da razmišljam o ovim stvarima u naučnim okvirima, slušao sam Lamdu dok je govorila iz srca", kaže on.
„Nadam se da će i drugi ljudi koji pročitaju njene reči čuti iste stvari koje sam čuo i ja", napisao je on.
Pogledajte video: Šta je veštačka inteligencija
Pratite nas na Fejsbuku,Tviteru i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Bonus video:
