Otvoreno pismo Instituta za budućnost života u kome se zahteva 6 meseci pauze u razvoju veštačke inteligencije potpisale su hiljade uticajnih ličnosti uključujući Ilona Maska. Potpisnike brine to što su laboratorije za veštačku inteligenciji „ušle u nekontrolisanu trku“ razvoja sve moćnijih sistema koje niko, uključujući njihove kreatore, ne može da razume, predvidi ili kontroliše.
Kako objasniti ovaj napad panike jednog dela elita? U osnovi apela su očigledno kontrola i regulacija, ali čije? Tokom predložene polugodišnje pauze tokom koje bi čovečanstvo trebalo da sagleda rizike ko bi ga predstavljao? Budući da će laboratorije za veštačku inteligenciju u Kini, Indiji i Rusiji nastaviti sa radom (možda u tajnosti) globalna javna debata na ovu temu nije moguća.
Ipak, treba ispitati o čemu se ovde radi. U svojoj knjizi Homo Deus (2015), istoričar Juval Noa Harari je predvideo da će najverovatniji ishod razvoja veštačke inteligencije biti radikalna podela unutar ljudskog društva, dublja od klasne. Uskoro će biotehnologija i kompjuterski algoritmi udružiti svoje snage u proizvodnji „tela, mozgova i umova“, što će rezultirati sve većim jazom „između onih koji znaju kako da konstruišu tela i mozak i onih koji to ne znaju“. U takvom svetu, „oni koji su se ukrcali na voz progresa imaće božansku sposobnost stvaranja i uništenja, dok one koji su zaostali očekuje izumiranje“.
Panika koja izbija iz pisma Instituta za budućnost života proizlazi iz straha da čak i oni koji su u „vozu progresa“ nisu bezbedni. Naši digitalni feudalci su se uplašili. Ali oni ne žele javnu debatu, već dogovor vlada i tehnoloških korporacija sa ciljem da istinska moć ostane u njihovim rukama.
Ogromna ekspanzija kapaciteta veštačke inteligencije predstavlja ozbiljnu pretnju elitama na vlasti, uključujući one koje razvijaju, poseduju i kontrolišu AI. To ukazuje na kraj kapitalizma kakvog poznajemo, u smislu mogućnosti nastanka sistema veštačke inteligencije koji se samoreprodukuje i kome će biti potreban sve manji ljudski doprinos (algoritamska trgovina na berzi samo je prvi korak u tom pravcu). Ostaje nam izbor između nekog novog oblika komunizma i nekontrolisanog haosa.
Novi četbotovi će mnogim usamljenim (ili ne tako usamljenim) ljudima omogućiti beskrajne večeri prijateljskog razgovora o filmovima, knjigama, kuvanju ili politici. Da ponovo upotrebim svoju metaforu, ono što će ljudi dobiti je kafa bez kofeina i sok bez voća: druželjubivi komšija bez mračnih tajni, Drugi prilagođen njihovim potrebama. To je sama suština fetišističkog odricanja: „Znam da to nije stvarna osoba, ali meni je dobra jer je bezopasna“.
U svakom slučaju, ovo otvoreno pismo je još jedan primer nemoguće zabrane. Reč je o starom paradoksu: pošto za nas ljude nema mesta u post-humanoj budućnosti hajde da zabranimo njen razvoj. Da bismo se odredili prema ovim tehnologijama treba da postavimo Lenjinovo staro pitanje: sloboda za koga, za šta? U kom smislu smo ranije bili slobodni? Zar nismo već bili kontrolisani mnogo više nego što smo uviđali? Umesto da se žalimo na ugrožavanje slobode i dostojanstva u budućnosti, možda bi prvo trebalo da razmislimo šta sloboda znači sada. Dok to ne obavimo, ponašaćemo se kao histeričari koji, prema francuskom psihoanalitičaru Žaku Lakanu, očajnički traže gospodara, ali samo onog nad kojim dominiraju.
Futurista Rej Kurcvajl predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog progresa, uskoro imati posla sa duhovnim mašinama koje ne samo da će pokazivati sve znake samosvesti, već će i daleko prevazilaziti ljudsku inteligenciju. Ali ne treba mešati ovaj post-humani stav sa paradigmatično modernom preokupacijom ostvarenja potpune tehnološke dominacije nad prirodom. Umesto toga, svedoci smo dijalektičkog preokreta ovog procesa.
Današnje post-humane nauke više se ne bave dominacijom. Njihov kredo je iznenađenje: kakva bi sve neplanirana svojstva te crne kutije mogle da razviju? Niko ne zna i u tome je privlačnost ili banalnost celog poduhvata.
Francuski filozof i inženjer Žan-Pjer Dipi je tako u novoj robotici, genetici, nanotehnologiji, veštačkom životu i veštačkoj inteligenciji uočio čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućava:
„Kako da objasnimo to da je nauka postala toliko rizična aktivnost da je danas mnogi smatraju glavnom pretnjom opstanku čovečanstva? Neki filozofi smatraju da je Dekartov san o čoveku kao gospodaru prirode pogrešan i da hitno treba preispitati osnove naše potrebe za razumevanjem sveta oko nas. Oni ne vide glavnu stvar, da tehnologija koja nam se ukazuje kao ishodište svih disciplina za svoj cilj ima upravo okretanje od prirode. Inženjer sutrašnjice neće biti lakomi čarobnjakov šegrt kome su se stvari otele kontroli zbog lenjosti ili neznanja, već zato što je baš tako hteo.“
Čovečanstvo stvara vlastitog boga ili đavola. Iako se ishod ne može predvideti, jedno je sigurno: ako se nešto što liči na posthumanost pojavi kao kolektivna činjenica, naš pogled na svet će izgubiti sve tri svoje definišuće teme: ljudskost, prirodu i božansko. Ljudski identitet može postojati samo naspram nedokučive prirode, ali ako život postane predmet tehnološke manipulacije izgubiće svoj prirodni karakter. Potpuno kontrolisana egzistencija lišena je smisla, da ne pominjem slučajnost i čudo.
Isto, naravno, važi i za svaki osećaj božanskog. Ljudsko iskustvo boga ima smisla samo sa stanovišta ljudske konačnosti i smrtnosti. Jednom kada postanemo homo deus i stvorimo svojstva koja iz stare ljudske perspektive izgledaju natprirodno, nestaće bogovi kakve smo znali. Pitanje je šta će, ako išta, ostati. Hoćemo li obožavati veštačku inteligenciju koju smo stvorili?
Imamo dobre razloge za zabrinutost da su tehno-gnostičke vizije post-humanog sveta zapravo ideološke fantazije koje zamagljuju ponor koji nas čeka. Suvišno je naglašavati da nam je potrebno mnogo više od 6 meseci da bismo sprečili da ljudi u bliskoj budućnosti postanu nebitni, a njihovi životi lišeni svakog smisla.
(Project Syndicate/Peščanik.net; prevod: M. Jovanović)
Bonus video:
