Vještačka inteligencija mijenja svjetski poredak

Debatom o efektima vještačke inteligencije dominiraju dvije teme. Jedna je strah da bi vještačka inteligencija prevazišla ljudsku i otrgla se ljudskoj kontroli, sa mogućim katastrofalnim posljedicama. Druga je zabrinutost da će nova industrijska revolucija omogućiti mašinama da poremete i zamijene ljudska bića u svakoj – ili skoro svakoj – oblasti društva, od saobraćaja do vojske i zdravstvene zaštite.

Takođe, postoji i treći način na koji bi vještačka inteligencija mogla promijeniti svijet. Omogućavajući vladama da nadgledaju, kontrolišu svoje građane i znaju o njima daleko više nego ikad prije, vještačka inteligencija će autoritarnim zemljama dati prihvatljivu alternativu za liberalnu demokratiju, prvu nakon završetka Hladnog rata. To će podstaći ponovno međunarodno nadmetanje između društvenih sistema.

Decenijama je većina teoretičara politike vjerovala da liberalna demokratija nudi jedini put do nesmetanog ekonomskog uspjeha. Vlade mogu ili da vrše represiju nad narodom i ostanu siromašne ili da ga oslobode i ubiraju ekonomsku korist. Neke represivne zemlje uspjele su da obezbijede privremeni rast ekonomije, ali dugoročno, autoritarizam uvijek znači stagnaciju. Vještačka inteligencija daje osnovu za stavljanje tačke na ovu dihotomiju. Ona velikim, ekonomski naprednim zemljama omogućava prihvatljiv način da svoje građane učini ekonomski bogatim i da ih istovremeno drži pod kontrolom.

Neke zemlje se već kreću u ovom pravcu. Kina je počela da gradi digitalnu autoritarnu zemlju koristeći sredstva za nadzor i mašinsko učenje da bi kontrolisala neposlušne djelove društva i stvarajući ono što naziva „sistem socijalnih kredita“. Nekoliko slično orijentisanih zemalja počele su da preuzimaju ili oponašaju kineske sisteme. Baš kao što je rivalstvo između liberalne demokratije, fašizma i komunizma definisalo veći dio XX vijeka, tako i borba između liberalne demokratije i digitalnog autoritarizma počinje da definiše XXI vijek.

Nove tehnologije će omogućiti visok nivo kontrole društva po razumnoj cijeni. Vlasti će moći selektivno da cenzurišu teme i djelovanje kako bi dozvolile slobodan protok informacija značajnih za ekonomski produktivne aktivnosti, suzbijajući političke debate koje bi mogle nanijeti štetu režimu. Kineski takozvani „Veliki zaštitni zid“ (Great Firewall) predstavlja ranu demonstraciju ove vrste selektivne cenzure.

Osim retroaktivne cenzure govora, vještačka inteligencija i velike baze podataka (big data) omogućavaće prediktivno kontrolisanje potencijalnih disidenata. Ovo će podsjećati na Amazonovo ili Guglovo targetiranje potrošača, ali će biti daleko učinkovitije, pošto će autoritane vlasti moći da pristupaju podacima na način koji u liberalnim demokratijama nije moguć. Amazon i Gugl imaju pristup samo podacima sa nekih naloga i uređaja; vještačka inteligencija dizajnirana za kontrolu društva uzimaće podatke sa mnogobrojnih uređaja sa kojima neko lice dolazi u kontakt u svakodnevnom životu. A što je još važnije, autoritarni režimi neće imati grižu savjesti zbog kombinovanja takvih podataka sa informacijama uzetim iz poreskih prijava, medicinskih kartona, kriminalnih dosijea, evidencije klinika za polne bolesti, bankovnih izvoda, genetskih testova, te fizičkim podacima (poput lokacije, biometrijskih podataka i sistema video nadzora koji koristi softver za prepoznavanje crta lica) i informacijama dobijenim od porodice i prijatelja. Vještačka inteligencija je dobra onoliko koliko su dobre informacije kojima ima pristup. Nažalost, kvantitet i kvalitet podataka o svakom građaninu koji su dostupni vlastima ispostaviće se kao odlični za vježbanje sistema vještačke inteligencije.

Bez obzira koliko se sistem kontrole društva može pokazati korisnim za režim, njegovo uspostavljanje neće biti lako. Velike IT projekte je izuzetno teško sprovesti. Oni zahtijevaju visok nivo koordinacije, velikodušno finansiranje i dosta stručnosti.

Uspon autoritarnog tehnološkog modela upravljanja bi možda, suprotno od očekivanog, mogao preporoditi liberalne demokratije. Odgovor liberalnih demokratija na izazove i šanse koje pruža vještačka inteligencija dijelom zavisi od načina kako se odnose prema njima kod kuće, a dijelom i kako se odnose prema autoritarnom alternativom van granica. U oba slučaja, ima osnova za oprezni optimizam.

Kada se govori o unutrašnjem planu, postojeće demokratije moraće da preduzmu usklađene napore kako bi upravljale usponom novih tehnologija. Ti napori nisu očito veći od onih koje su ove demokratije već prevazilazile. Jedan veliki razlog za optimizam je uslovljenost istorijskim nasljeđem. Zemlje sa snažnom tradicijom poštovanja ličnih sloboda će sa novom tehnologijom najvjerovatnije ići u jednom pravcu, dok će zemlje bez takve tradicije krenuti u drugom pravcu. Snažne sile unutar američkog društva već dugo se opiru vladinim programima za masovno nadziranje, mada sa promjenljivim uspjehom. Većina građana u liberalnim demokratijama priznaje potrebu za špijunažom u inostranstvu i nadziranje za potrebe borbe protiv terorizma kod kuće. Međutim, moćni sistem podjele vlasti ograničava bezbjednosni aparat države. Ta podjela i međusobna kontrola grana vlasti danas je na udaru i potrebno ju je učvrstiti. No, to će prije biti ponavljanje truda iz prošlosti nego fundamentalno novi izazov.

Na Zapadu, vlade nisu jedine koje predstavljaju prijetnju za lične slobode. Oligopolističke tehnološke kompanije koncentrišu moć proždirući konkurente i lobirajući kod vlada da donesu propise koji im odgovaraju.

Digitalni giganti takođe štete medijskoj raznolikosti i podršci sadržajima od javnog značaja, te stvaraju divlji zapad u političkom marketingu. Međutim radikalne nove tehnologije iz prošlosti, kao što su bili radio i televizija predstavljali su slične probleme, pa je društvo doraslo tom izazovu. Na kraju, propisi će najvjerovatnije uhvatiti korak sa novim definicijama pojmova „mediji“ i „izdavaštvo“ koje je stvorio internet. Izvršni direktor Fejsbuka Mark Zakerberg odupirao se inicijativi da se politički marketing označava na isti način kako se to zahtijeva na televiziji dok ga politički pritisak nije natjerao na to prošle godine.

Zapad može da uradi veoma malo da promijeni putanju zemlje koja ima sposobnost i samopouzdanje poput Kine. Zemlje digitalnog autoritarizma će vjerovatno postojati neko vrijeme. Da bi se takmičile s njima, liberalnim demokratijama biće potrebne jasne strategije. Prvo, vlade i društva moraju rigorozno da ograniče nadziranje i manipulisanje kod kuće. Tehnološke gigante treba razbiti na manje djelove i regulisati njihovo djelovanje. Vlasti treba da obezbijede raznoliko i zdravo medijsko okruženje, na primjer osiguravajući da moćni gejtkiperi (oni koji prvo filtriraju informacije pa ih onda objavljuju) poput Fejsbuka ne smanjuju medijski pluralitet; finansirajući javne servise; i ažurirajući propise kojima se reguliše političko oglašavanje kako bi bili primjenjivi u svijetu interneta. Treba da donesu zakone koje tehnološke kompanije sprečavaju da eksploatišu druge izvore ličnih podataka o svojim korisnicima, poput zdravstvenih kartona, i da radikalno ograniče prikupljanje podataka sa mnogobrojnih platformi sa kojima ljudi dolaze u kontakt. Čak i vladama treba zabraniti da koriste takve podatke osim u malom broju situacija, poput antiterorističkih operacija.

Na drugom mjestu, zapadne zemlje treba da se trude da utiču na to kako sisteme vještačke inteligenciju i velikih baza podataka implementiraju zemlje koje nisu ni strogo demokratske, ni strogo autoritarne. Treba da pomognu da se razvije fizička i regulatorna struktura tih zemalja i da pristup koji im ta pomoć omogućava iskoriste da spriječe vlade da koriste umrežene podatke. Treba da promovišu međunarodne norme koje poštuju privatnost pojedinca kao i državni suverenitet. I treba da razgraniče upotrebu vještačke inteligencije i metapodataka u legitimne svrhe nacionalne bezbjednosti od njihove upotrebe radi gušenja ljudskih prava.

I na kraju, zapadne zemlje moraju da se pripreme da se odupru središtu digitalnog autoritarizma. Ispostaviće se da su mnogi sistemi vještačke inteligencije ranjivi na upade. Iako se režimi više nego ikad oslanjaju na njih iz bezbjednosnih razloga, vlade će morati da vode računa da se revanšistička spirala osvete ne otrgne kontroli. Sistemi koji selektivno cenzurišu komunikacije će omogućiti ekonomsku kreativnost, ali će isto tako neizbježno otkriti spoljni svijet.

Pobjeda u nadmetanju sa vladama digitalnog autoritarizma neće biti nemoguća - dok god liberalne demokratije budu u stanju da sakupe neophodnu političku volju da se priključe borbi.

Samocenzura mijenja ponašanje

Čak i samo postojanje prediktivne kontrole biće od pomoći vlastima. Samocenzura je bila možda najznačajniji Štazijev mehanizam disciplinovanja. Vještačka inteligencija će tu taktiku učiniti dramatično učinkovitijom. Građani će biti svjesni da će sveprisutni nadzor njihovih fizičkih i digitalnih aktivnosti biti upotrebljen za predviđanje nepoželjnog djelovanja, čak i aktivnosti o kojima samo razmišljaju. Iz tehničke perspektive, ovakvo predviđanje ne razlikuje se od korišćenja sistema vještačke inteligencije u zdravstvu za predviđanje bolesti kod naizgled zdravih osoba prije nego što se simptomi bolesti pojave.

Da bi izbjegli da sistem napravi negativno predviđanje, mnogi će početi da imitiraju ponašanje „odgovornih“ članova društva. Ovo će pojačati kontrolu društva ne samo tako što će ljude natjerati da se ponašaju na određeni način, nego i mijenjanjem načina na koji razmišljaju. Centralni zaključak kognitivne nauke o uticaju je da kada ljude tjerate da se ponašaju na određeni način, to može dovesti do promjene stavova i usvajanja samonametnutih običaja. Ukoliko su ljudi prinuđeni da obrazlože određeni stav, vjerovatnije je da će početi da ga podržavaju, što je tehnika koju su Kinezi primjenjivali na američkim zatvorenicima tokom Korejskog rata. Više od 60 godina laboratorijskih eksperimentata i rada na terenu potvrdili su nevjerovatni kapacitet ljudskih bića da racionalizuju svoje ponašanje.

Mnogi „prepisuju“ od Kine

Da bi se stekao utisak da li je sistem digitalnog autoritarizma izvodljiv, vrijedi pogledati Kinu, najznačajniju nezapadnu zemlju koja ga možda izgrađuje.

Jedno treba da bude jasno, mogućnost da se nešto uradi nije isto što i namjera. Međutim, čini se da se Kina kreće ka autoritarizmu i udaljava od bilo kakve naznake liberalizacije. Jasno je da njene vlasti smatraju da će vještačka inteligencija i velike baze podataka umnogome omogućiti ovaj novi pravac. Kineski Razvojni plan vještačke inteligencije iz 2017. opisuje kako mogućnost da se predvidi i „shvati grupno poimanje“ znači da „vještačka inteligencija donosi nove mogućnosti za društvenu izgradnju“.

Digitalni autoritarizam nije ograničen samo na Kinu. Peking izvozi ovaj model. Pristup internetu po principu Velikog zaštitnog zida proširio se na Tajland i Vijetnam. Prema medijskim izvještajima, kineski stručnjaci obezbijedili su podršku vladinim cenzorima u Šri Lanki i snabdjeli Etiopiju, Iran, Rusiju, Zambiju i Zimbabve opremom za nadzor odnosno cenzuru. Ove godine je kineska kompanija Yitu prodala malezijskoj policiji „nosive kamere sa tehnologijom za prepoznavanje crta lica na bazi vještačke inteligencije“.

Nikolas Rajt, "Foreign afairs"

Prevela i priredila: Danka Vraneš Redžić