Šta bi bilo potrebno da svetska totalitarna vlada preuzme neograničenu vlast? Ovaj scenario noćne more možda je bliži nego što se čini.
Kako bi izgledale totalitarne vlade iz prošlosti da nikada nisu poražene?
Nacisti su poslovali tehnologijom 20. veka i još je bio potreban svetski rat da ih zaustavi.
Koliko su moćniji - i trajniji - mogli biti nacisti da su potukli SAD atomskom bombom?
Kontrola najnaprednije tehnologije tog doba mogla je učvrstiti nacističku moć i promeniti tok istorije.
Kad razmišljamo o egzistencijalnim rizicima, često nam padnu na pamet događaji poput nuklearnog rata ili udara asteroida.
- Kako u Srbiji pamtimo Drugi svetski rat
- Kako su Staljin, Ruzvelt i Čerčil na Jalti preoblikovali svet
- Mračna nacistička prošlost nemačkih bogataša
Ipak, postoji jedna buduća pretnja koja je manje poznata - i iako ne uključuje izumiranje naše vrste, mogla bi biti jednako loša.
Zove se scenario „sveta u lancima", gde, kao i prethodni misaoni eksperiment, globalna totalitarna vlada koristi novu tehnologiju da zaključa većinu sveta u trajnu patnju.
Ako zvuči mračno, bili biste u pravu. Ali da li je verovatno?
Istraživači i filozofi počinju da razmišljaju o tome kako bi moglo to toga doći - i, što je još važnije, šta možemo učiniti da to izbegnemo.
Egzistencijalni rizici (x-rizici) su pogubni jer zatvaraju čovečanstvo u jednu sudbinu, poput trajnog kolapsa civilizacije ili izumiranja naše vrste.
Te katastrofe mogu imati prirodne uzroke, poput udara asteroida ili supervulkana, ili ih može stvoriti čovek iz izvora poput nuklearnog rata ili klimatskih promena.
Dopuštanje da se to dogodi bio bi „bedan kraj ljudske priče" i izneverilo bi stotine generacija koje su došle pre nas, kaže Hejdn Belfild, rukovodilac akademskog projekta u Centru za proučavanje egzistencijalnog rizika na Univerzitetu u Kembridžu.
Tobi Ord, viši naučni istraživač na Institutu za budućnost čovečanstva (FHI) na Univerzitetu Oksford, veruje da su šanse za egzistencijalnu katastrofu koja se ovog veka dogodila iz prirodnih razloga manje od jedan prema dve hiljade, jer su ljudi preživeli dve hiljade vekova bez ijedne takve.
Međutim, kada doda verovatnoću katastrofa koje izaziva čovek, Ord veruje da se šanse povećavaju na zapanjujućih jedan prema šest.
Ovaj vek naziva „provalijom", jer rizik od gubitka budućnosti nikada nije bio tako visok.
Istraživači iz Centra za dugoročni rizik, neprofitnog istraživačkog instituta u Londonu, proširili su x-rizike sa još hladnijom mogućnošću pretrpljenja rizika.
Ovi „s-rizici" su definisani kao „patnja u astronomskim razmerama, koja znatno premašuje sve patnje koje su do sada postojale na Zemlji".
U tim scenarijima život se nastavlja za milijarde ljudi, ali kvalitet je tako nizak, a izgledi tako mračni da bi odumiranje bilo poželjnije.
Ukratko: budućnost sa negativnom vrednošću je gora od one koja uopšte nema vrednost.
Tu dolazi do scenarija „sveta u lancima".
Ako bi zlonamerna grupa ili vlada iznenada stekla moć kojom dominira svetom tehnološkim putem i nije bilo ničega što bi joj stalo na put, to bi moglo dovesti do produženog perioda stradanja i potčinjavanja.
Izveštaj iz 2017. o egzistencijalnim rizicima iz Projekta globalnih prioriteta, zajedno sa FHIi Ministarstvom spoljnih poslova Finske, upozorava da bi „duga budućnost u posebno brutalnoj svetskoj totalitarnoj državi mogla biti gora od potpunog izumiranja".
Hipoteza singltona
Iako je svetski totalitarizam još uvek niša tema proučavanja, istraživači na polju egzistencijalnog rizika sve više usmeravaju pažnju na njegov najverovatniji uzrok: veštačku inteligenciju.
U „singlton hipotezi" Nik Bostrom, direktor Oksfordovog FHI-ja, objasnio je kako bi se svetska vlada mogla formirati pomoću veštačke inteligencije ili drugih moćnih tehnologija - i zašto bi to moglo biti nemoguće srušiti.
Piše da bi se mogao dogoditi svet sa „jedinstvenom agencijom za donošenje odluka na najvišem nivou", ako ta agencija „odlučno dovede do tehnološkog proboja u veštačkoj inteligenciji ili molekularnoj nanotehnologiji".
Jednom kad je nadležna, kontrolisaće napredak tehnologije koja sprečava unutrašnje izazove, poput nadzora ili autonomnog oružja, i, uz ovaj monopol, ostaje trajno stabilna.
- Čovek koji je preživeo pet nacističkih logora smrti
- Incest i Habzburzi - vilica otkrila tajnu najmoćnije dinastije u Evropi
Ako je singlton totalitarni, život bi bio mračan. Čak i u zemljama sa najstrožim režimima, vesti „procure" i uđu iz drugih zemalja i ljudi mogu pobeći.
Svetska totalitarna vladavina uklonila bi čak i ovo malo seme nade.
Da bude gore od izumiranja, „to bi značilo da ne osećamo apsolutno nikakvu slobodu, privatnost, nadu u bekstvo, nikakvu agenciju koja bi uopšte kontrolisala naše živote", kaže Taker Dejvi, pisac sa Instituta za budućnost života u Masačusetsu, koji se fokusira na istraživanje egzistencijalnog rizika.
„U totalitarnim režimima u prošlosti, bilo je toliko paranoje i psihološke patnje, jer jednostavno nemate pojma hoćete li biti ubijeni zbog pogrešne reči", nastavlja on.
„A sada zamislite da čak uopšte nema pitanja, svaka stvar koju kažete prijavljuje se i analizira."
„Možda još uvek nemamo tehnologije za to", rekao je Ord u nedavnom intervjuu, „ali izgleda da vrste tehnologija koje razvijamo to čine lakšim i lakšim. Čini se verovatnim da bi to moglo postati moguće tokom sledećih sto godina."
Veštačka inteligencija i autoritarnost
Iako je život pod svetskom totalitarnom vladom još malo verovatan i scenario je za daleku budućnost, veštačka inteligencija već omogućava autoritarnost u nekim zemljama i jača infrastrukturu koju bi oportunistički despot mogao pribaviti kod drugih.
„Videli smo neku vrstu obračuna sa prelaskom sa vrlo utopijskih vizija onoga što bi tehnologija mogla dovesti do mnogo otrežnjujuće stvarnosti koja je, u nekim pogledima, već prilično distopična", kaže Elsa Kania, viša saradnica u Centru za novu američku sigurnost.
- Tri decenije Berlinskog zida - od podeljenog sveta do pada komunizma
- Roditelji koji su spasli svoju jedinicu tako što su je predali drugima
U prošlosti je za nadzor bilo potrebno stotine hiljada ljudi - jedan na svakih sto građana Istočne Nemačke bio je doušnik - ali sada to može da uradi tehnologija.
U Sjedinjenim Državama, Agencija za nacionalnu bezbednost (NSA) prikupila je stotine miliona američkih zapisa o pozivima i porukama pre nego što su zaustavili domaći nadzor 2019, a procenjuje se da postoji četiri do šest miliona CCTV sigurnosnih kamera širom Ujedinjenog Kraljevstva.
Osamnaest od dvadeset nadziranih gradova sveta nalazi se u Kini, ali London je treći.
Razlika između njih leži manje u tehnologiji koju zemlje koriste, a više u tome kako je koriste.
- Hitlerova rodna kuća postaje policijska stanica
- Istočna Nemačka 1989. - marš koji je nokautirao komunizam
Šta bi se desilo ako bi se definicija onoga što je ilegalno u SAD-u i Velikoj Britaniji proširila tako da uključuje kritikovanje vlade ili ispovedanje određenih religija?
Infrastruktura je već uspostavljena da bi se primenila, a veštačka inteligencija - sa kojom je NSA već započela eksperimentisanje - omogućila bi agencijama da pretražuju naše podatke brže nego ikad ranije.
Pored pojačanog nadzora, veštačka inteligencija takođe podržava rast dezinformacija na mreži, što je još jedno sredstvo autoritarne vlasti.
Duboki falsifikati zasnovani na veštačkoj inteligenciji, koji mogu širiti izmišljene političke poruke, i algoritamsko mikrociljanje na društvenim mrežama čine propagandu uverljivijom.
To podriva našu epistemičku sigurnost - sposobnost da utvrdimo šta je istina i delujemo po njoj - od koje zavise demokratije.
„Tokom poslednjih nekoliko godina videli smo porast filter mehurića i ljudi koji su različitim algoritmima bili ubeđivani da veruju raznim teorijama zavere, ili čak ako nisu teorije zavere, da veruju samo u delove istine", kaže Belfild.
„Možete da zamislite da se stvari pogoršavaju, posebno sa dubokim falsifikatima i sličnim stvarima, dok nam ne bude sve teže da kao društvo odlučimo da su to činjenice, ovo moramo da učinimo po tom pitanju, a zatim da preduzmemo zajedničku radnju".
Preventivne mere
Izveštaj o zlonamernoj upotrebi veštačke inteligencije, koji su napisali Belfild i dvadeset pet autora iz četrnaest institucija, predviđa da će takvi trendovi proširiti postojeće pretnje našoj političkoj bezbednosti i uvesti nove u narednim godinama.
Ipak, Belfild kaže da mu njegov rad daje nadu i da ga pozitivni trendovi, poput demokratskijih rasprava o veštačkoj inteligenciji i delovanja kreatora politike.
Na primer, EU koja razmišlja o pauziranju prepoznavanja lica na javnim mestima), drže u optimizmu da možemo izbeći katastrofalne sudbine.
- Dojava naciste koja mi je spasila baku i dedu
- Oktobarska revolucija - pucanj sa Aurore koji je promenio svet
Dejvi se slaže. „Moramo sada da odlučimo koje su prihvatljive i neprihvatljive upotrebe veštačke inteligencije", kaže.
„Trebalo bi da budemo oprezni kada joj dozvolimo da kontroliše toliko naše infrastrukture. Ako naoružavamo policiju prepoznavanjem lica i savezna vlada prikuplja sve naše podatke, to je loš početak."
Ako ste i dalje sumnjičavi da bi veštačka inteligencija mogla pružiti takvu moć, razmislite o svetu pre nuklearnog oružja.
Tri godine pre prve lančane nuklearne reakcije, čak su i naučnici koji su je pokušavali postići verovali da je to malo verovatno.
Čovečanstvo je, takođe, bilo nespremno za nuklearni proboj i teturalo se na rubu „međusobno osiguranog uništenja" pre nego što su ugovori i sporazumi usmerili globalno širenje smrtonosnog oružja bez egzistencijalne katastrofe.
To možemo učiniti i sa veštačkom inteligencijom, ali samo ako kombinujemo lekcije iz istorije sa predviđanjem kako bismo se pripremili za ovu moćnu tehnologiju.
Svet možda neće moći da zaustavi totalitarne režime poput uspona nacista u budućnosti - ali možemo izbeći da im pružimo alate za neograničeno širenje moći.
Pratite nas na Fejsbuku i Tviteru. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Bonus video:
