U maju su se stručnjaci iz mnogih oblasti okupili u Crnoj Gori kako bi razgovarali o temi “Existential Threats and Other Disasters: How Should We Address Them” (Egzistencijalne prijetnje i druge katastrofe: kako treba da ih rješavamo). Pojam “egzistencijalni rizik” popularizovan je u eseju filozofa Nika Bostroma, iz 2002. godine, koji ga je definisao kao rizik u kojem bi “negativan ishod mogao ili da uništi inteligentni život nastao na Zemlji, ili da trajno i drastično umanji njegov potencijal”.
Da bismo razumjeli razliku između egzistencijalnih rizika i drugih katastrofa, uzmimo za primjer klimatske promjene. U nekim scenarijima, nekontrolisano globalno zagrijavanje moglo bi učiniti većinu Zemlje previše vrućom za nastavak života ljudi na njoj, ali bi Antarktik i neki od najsjevernijih regiona Evrope, Azije i Sjeverne Amerike postali nastanjivi.
To bi smanjilo potencijal inteligentnog života na Zemlji, možda na milenijume, ali bi se planeta na kraju ohladila, a potomci preživjelih bi je ponovo naselili. Ako su ovo zaista najgori scenariji, onda klimatske promjene, koliko god katastrofalne mogle biti, nisu egzistencijalni rizik.
Naravno, ako je ozbiljnost katastrofe direktno proporcionalna broju ljudi koje ubija, razlika između katastrofe koja ubije gotovo cijelu ljudsku populaciju na Zemlji i one koja dovodi do njenog istrebljenja ne bi bila tako velika. Međutim, za mnoge filozofe koji se bave egzistencijalnim rizikom, ovo gledište ne uzima u obzir ogroman broj ljudi koji bi se rodio ako bi naša vrsta opstala dugo vremena, ali ne bi nastali da homo sapiens izumre.
Konferencija u Crnoj Gori, koja u svom naslovu ima i „druge katastrofe“, nije bila ograničena samo na egzistencijalne rizike, ali je veliki dio diskusije bio posvećen njima. Kako se završna sesija konferencije približavala kraju, neki od prisutnih su smatrali da su pitanja o kojima smo raspravljali toliko ozbiljna, a opet toliko zapostavljena, da bi trebalo da pokušamo da privučemo pažnju javnosti i vlada na ovu temu. Raspravljalo se o opštem tonu takve izjave, a ja sam bio član male grupe koja je bila određena da je napravi.
Izjava naglašava postojanje ozbiljnih rizika za opstanak čovječanstva, koje je u najvećem broju slučajeva stvorio čovjek, bilo namjerno, kao što je bioterorizam, ili nenamjerno, kao što su klimatske promjene ili stvaranje vještačke superinteligencije koja nije usklađena sa našim vrijednostima. U izjavi se navodi i da vlade ne tretiraju ove rizike sa ozbiljnošću ili hitnošću koju zaslužuju.
Stav iznesen u izjavi potkrepljuje se dvjema tvrdnjama koje je iznio Tobi Ord u svojoj knjizi iz 2020. godine, "Precipice" (Prelomna tačka). Ord je procijenio vjerovatnoću da naša vrsta izumre u narednih 100 godina na 16-17%, ili jedan prema 6. Takođe je procijenio da je udio svjetskog BDP-a koji čovječanstvo troši na intervencije usmjerene na smanjenje ovog rizika manji od 0,001%.
U ažuriranju koje je objavljeno u julu, Ord navodi da novi dokazi sugerišu da su najekstremniji scenariji klimatskih promjena malo vjerovatni, te da je egzistencijalni rizik koji klimatske promjene predstavljaju manji nego što je mislio 2020. godine. S druge strane, rat u Ukrajini znači da je rizik od nuklearnog rata koji bi mogao izazvati naše izumiranje veći, dok su rizici od superinteligentne AI i pandemija, prema njegovom mišljenju, u nekim aspektima manji, a u drugim veći.
Ord smatra da usredsređenost na chatbotove vodi vještačku inteligenciju (AI) u manje opasnom pravcu, jer oni nisu agenti. On, međutim, vjeruje da će pojačana konkurencija u trci za stvaranjem napredne opšte vještačke inteligencije vjerovatno dovesti do skraćivanja postupaka u vezi sa bezbjednošću AI.
U cjelini, Ord nije promijenio svoju procjenu - iako priznaje da je vrlo gruba - da postoji jedan prema šest šansi da naša vrsta neće preživjeti narednih 100 godina. On pozdravlja činjenicu da sada postoji povećano globalno interesovanje za smanjenje rizika od izumiranja i kao primjere navodi uključivanje ove teme u izvještaj generalnog sekretara Ujedinjenih nacija iz 2021. godine, kao i njeno istaknuto mjesto u agendi međunarodne grupe bivših svjetskih lidera poznate kao "The Elders".
Izjava iz Crne Gore poziva vlade da rade zajedno kako bi spriječile egzistencijalne katastrofe i posebno poziva vlade bogatih zemalja da ulože „značajna sredstva“ u pronalaženje najboljih načina za smanjenje rizika od izumiranja čovječanstva. Iako izjava ne precizira šta „značajno“ znači u ovom kontekstu, Ord je na drugom mjestu predložio izdvajanje 1% globalnog BDP-a za smanjenje rizika od izumiranja naše vrste. To jeste hiljadu puta više od njegove procjene iz 2020. godine koliko su tada vlade trošile na ovaj zadatak, ali je zaista teško tvrditi da je to previše.
Autor je profesor emeritus bioetike na Univerzitetu Prinston; osnivač je neprofitne organizacije The Life You Can Save
Copyright: Project Syndicate, 2024. (prevod: N.R.)
* Međunarodna konferencija "Existential Threats and Other Disasters: How Should We Address Them” (Egzistencijalne prijetnje i druge katastrofe: kako treba da ih rješavamo) održana je u Budvi, Crna Gora, 30-31. maja 2024. godine u organizaciji Centra za bioetičke studije, Hastings centra i Oksfordskog Uehiro centra za praktičnu etiku (prim.red.)
Bonus video:
