Tehnologija i demokratija

Uoči Prvog svetskog rata, 1914. godine, H. Dž. Vels je objavio roman u kom razmatra izglede još većeg stradanja. U „Oslobođenom svetu“, 30 godina pre Projekta Menhetn, Vels zamišlja nastanak atomskog oružja koje čoveku omogućava „da u ručnoj torbi nosi dovoljnu količinu latentne energije za uništenje pola grada“. Izbija globalni rat koji dovodi do atomske apokalipse. Da bi zavladao mir, potrebno je „uspostavljanje svetske vlade“.

Ono što Velsa brine nisu samo rizici nove tehnologije, već i opasnosti demokratije. Velsova svetska vlada nije stvorena demokratskom voljom, već je nametnuta kao dobroćudna diktatura. „Oni kojima se vlada, ćutanjem će pokazati svoj pristanak“, preteće konstatuje Velsov kralj Egbert. Za Velsa je „običan čovek“ bio „nasilna budala u društvenim i javnim poslovima“. Samo obrazovana, naučno orijentisana elita bi mogla „spasiti demokratiju od nje same“.

Vek kasnije, neka druga tehnologija izaziva sličnu vrstu strahopoštovanja i zebnje - veštačka inteligencija. Od konferencijskih sala u Silicijumskoj dolini do holova u Davosu, politički lideri, tehno moguli i akademici zadivljeni su ogromnim koristima koje će doneti veštačka inteligencija, dok strahuju da bi mogla i da pokrene propast čovečanstva, jer će superinteligentne mašine zavladati svetom. A baš kao i pre stotinu godina, u središtu debate su pitanja demokratije i društvene kontrole.

Novinar Stiven Levi je 2015. intervjuisao Ilona Maska i Sema Altmana, dvojicu osnivača tehnološke kompanije OpenAI koja je zaokupila pažnju javnosti kada je pre dve godine lansirala ChatGPT, četbota sa naizgled ljudskim karakteristikama. To je kompanija koju je, u strahu od mogućih posledica veštačke inteligencije, osnovala grupa uticajnih ljudi iz Silicijumske doline kao neprofitno dobrotvorno društvo sa ciljem etičkog razvoja tehnologije za dobrobit „čitavog čovečanstva“.

Levi je propitivao Maska i Altmana o budućnosti veštačke inteligencije. „Postoje dve škole mišljenja“, rekao je Mask. „Zavisi da li hoćete da ima mnogo ili malo AI? Mi mislimo da je verovatno dobro da ih ima mnogo.“

„Da sam ja zli naučnik i uzmem da koristim veštačku inteligenciju, zar me tako ne jačate?“ upitao je Levi. Veća je verovatnoća da bi zli naučnik bio ojačan, odgovorio je Altman, ako samo mali broj ljudi kontroliše tehnologiju: „Onda smo stvarno u sosu.“

U stvarnosti, taj „sos“ prave same tehnološke kompanije. Mask, koji je pre šest godina napustio upravni odbor u OpenAI da bi razvijao svoje projekte veštačke inteligencije, sada tuži svoju bivšu kompaniju zbog kršenja ugovora jer je stavila profit iznad javnog dobra i ne razvija veštačku inteligenciju „za dobrobit čovečanstva“.

Naime, OpenAI je 2019. osnovao profitnu podružnicu da bi mogao da prikuplja novac od investitora, među kojima se posebno ističe Majkrosoft. Kada je 2022. lansiran ChatGPT, nije otkriven način na koji model radi. Bilo je neophodno biti manje otvoren, rekao je, odgovarajući na kritike, jedan od osnivača kompanije i u to vreme njen glavni naučnik Ilja Satskever, kako bi se oni sa zlim namerama sprečili da ga koriste „da izazovu veliku štetu“. Strah od tehnologije postao je paravan za zaštitu od preispitivanja.

Kao reakciju na Maskovu tužbu, OpenAI je prošle nedelje objavio seriju mejlova koje su razmenjivali Mask i drugi članovi odbora. Pisma jasno pokazuju da su se svi članovi odbora od početka slagali da „OpenAI“ [otvorena veštačka inteligencija] ne može stvarno da bude otvorena.

Kako se razvija veštačka inteligencija, pisao je Satskever Masku, „ima smisla da se bude manje otvoren. ’Otvoreno’ u OpenAI znači da svi treba da imaju koristi od plodova veštačke inteligencije nakon što je izgrađena, ali je skroz u redu da se ne deli nauka“. - Jašta, odgovorio je Mask. Šta god da poručuje svojom tužbom, Mask nije otvoreniji za otvorenost od drugih tehno mogula. Njegov pravni izazov kompaniji više je borba za moć unutar Silicijumske doline, nego pokušaj da se uspostavi odgovornost.

Vels je svoj „Oslobođeni svet“ pisao u vreme krupnih političkih previranja, kada su se mnogi pitali da li je pametno širiti pravo glasa na radničku klasu.

„Da li je bilo poželjno, da li je uopšte bilo bezbedno poveriti [masama]“, pitala se fabijanka Beatris Veb, „glasačku kutiju, formiranje i kontrolu vlade Velike Britanije sa njenim ogromnim bogatstvom i njenim udaljenim kolonijama?“ To je bilo i pitanje u središtu Velsovog romana - kome se može poveriti budućnost?

Vek kasnije, ponovo vodimo žestoku raspravu o vrlinama demokratije. Za neke, politička previranja poslednjih godina proizvod su viška demokratije, gde se iracionalnima i neobrazovanima dopušta da donose važne odluke. „Nepravedno je na nekvalifikovane glupake svaliti odgovornost da donose istorijske odluke velike složenosti i sofisticiranosti“, rekao je Ričard Dokins posle referenduma o Bregzitu, što je sentiment s kojim bi se i Vels složio.

Za druge, upravo je taj prezir prema običnim ljudima podstakao deficit demokratije, gde čitavi slojevi stanovništva osećaju da su lišeni prava na reč o tome kako se upravlja društvom.

To je prezir koji zaoštrava i diskusije o tehnologiji. Kao i u „Oslobođenom svetu“, rasprava o veštačkoj inteligenciji se ne bavi samo tehnologijom, već i pitanjima otvorenosti i kontrole. Uprkos uzbunjenosti, daleko smo od „superinteligentnih“ mašina. Današnji modeli veštačke inteligencije, kao što su ChatGPT ili Claude 3, koji je prošle nedelje predstavila još jedna AI kompanija, Anthropic, toliko su dobri u predviđanju naredne reči u nizu, da nas mogu navesti da zamišljamo da su u stanju da vode ljudski razgovor. Oni, međutim, nisu inteligentni u bilo kom ljudskom smislu, imaju zanemarljivo razumevanje stvarnog sveta i neće ugasiti ljudsku vrstu.

Problemi koje ispostavlja AI nisu egzistencijalni, već društveni. Od algoritamske pristrasnosti do masovnog nadzora, od dezinformacija i cenzure do krađe autorskih prava, naša briga ne bi trebalo da bude da će mašine jednog dana biti u stanju da preuzmu moć nad ljudima, već to što one već rade tako da utvrđuju nejednakost i nepravdu, pružajući alate za konsolidaciju vlasti onima koji imaju moć.

Zato tako preteće zvuči ono što bismo mogli nazvati „Egbertov manevar“ - insistiranje da su neke tehnologije toliko opasne da moraju biti izuzete od demokratskog pritiska i stavljene pod kontrolu nekolicine odabranih. Naš problem nije samo neki zli naučnik, već i svi oni kojima strah od zlog naučnika služi kao zaštita od preispitivanja.

(The Guardian; Peščanik.net; prevod: M. Jovanović)

( Kenan Malik )