Dok se Geri Markus, američki psiholog i istraživač u oblasti ukrštanja kognitivne psihologije, neuronauke i vještačke inteligencije, zalaže za sistem bezbjednosti za vještačku inteligenciju sličan procesu za farmaceutske proizvode - gdje tehnologije vještačke inteligencije (VI) moraju da pokažu svoju sigurnost i efikasnost prije masovne primjene, društvo već uveliko trpi posljedice minimalnog nadzora kompanija koje koriste VI i imaju veliku moć nad osjetljivim aspektima društva.
Posljednjih godina, autonomna vozila usmrtila su pješake, robot je tokom partije šaha polomio prst djetetu, a mladić u Belgiji oduzeo je sebi život nakon uznemirujuće interakcije sa velikim jezičkim modelom. Ovi slučajevi pokreću složeno pitanje krivice i odgovornosti u kontekstu vještačke inteligencije.
To je bila motivacija za istraživače sa Londonskog univerzitetskog koledža (UCL) Darka Stojilovića i Matiju Franklina, kao i crnogorskog ilustratora Srđu Dragovića da rade na kreiranju interaktivne igre ‘’The Blame Game’’. Učesnici u igri su istovremeno i ispitanici u istraživanju faktora koje ljudi vrednuju dok utvrđuju odgovornost vještačke inteligencije ili čovjeka kada izazovu nesreću.
Stojilović tvrdi da dosljedno utvrđivanje odgovornosti stvara podsticaj za kompanije i inženjere da razvijaju bezbjednije sisteme, što može dovesti do smanjenja broja nesreća i rasta povjerenja u nove tehnologije.
Stojilović i Dragović u razgovoru za “Vijesti” govore o tome koji su faktori ljudima važni kada procjenjuju ko je odgovoran za izazivanje nesreće u različitim scenarijima, koja je razlika između odgovornosti VI i čovjeka, da li su koristili VI u toku kreiranja ilustracija za igricu, da li vide više rizika ili mogućnosti pri upotrebi VI…
Dragović: Vještačka inteligencija je isprazna, uvijek mi je zabavnije da crtam
U kojoj mjeri te inspiriše rad ovog tipa, gdje je scenario koji treba da ilustruješ dio istraživanja o tome kako ljudi određuju odgovornost i donose sudove?
Mislim da projekti ove vrste sublimiraju mnoge od tema koje su mi i do sada bile zadatak kroz saradnju sa naučnim časopisima, prvenstveno sa časopisom “Elementi” Centra za promociju nauke iz Beograda. Rekao bih da je saradnja sa tim časopisom dovela i do ove saradnje, s obzirom na to da sam u “Elementima” ilustrovao i tekstove Darka Stojilovića, jednog od inicijatora ovog istraživačkog projekta. Mislim da je Darko prepoznao kako neke stilske karakteristike mog rada u ilustraciji mogu da učine igru vizuelno upečatljivijom i da referenca na neke prastare video-igre, tzv. “tekstualne avanture” na taj način može biti jasnija.
Da li si prilikom rada na ovom projektu koristio vještačku inteligenciju? Da li inače u radu koristiš VI?
Ne, niti smo uzimali u obzir moguću upotrebu VI u kreiranju samih ilustracija. Na igrici nijesmo radili toliko davno, ali u to vrijeme smo čak i globalno imali samo neki začetak VI modela za generisanje i modifikovanje vizuelnog sadržaja, i samo nagovještaje njihovih mogućnosti. Ali tokom 2023. godine, na rezidenciji u Lincu, paralelno sam radio na svojoj knjizi “Auf der Donau fahren Schiffe” u kojoj su naspram autorskih crteža bile zastupljene generisane fotografije. A bile su generisane ne na osnovu teksta, već na osnovu telefonskih fotografija različitih prizora u Lincu koje bih svakodnevno pravio, bilo da su to kadrovi sa ulice ili detalji enterijera. VI softver koji sam koristio bi napravio čudne kombinacije od dvije ili više fotografija kojim bih ga “hranio”. Korak dalje je bio prenošenje tih čudnih kreacija u formu štampe, odnosno knjige, kroz tehniku rizografije. Hoću da kažem da mi je to bila jedina prilika da korišćenje VI učinim donekle zabavnim, i praktičnim u smislu dolaska do određenog cilja, ali uz jedan veliki oprez. Jer i pored ovog iskustva, ostajem pri tome da je upotreba VI u generisanju slika prilično besciljna i dosadna, između ostalog.
Kakav je tvoj odnos prema etici upotrebe VI u stvaranju? Da li vidiš više mogućnosti ili rizika?
Svakako vidim više rizika u samoj upotrebi te tehnologije koja napreduje iz dana u dan i čije mogućnosti ne možemo sasvim ni da razumijemo. Na strani sam brojnih autorki/a koji se javno zalažu za prava svih čiji su radovi iz oblasti vizuelne umjetnosti, dizajna ili ilustracije korišćeni i/ili se masovno koriste za “treniranje” VI modela. Mnogi ilustratori i strip autori kroz pisanje nastoje da što bolje upoznaju ljude sa razmjerom ovog problema, i štetom koja se nanosi ne samo kroz obespravljivanje autora i sveukupno vizuelno zag(l)ušenje kojim upotreba ovog softvera često rezultira, već kroz navikavanje posmatrača na “hvatanje prečica” čak i kada je riječ o razmišljanju, posmatranju, promišljanju slika.
Preporučujem tekstove kanadskog ilustratora Džoa Morsa (Joe Morse) na platformi Substack - Džo jako dobro piše o ovoj temi. Nedavno je pokrenuta i društvena mreža “Cara” koja je zamišljena kao “utočište” za vizuelne umjetnike koji u svom radu ne koriste VI. Američko Društvo ilustratora (Society of Illustrators) je još krajem 2022. godine izdalo saopštenje u kojem se oštro usprotivilo komercijalnoj upotrebi “vještački” proizvedenih slika, i istaklo to da na njihovim godišnjim takmičenjima, na svim nivoima, neće i ne može biti mjesta vještačkoj inteligenciji. Sve ovo spominjem kao male korake koji nas, nadam se, mogu dodatno osvijestiti da je ta tehnologija već prisutna, da povratka nema i da od nje ne možemo pobjeći. Istovremeno, vjerujem da nas mogu i ohrabriti - postoje načini za organizovani otpor njenoj naizgled nezaustavljivoj ekspanziji u oblasti vizuelnih umjetnosti, a posebno ilustracije. Pomenuo sam da je u mom slučaju taj mikrootpor označen dosadom: VI je isprazna, uvijek mi je zabavnije crtati.
Da li si u toku procesa stvaranja ilustracija preispitivao svoje odgovore na zadate scenarije u igri?
Jesam, i radovalo me je da smo paralelno radili na scenarijima i ilustracijama - tako smo zajednički i došli do određivanja tog specifičnog ugla gledanja, gdje igrač iz prvog lica može da svjedoči svakoj od zamišljenih situacija. Mislim da je prednost igre u mogućnosti nijansiranja odgovora, u tome da izbor nije sveden na ovu ili onu opciju, na ispravnu ili pogrešnu odluku, već je to uvijek negdje “između”.
U toku tog procesa je djelovalo kao da radimo na detektivskom stripu, ili na kadrovima za animirani film. Izazov je ležao u složenosti ilustracija, što sam na neki način sam sebi nametnuo - i vjerujem da to dobro odražava prirodu igre, koja je u osnovi jednostavna, dok pojedinačni zadaci postaju sve složeniji kako igra napreduje.
Posebno su dragocjeni elementi bilježenja i prikupljanja informacija, kao i motiv detektivske sobe - prostora za promišljanje, sagledavanje utisaka, povezivanje činjenica i donošenje odluka. Ilustracije su na neki način “modularne”, iako to na prvi pogled nije očigledno - svaki scenario ima dvije verzije, što je zahtijevalo njihovu adaptaciju. Osnovni događaji, odnosno prizori - ostaju isti, ali se određeni segmenti ilustracija mijenjaju u zavisnosti od glavnog aktera.
Činjenicom da je cilj ovog istraživanja i edukovati ljude o odgovornosti VI, da li si došao do nekog novog saznanja o VI? Ili o svom načinu određivanja odgovornosti?
Tokom rada na ilustracijama scenarija u igri, naravno da sam razmišljao o tome kako i sam donosim odluke o odgovornosti. Jasno je da često intuitivno koristimo kombinaciju uzročnosti i etičkih principa, ali da ne razmišljamo uvijek eksplicitno o svim tim procesima, da nemamo priliku da ih detaljno analiziramo na način na koji je to ponuđeno u ovoj igri.
Rad na ovom projektu - dakle ne samo kroz crtež, ilustraciju i dizajn, već i kroz nešto detaljniji uvid u svaki od slučajeva, kroz dijalog sa istraživačima - pomogao mi je da temeljnije sagledam te mehanizme, da ispitam kriterijume koje koristimo pri donošenju odluka o odgovornosti, i da prepoznam koliko su kontekst i perspektiva značajni u određivanju same odgovornosti, bilo da je govorimo o ljudima ili VI sistemima. Čini se da je prošlo više vremena otkako smo radili na ovoj igri nego što zapravo jeste. Jedan od razloga za to je ubrzani razvoj vještačke inteligencije i naši napori da se nosimo s tim fenomenom.
Odgovornost bez krivca: Kako rješavati moralne dileme nesreća?
Sa Darkom Stojilovićem razgovaramo o tome kako ljudi intuitivno pripisuju odgovornost čovjeku i VI u kontekstu nesreća, na osnovu nedavnog istraživanja koje je koristilo interaktivne scenarije kako bi bolje razumjelo procese donošenja moralnih sudova. Saznajemo da, iako ljudi VI često percipiraju kao odgovornu, istovremeno osjećaju potrebu da pronađu formalne aktere - programere, kompanije i proizvođače - koji mogu snositi pravne posljedice. Ovakva saznanja mogu igrati ključnu ulogu u razvoju etičkih standarda i zakonskih regulativa koje će osigurati odgovornu upotrebu vještačke inteligencije i smanjenje broja nesreća.
Kako bolje razumijevanje načina na koji ljudi pripisuju odgovornost čovjeku i VI prilikom nesreća može doprinijeti unapređenju etičkih standarda u radu VI, i u krajnjem, smanjenju broja nesreća?
Posljednjih godina, autonomna vozila usmrtila su pješake, robot je tokom partije šaha polomio prst djetetu, a mladić u Belgiji oduzeo je sebi život nakon uznemirujuće interakcije sa velikim jezičkim modelom. Ove slučajevi pokreću složeno pitanje krivice i odgovornosti u kontekstu vještačke inteligencije (VI).
Ključni problem leži u tome što je posljednji činilac u uzročnom lancu bila vještačka inteligencija, koja je djelovala autonomno. Iako su kompanije, inženjeri i programeri učestvovali u njenom razvoju, oni nisu neposredno izazvali nesreću. Ipak, njihov doprinos nesrećnim ishodima nije zanemarljiv, što dovodi do tzv. “rupa u odgovornosti” i otvara pitanje kako pravilno raspodijeliti krivicu. Ovakva nejasnoća istovremeno stvara prostor za prebacivanje odgovornosti, jer pojedinci i kompanije mogu tvrditi da nije na njima da snose posljedice, već da je odgovornost na samoj vještačkoj inteligenciji koja je prouzrokovala nesreću.
Međutim, to vodi u pravni i etički vakuum - ako VI nije pravni subjekt, kakav bi uopšte bio smisao pripisivanja odgovornosti nečemu što ne razumije moralne norme, ne posjeduje mens rea i ne može biti kažnjeno u klasičnom smislu? Iako su ova pitanja predmet intenzivnih filozofskih rasprava, još uvijek postoji nedostatak empirijskih istraživanja o tome kako ljudi intuitivno percipiraju odgovornost VI.
Bolje razumijevanje načina na koji ljudi pripisuju odgovornost vještačkoj inteligenciji može pomoći u prevazilaženju ovih izazova. Ako znamo kako ljudi intuitivno percipiraju odgovornost u incidentima sa VI, možemo razviti pravne, etičke i tehničke mehanizme koji bolje odražavaju društvena očekivanja i sprečavaju prebacivanje odgovornosti na entitet koji ne može snositi posljedice. Dosljedno utvrđivanje odgovornosti stvara podsticaj za kompanije i inženjere da razvijaju bezbjednije sisteme, što može dovesti do smanjenja broja nesreća i rasta povjerenja u nove tehnologije.
Koje faktore su ispitanici najviše promatrali kada su određivali da li je VI odgovorna za neku nesreću? Koje faktore su najviše promatrali kada je čovjek izazvao nesreću?
Kada dođe do nesreće, prolazimo kroz niz kriterijuma kako bismo utvrdili da li ćemo nekoga smatrati krivim. Prvi korak je da utvrdimo ko ili šta je prouzrokovalo nesreću. Ako je snažna oluja dovela do sudara dva automobila - odustaćemo od potrage za (ljudskim) krivcem. Međutim, ako je vozač udario drugo vozilo, želimo da znamo da li je to učinio namjerno.
Procjena namjere ključan je korak - ako je vozač izazvao nesreću s namjerom, smatraćemo ga izuzetno odgovornim. Ako namjera nije postojala, važno nam je da utvrdimo da li je pokušao da spriječi nesreću (npr. zakočio ili promijenio putanju), da li je imao obavezu da to učini i da li je to bilo uopšte moguće. Ovi faktori će presudno uticati na stepen krivice koji ćemo dodijeliti. Psihološka istraživanja ukazuju da upravo na ovaj način ljudi pripisuju krivicu drugim ljudima. Međutim, nas je zanimalo da li koriste isti model i kada procenjuju odgovornost vještačke inteligencije. Zato smo osmislili eksperiment sa hipotetičkim scenarijima koji uključuje ove faktore i u kojima nesreću izaziva ili ljudski vozač ili autonomno vozilo.
Šta nam govori razlika u faktorima koje promatramo kada pripisujemo odgovornost čovjeku u odnosu na one koje promatramo kada pripisujemo odgovornost VI?
Pomalo iznenađujuće, nije bilo nekih velikih razlika u načinu na koji su ljudi pripisivali krivicu vještačkoj inteligenciji u poređenju s čovjekom. Ključni faktori u određivanju stepena krivice bili su namjera i pokušaj sprečavanja nesreće - i kada je u pitanju vozač i kada je riječ o autonomnom vozilu. Ovo, pritom, nije prvi nalaz koji ukazuje na to da ljudi imaju tendenciju da koriste informaciju o namjeri vještačke inteligencije kako bi je okrivili.
Činjenicom da VI nije moralni akter u punom smislu te riječi (ne razumije značaj svojih djela i nije u potpunosti samostalna), ne osjeća krivicu i ne može poći u zatvor, kome su ispitanici pripisivali odgovornost za izazivanje nesreće?
Iako ljudi dosljedno pripisuju visoku krivicu akteru koji je neposredno izazvao nesreću, bilo da je to autonomno vozilo ili ljudski vozač, razlika se javlja u načinu na koji ljudi sude o krivici drugih uzročno povezanih aktera. Konkretno, kompanija i proizvođač autonomnog vozila smatrani su veoma krivim za nesreću, dok isto nije važilo za kompaniju i proizvođača vozila kojim je upravljao čovjek.
Naša pretpostavka je da su ispitanici pripisivali krivicu autonomnom vozilu na način koji je prije svega metaforički, ali su istovremeno osjećali potrebu da pronađu aktere koji mogu biti formalno odgovorni. To se vidi iz činjenice da, iako su smatrali autonomno vozilo krivim, to ih nije spriječilo da visoku krivicu pripišu i kompaniji, proizvođaču i programerima. S druge strane, kada su procjenjivali slučaj s ljudskim vozačem, nisu u značajnoj mjeri krivili ni kompaniju ni proizvođača - bilo im je dovoljno to što su utvrdili da je kriv čovjek koji je upravljao vozilom.
Ovo sugeriše da ljudi intuitivno prepoznaju rupe u odgovornosti, te da njihovo rješenje vide u pripisivanju krivice kompanijama i programerima koji stoje iza razvoja autonomnih sistema.
Bonus video:
