Evropski parlament izglasao Zakon o vještačkoj inteligenciji: Pravila za primjenu u uslovima nivoa rizika

Evropski parlament je danas izglasao svoju pregovaračku poziciju o Zakonu o vještačkoj inteligenciji (AI) uoči razgovora s državama EU u Savjetu EU o konačnoj formi tog propisa.

Evropska unija dvije godine raspravlja o tom zakonu, koji bi mogao da stupi na snagu početkom 2025, a regulisaće svaki proizvod ili uslugu koja koristi sistem vještačke inteligencije, podsjeća AP.

Prvi sveobuhvatni zakon o vještačkoj inteligenciji predviđa pravila za primjenu AI u uslovima raznih nivoa rizika, od minimalnog do neprihvatljivog.

Biće zabranjeni AI sistemi "neprihvatljog rizika" koji se smatraju prijetnjom jer na neprihvatljiv način po ljude analiziraju, predviđaju i utiču na društveno ponašanje ljudi.

To su sistemi "društvenog bodovanja" koji klasifikuju ljude na osnovu ponašanja, socio-ekonomskog statusa ili ličnih karakteristika i sistemi biometrijske identifikacije u realnom vremenu i daljinski, kao što je prepoznavanje lica.

Međutim, stranke desnog centra u posljednjem trenutku su dodale amandman kojim se dozvoljava upotreba tih sistema u situacijama kao što su traganje za nestalom djecom, identifikacija osumnjičenih zločinaca i sprečavanje terorističkih prijetnji.

Sistemi kategorije "visokog rizika", poput aplikacija za zapošljavanje ili za proizvode namijenjene djeci, suočiće se sa težim zahtjevima i pravilima ograničenja koja se tiču transparentnosti i korišćenja podataka.

Zakon neće pretjerano ograničavati sisteme "ograničenog rizika", kategoriju u koju će najvjerovatnije biti klasifikovan generator tekstova ChatGPT. Izvjesno je da će sve usluge koje budu stvorene uz pomoć AI, imati posebne oznake i da će model sprečavati generisanje nezakonitog sadržaja.

Sistemi vještačke inteligencije sa "ograničenim rizikom" treba da budu u skladu s minimalnim zahtjevima za transparentnost koji bi omogućili korisnicima da donose odluke na osnovu informacija. Poslije interakcije sa aplikacijama za to, korisnik može odlučiti da li želi da nastavi da je koristi.

Korisnici treba da budu obaviješteni kada su u interakciji sa AI, kao i kada sistemi AI generišu ili manipulišu slikama, audio ili video sadržajem, na primjer "Deepfakes".

Po predlogu zakona, firme koje žele da u Evropi prodaju "rizične sisteme" moraju da ispune stroge uslove i uspostave "menadžment rizika" za svoje proizvode.

Biće provjere podataka kojima se uspostavljaju zasebni programi vještačke inteligencije, a firme u obavezane da informišu korisnike takvih sistema o svrsi u koju će biti upotrijebljeni njihovi podaci koje unose.

Predsjednik kompanije koja je prozvela softver za vještačku inteligenciju ChatGPT Sem Altman je prilikom posjete Njemačkoj upozorio na opasnost od suviše velike regulacije, ali nije ponovio ranije prijetnje da popularni softver neće biti dostupan u Evropi ako njeni zakoni budu prestrogi.

Evroposlanik Rene Repasi saopštio je, međutim, da ne treba brinuti, jer je evropsko tržište, sa 450 miliona potrošača, isuviše privlačno za ponuđače vještačke inteligencije da bi ga zaobišli.

"Onaj ko ovdje želi da prodaje svoju vještačku inteligenciju, mora da se ravna prema našim standardima", kaže Repasi koji tu temu prati za evropske socijaldemokrate.

Repasi kaže da su evroposlanici u stalnom kontaktu sa američkim kolegama jer navode da EU želi da stvori "standarde koji imaju smisla, a ne one koji su u međusobnoj konkurenciji".

Evropska unija nije veliki igrač u vrhunskom razvoju vještačke inteligencije. Tu ulogu preuzimaju SAD i Kina, ali Brisel često postavlja propise koji imaju tendenciju da postanu globalni standardi.

Prošle godine Bijela kuća je objavila "Nacrt zakona o pravima za AI" koji postavlja pet principa za sprečavanje diskriminacije i zaštitu privatnosti i sigurnosti korisnika, dok je američki Institut za standarde i tehnologiju objavio u januaru svoj okvir upravljanja rizikom od AI.

S druge strane, Velika Britanija koja je napustila EU 2020. godine, bori se za poziciju lidera u tom naprednom tehnološkom polju. Premijer Riši Sunak planira da najesen bude domaćin svetskog samita o bezbjednosti vještačke inteligencije.

"Vještačka inteligencija ima neviđeni potencijal da transformiše naše živote na bolje. Ali moramo da se osiguramo da će ona biti razvijena i korišćena potpuno bezbjedno", rekao je Sunak i dodao da Britanija ne rizikuje da bude isključena iz priprema koje sprovode Evropska unija i SAD.

Jedan od tvoraca jveštačke inteligencije, bivši saradnik Gugla Džefri Hinton, nedavno je u intervjuima upozoravao na opasnosti od sopstvenog proizvoda koji može da postane inteligentniji od ljudi koji su ga stvorili.

On je iznio stav da se još ne mogu sagledati promjene koje AI donosi na tržište rada i da čak i oni koji razvijaju te sisteme i vodeći ljudi Majkosofta ili Gugla priznaju da više ne znaju kako tačno funkcioniše primjena vještačke inteligencije.

( BETA )