Istraživači upozorili na otkriće AI-a koje bi "moglo da ugrozi čovječanstvo"

Istraživači su odboru direktora kompanije OpenAi uputili pismo uoči smjene izvršnog direktora Sema Altmana. Altmana je odbor direktora otpustio, pa poslije četiri dana vratio na poziciju izvršnog direktora kompanije, nakon što je više od 700 zaposlenih zaprijetilo da će dati otkaz

37639 pregleda 92 reakcija 6 komentar(a)
Ilustracija, Foto: Shutterstock
Ilustracija, Foto: Shutterstock

Uoči četiri dana "u egzilu" izvršnog direktora kompanije "OpenAI" Sema Altmana, nekoliko istraživača te kompanije poslalo je upravnom odboru pismo u kojem upozoravaju na otkriće vještačke inteligencije za koju su rekli da bi moglo da ugrozi čovječanstvo, javlja Rojters, pozivajući se na dvije osobe "upoznate sa ovim pitanjem".

Prethodno neprijavljeni algoritam za pismo i AI bili su katalizator koji je doveo do toga da odbor otpusti Altmana, "poster dijete" generativne vještačke inteligencije, rekla su dva izvora Rojtersu.

Prije njegovog povratka u utorak, više od 700 zaposlenih je zaprijetilo da će dati otkaz i pridružiti se jednom od konkurenata "Microsoft" u znak solidarnosti sa Altmanom.

Izvori su naveli pismo kao jedan od faktora na dužoj listi pritužbi odbora koji su doveli do Altmanovog otpuštanja. Rojters nije imao uvid u kopiju pisma, a istraživači koji su ga napisali nisu neposredno odgovorili na zahtjeve za komentar, dok je "OpenAI" odbio da komentariše.

Sem Altman, izvršni direktor OpenAI-a
Sem Altman, izvršni direktor OpenAI-afoto: Reuters

Prema jednom od izvora, dugogodišnja izvršna direktorka Mira Murati spomenula je projekat, nazvan "Q*", zaposlenima u srijedu i rekla da je odboru poslato pismo prije događaja ovog vikenda.

Nakon što je priča objavljena, portparol OpenAI-a je rekao da je Murati rekla zaposlenima o čemu se radi u medijskim izvještajima, ali nije komentarisala tačnost informacija.

Kompanija koja je stvorila ChatGPT je postigla napredak na projektu "Q*", za koji neki interno vjeruju da bi mogao da bude proboj u potrazi za superinteligencijom, poznatom i kao vještačka opšta inteligencija (AGI), rekao je jedan od izvora Rojtersu.

OpenAI definiše AGI kao AI sisteme koji su pametniji od ljudi. S obzirom na ogromne računarske resurse, novi model je bio u stanju da riješi određene matematičke probleme, rekla je osoba pod uslovom anonimnosti jer nije bila ovlašćena da govori u ime kompanije.

Iako su matematički testovi bili na nivou učenika osnovnih škola, savršeno polaganje takvih testova učinilo je istraživače veoma optimističnim u pogledu budućeg uspjeha "Q*", rekao je izvor.

Rojters nije mogao nezavisno da provjeri mogućnosti "Q*" koje su tvrdili istraživači.

Bonus video: