Drama u OpenAI zbog otkrića koje je ‘pretnja čovečanstvu’?

Foto: Hal 9000

Za iznenadno otpuštanje, a zatim i vraćanje na posao Sema Altmana, prvog čoveka kompanije OpenAI mora da je postojao razlog.

Otkaz glavnom liku zaduženom za najpopularaniji četbot ChatGPT prouzrokovao je ‘pobunu’ u kompaniji, koja je pretila da je uništi, pa se Odbor predomislio i Altmana vratio na posao.

Mediji su sada u potrazi za razlogom koji je doveo do priče nedelje. Agencija Reuters je došla, možda, do prvog.

Pretnja čovečanstvu

Reuters je ekskluzivno objavio da je upravni odbor kompanije OpenAI nekoliko dana pre smene šefa Sema Altmana dobio vrlo ozbiljno upozorenje.

Nekoliko istraživača iz OpenAI-a napisalo je pismo upravnom odboru kompanije upozoravajući na moćno otkriće na polju veštačke inteligencije (AI) koje bi moglo da zapreti čovečanstvu, rekle su Reutersu dve osobe upoznate sa tom tematikom.  

To pismo, o kojem se dosad nije izveštavalo, izgleda da je bilo ključni događaji uoči smene Altmana.

Komercijalizacija AI

Reuters-ovi izvori su opisali pismo kao jedan od faktora na dužem popisu pritužbi odbora koje su dovele do Altmanove smene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja AI-ja pre nego što se u potpunosti razumeju posledice. Reuters nije uspeo da pregleda kopiju pisma, a osoblje kompanije koje je napisalo pismo nije odgovorilo na zahteve za komentar.

Nakon što ga je kontaktirao Reuters, OpenAI, koji je odbio da komentiriše pismo, potvrdio je u internoj poruci osoblju projekt pod nazivom Q* i pismo upravi pre smene Altmana, rekao je jedan od izvora.

Portparol OpenAI-ja rekao je da je poruka, koju je poslala dugogodišnja tehnološka direktorka Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentiarisala njihovu tačnost.

Potraga za AGI

Neki u OpenAI-ju veruju da bi projekt Q* mogao biti oznaka za značajan napredak u potrazi za onim što je poznato kao veštačka opšta inteligencija (AGI), rekao je jedan izvor za Reuters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka.

Istraživači smatraju da je matematika granica generativnog razvoja veštačke inteligencije. Trenutno je generativna veštačka inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sledeće reči, a odgovori na isto pitanje mogu uvelike varirati. Ali, sposobnosti rešavanja matematičkih zadataka, gde postoji samo jedan tačan odgovor, implicira da bi veštačke inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi se moglo, veruju istraživački AI-ja, primeniti na i nova naučna istraživanja.

Za razliku od digitrona koji može rešiti ograničeni broj operacija, AGI može generalizovati, učiti i razumeti.

Opasnost od AI

U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost veštačke inteligencije, rekli su izvori ne navodeći tačne sigurnosne probleme navedene u pismu. Među kompjuterskim naučnicima već se dugo raspravlja o opasnosti koju predstavljaju visokointeligentne mašine ako, na primer, odluče da im je uništenje čovečanstva u interesu.

Istraživači su takođe naglasili rad tima na projektu “AI naučnik”, čije postojanje je potvrdilo više izvora. Grupa, formirana kombinacijom ranijih timova nazvanih “Code Gen” i “Math Gen”, istraživala je kako optimizovati postojeće modele veštačke inteligencije kako bi poboljšala svoje razmišljanje i na kraju obavila naučni rad, rekao je jedan od ljudi.

Strogo je zabranjeno kopiranje tekstova osim u slučaju preciznog navođenja izvora i linka ka originalnom tekstu.

Podeli tekst

Ako ste propustili

Povezane vesti

Komentari +

OSTAVITE KOMENTAR

Molimo unesite svoj komentar!
Molimo unesite svoje ime ovde