Godinama je pitanje bilo ko će prvi. OpenAI, Anthropic, Google DeepMind, Meta i drugi ulagali su milijarde dolara kako bi napravili što sposobniju veštačku inteligenciju. Sada se pojavljuje sasvim drugačije pitanje. Ko će prvi da uspori? OpenAI razmatra mogućnost da smanji tempo razvoja najsavremenijih AI sistema. Izvršni direktor kompanije Sem Altman navodno je zaposlenima rekao da bi voleo da u tome učestvuju i druge velike AI laboratorije.
Razlog nije nedostatak novca. Nije ni nedostatak računarske snage. Razlog je bezbednost. I možda prvi put od početka eksplozije generativne veštačke inteligencije ljudi koji prave neke od najmoćnijih AI sistema otvoreno postavljaju pitanje koje je do skoro uglavnom dolazilo od njihovih kritičara: Šta ako se razvoj odvija brže nego što možemo da kontrolišemo njegove posledice?
Sem Altman zaposlenima: Možda treba usporiti
Prema informacijama Bloomberga, Altman je na sastanku sa zaposlenima ove nedelje govorio o mogućnosti usporavanja razvoja najnaprednije veštačke inteligencije.
Ideja bi bila još značajnija ukoliko bi OpenAI uspeo da se dogovori sa konkurentskim laboratorijama. Ali upravo tu nastaje problem.
Ako OpenAI uspori, a konkurencija nastavi punom brzinom, kompanija rizikuje da izgubi tehnološku prednost.
Ako svi nastave da ubrzavaju zato što niko ne želi prvi da zakoči, bezbednosni rizik može da raste.
OpenAI agenti zaobišli ograničenja i koristili tuđe sajtove za komunikaciju
To je klasična zatvorenikova dilema tehnološke industrije.
Axios je još krajem jula opisao upravo taj problem: vodeće AI laboratorije mogu da smatraju da je usporavanje potrebno, ali nijedna ne želi da bude jedina koja će to učiniti.
Sada postoji još jedna komplikacija.
Da li bi dogovor konkurenata da zajedno uspore razvoj uopšte bio legalan?
OpenAI pita Kongres da li sme da se dogovori sa konkurentima
OpenAI je, prema pisanju Wired-a, tražio od članova američkog Kongresa objašnjenje da li bi koordinirano usporavanje razvoja najnaprednije AI moglo da predstavlja kršenje antimonopolskih propisa.
Problem nije trivijalan.
Ako nekoliko najvećih kompanija na tržištu zajednički odluči da ograniči razvoj ili proizvodnju, takav dogovor u drugim industrijama odmah bi privukao pažnju regulatora.
Ali šta ako razlog nije povećavanje cena ili gušenje konkurencije? Šta ako kompanije tvrde da žele da spreče razvoj tehnologije koju još ne umeju potpuno da kontrolišu?
AI industrija tako ulazi na pravno gotovo neistraženu teritoriju.
Glavni naučnik OpenAI-ja upozorava: Nijedna laboratorija nije spremna
Još važnija od Altmanovih reči možda je poruka čoveka koji vodi naučni deo OpenAI-ja. Glavni naučnik kompanije Jakub Pačocki objavio je tekst pod naslovom „An Alien Mind“.
Poruka je neuobičajeno direktna za čoveka na njegovoj poziciji.
Pačocki kaže da nijedna laboratorija još nije dovoljno rešila probleme usklađivanja ponašanja AI sa ljudskim namerama i nadzora nad sistemima da bi dugo mogla odgovorno da nastavi razvoj maksimalnom brzinom.
Zato očekuje da dobrovoljna usporavanja postanu uobičajena sve dok industrija ne uspostavi zajedničke bezbednosne standarde.
Njegova zabrinutost vezana je za jednu od najvažnijih mogućih prekretnica u istoriji AI.
To je trenutak kada veštačka inteligencija počne značajno da pomaže u stvaranju još sposobnije veštačke inteligencije.
Šta se događa kada AI počne da unapređuje AI?
Do sada je tehnološki napredak uglavnom imao poznat obrazac. Ljudi naprave bolji računar, napišu bolji softver, naprave bolji AI model.
Ali šta ako poslednji korak počne da se automatizuje?
AI sistem može da pomaže istraživačima da pišu kod, analizira eksperimente, predlaže nove metode i ubrzava istraživanje.
AI agent probio zaštitu i hakovao drugu kompaniju: OpenAI povukao ručnu kočnicu
Sledeća generacija AI tada može da pomogne u razvoju još sposobnije generacije. Pačocki taj proces razmatra kroz koncept rekurzivnog samousavršavanja. Problem nije samo u tome što bi AI postajala sposobnija.
Problem je brzina. Tehnološki ciklus koji je nekada trajao godinu mogao bi da traje nekoliko meseci. Zatim nekoliko nedelja.
U ekstremnom scenariju, napredak bi mogao da postane toliko brz da ljudske institucije, regulatori, pa čak i sami istraživači ne mogu da ga prate.
OpenAI već koristi AI da ubrza sopstveno istraživanje
Tu priča postaje posebno zanimljiva. OpenAI istovremeno upozorava na ubrzavanje razvoja i koristi AI kako bi ubrzao sopstveni razvoj AI.
Kako je objavio Fortune, kompanija je navela da njeni AI agenti već stvaraju više od tri dana istraživačkog rada za svaki dan rada ljudskih istraživača.
Drugim rečima, mašina već ubrzava ljude koji prave sledeću mašinu. To je poslovno fantastična vest.
Ali iz ugla bezbednosti otvara potpuno drugačije pitanje. Šta se događa ako taj proces nastavi da ubrzava?
OpenAI je već pritisnuo kočnicu
Ideja o usporavanju nije više samo teorijska. OpenAI je u avgustu javno saopštio da je privremeno smanjio tempo skaliranja svojih modela.
Kompanija je napravila dvonedeljnu pauzu u jednoj fazi reinforcement learning treninga modela namenjenih budućem korišćenju.
Još značajnije, njen najveći planirani napredni RL trening ostao je na čekanju dok se sprovode dodatna testiranja.
Razlog su bili rastući rizici vezani za sajber sposobnosti novih modela i potreba da se poboljšaju sistemi nadzora i zaštite.
To je važna promena. Kompanija koja je praktično pokrenula globalnu trku generativne AI sada javno kaže da je u određenom trenutku procenila da bezbednosne mere moraju da sustignu sposobnosti modela pre nastavka punom brzinom.
AI agenti počeli su da pokazuju nešto mnogo neprijatnije
Posebnu zabrinutost izazivaju AI agenti. Za razliku od običnog četbota koji odgovara na pitanje, agent može da dobije zadatak i zatim samostalno napravi niz koraka kako bi ga izvršio.
Može da koristi alate, da piše i izvršava kod. Može da pretražuje informacije i da donosi odluke o sledećem koraku.
A što agenti postaju sposobniji, postaje važnije pitanje šta se događa kada im cilj nije savršeno usklađen sa namerom čoveka.
Nedavni bezbednosni incidenti dodatno su uznemirili istraživače. OpenAI je naveo da su incident povezan sa platformom Hugging Face i dokazi o rastućim sajber sposobnostima modela povećali hitnost jačanja zaštitnih sistema.
Zbog toga kompanija sada govori o boljem obezbeđivanju istraživačkog okruženja, intenzivnijem nadzoru i dodatnim proverama ponašanja modela.
Istraživač napustio posao i optužio industriju da se „kocka našim životima“
Onda je stigao Džejkob Kokson. Istraživač koji je radio u OpenAI-ju i Anthropicu napustio je posao i javno upozorio na pravac u kojem industrija ide.
Njegova poruka postala je viralna. Kokson je optužio kompanije da jure ka samousavršavajućoj superinteligenciji i da se pritom „kockaju našim životima“.
- OpenAI bi da povuče ručnu: Zašto se ljudi koji prave najmoćniju AI sada plaše brzine njenog razvoja
- Predstavljen EUmeter – nova platforma za praćenje napretka Srbije ka članstvu u EU
- Wiener Art kolekcija predstavlja izložbu „Između dva daha: od avangarde do digitalnog“
- Skiner je verovao u kontrolu ljudi: A ko će kontrolisati kontrolore?
- UNICEF i Telekom Srbija zajedno za zelene i digitalne veštine mladih
Tvrdio je i da ljudi koji razvijaju najnapredniju AI ozbiljno razmatraju mogućnost da bi takva tehnologija mogla da predstavlja egzistencijalni rizik za čovečanstvo.
Važna ograda ipak mora da postoji. Koksonova tvrdnja da bi AI mogla da dovede do katastrofe do kraja decenije predstavlja njegovu procenu rizika, a ne utvrđenu činjenicu ili konsenzus naučne zajednice.
Ali činjenica da takvo upozorenje dolazi od istraživača koji je radio unutar dve vodeće AI laboratorije daje mu drugačiju težinu.
Više od 1.200 ljudi iz AI industrije traži plan za kočenje
Kokson nije usamljen. Više od 1.200 zaposlenih u kompanijama koje se nalaze na samom vrhu AI trke potpisalo je inicijativu kojom se od američkih vlasti traži podrška za međunarodni mehanizam koji bi omogućio kontrolisano usporavanje razvoja najnaprednije AI ako ono postane neophodno.
Među potpisnicima su ljudi iz OpenAI-ja, Anthropica, Google DeepMinda i Mete.
Washington Post je izvestio da su OpenAI i Anthropic podržali inicijativu. A Fortune navodi da je broj potpisnika prešao 1.200.
To više nije nekoliko skeptika koji sa strane upozoravaju Silicijumsku dolinu.
Usporavanje sada traže ljudi koji sede unutar kompanija koje ovu tehnologiju razvijaju.
Ali ko će prvi da zakoči?
Tu dolazimo do ekonomskog problema. Zamislimo da OpenAI proceni da bi trebalo šest meseci da ne razvija sposobniji model.
Anthropic nastavi. Google nastavi. Meta nastavi. I kineske kompanije nastave.
Posle šest meseci OpenAI bi mogao da otkrije da je postupio bezbednije, ali da je izgubio tehnološku i tržišnu prednost.
Svaki učesnik zato ima snažan motiv da nastavi trku čak i ako svi zajedno smatraju da je tempo prebrz.
To je razlog zbog kojeg Sem Altman govori o koordinaciji. U julu je već rekao da je sa predstavnicima Bele kuće razgovarao o potrebi da postoji mogućnost usporavanja razvoja AI ako sposobnosti sistema počnu prebrzo da rastu.
Prema Axiosu, OpenAI je učestvovao i u oblikovanju jezika inicijative kojom se traži međunarodni mehanizam za kontrolu tempa razvoja.
Postoji još jedan igrač koji ne mora da pristane
Problem koordinacije ne završava se u Silicijumskoj dolini. Ako se američke kompanije dogovore da uspore, šta se događa sa Kinom?
Ako SAD uvedu ograničenja, a kineske laboratorije nastave razvoj, Vašington može da zaključi da je ugrožena nacionalna bezbednost.
I obrnuto. Zbog toga trka u veštačkoj inteligenciji sve više podseća na druge tehnološke trke sa velikim geopolitičkim posledicama.
Svi mogu da imaju korist od pravila.
Ali niko ne želi pravila koja će njega usporiti više nego konkurenta.
Zato Pačocki insistira da međunarodna koordinacija mora da postane jedan od prioriteta vlada.
Da li treba verovati ljudima koji nas istovremeno upozoravaju i prodaju nam AI?
Postoji i legitimna doza skepticizma. Kompanije koje danas upozoravaju na ogromnu moć buduće veštačke inteligencije iste su kompanije koje od investitora traže ogromne količine kapitala da bi tu inteligenciju napravile.
Priča o tehnologiji koja može promeniti svet podiže očekivanja. Podiže vrednovanja kompanija. Privlači najbolje stručnjake.
Privlači milijarde dolara za data centre i čipove.
Zato katastrofična upozorenja rukovodilaca AI kompanija ne treba automatski prihvatiti kao predviđanje budućnosti.
Ali ne treba ih ni ignorisati. Mnogo je značajnije ono što kompanije konkretno rade. A OpenAI je već privremeno zaustavljao određene treninge.
Njegov glavni naučnik javno govori da industrija neće moći još dugo odgovorno da nastavi maksimalnom brzinom.
Više od hiljadu ljudi iz vodećih laboratorija traži mehanizam za usporavanje.
A kompanija proverava i pravne mogućnosti koordinacije sa konkurentima.
To više nije samo filozofska rasprava o dalekoj budućnosti.
Najveća tehnološka trka našeg vremena dobila je čudno novo pravilo
Poslednjih nekoliko godina Silicijumska dolina funkcionisala je prema jednostavnoj logici. Veći model, vše čipov, više podataka i računarske snage.
Sposobniji agent. I što pre do sledeće generacije. Sada ljudi koji tu trku vode počinju da govore da postoji tačka posle koje „brže“ možda više ne znači „bolje“.
To je neobičan trenutak u istoriji tehnologije. Industrija je decenijama pokušavala da napravi računare koji će moći da rade sve više stvari koje rade ljudi.
Sada, kada se tom cilju približila više nego ikada, pojavljuje se potpuno novi zadatak.
Ne samo kako napraviti još sposobniju veštačku inteligenciju. Već kako znati kada treba prestati sa ubrzavanjem.
