Početkom ove godine, jedan zaposleni u tehnološkom gigantu Meta napravio je sistem za praćenje koliko svaki član osoblja koristi veštačku inteligenciju.
Sistem je nazvan „Claudeonomics“ (po četbotu Claude), a funkcionisao je kao rang lista zasnovana na broju tokena koje svaki korisnik razmeni sa AI modelima. Lideri na listi dobijali su titule poput „Legenda tokena“. (Tokeni su mali delovi teksta, svaki dužine oko četiri karaktera, koje jezički modeli koriste za obradu informacija.)
Meta nije usamljena u svojoj fascinaciji terminom „tokenmaxxing“ (maksimizacija tokena). AI laboratorije OpenAI i Anthropic, platforma za e-trgovinu Shopify, kao i investiciona firma Sequoia Capital, navodno prate upotrebu AI-a i nagrađuju najaktivnije korisnike, od kojih neki „sprže“ milijarde tokena nedeljno.
Svođenje nečijeg učinka na jednu metriku može biti privlačno za menadžment velikih korporacija. Ali, izbor onoga što se meri nikada nije neutralan i ako izmakne kontroli i pažnji, to može početi da menja viziju onoga što se zapravo ceni i vrednuje.
Rezultat diktira ciljeve
Jedan od najglasnijih zagovornika maksimizacije tokena je Jensen Huang, izvršni direktor kompanije Nvidia. On predviđa budućnost u kojoj će zaposleni u tehnološkom sektoru pregovarati o visokim „budžetima za tokene“ i trošiti ih brzinom koja je srazmerna njihovim platama. S obzirom na to da se oko 80% tih tokena trenutno obrađuje putem Nvidia čipova, Huangov entuzijazam je potpuno očekivan.
Ali, da li je potrošnja tokena korisna metrika za sve koji nemaju direktnu korist od obima AI procesiranja?
U svojoj nedavnoj knjizi The Score, filozof Si Ti Nuen analizira uspon merenja u modernom društvu i nudi korisne perspektive i razmišljanja. Kako Nuen kaže, „ono što merimo oblikuje naše ciljeve. Metrike razvijamo kao alatke iz praktičnih razloga – one standardizuju merenje vrednosti kako bismo mogli da uporedimo veliki broj inače različitih stvari“. Dakle, nešto se i meri da bi se moglo upoređivati, pa zatim i rangirati.
Nuen tvrdi da ova standardizacija dolazi na račun raznolikosti i osobenosti. U poslovanju, ona može da dovede do toga da zaposleni deluju zamenljivo. Odrediti koji zaposleni troši najviše tokena nedeljno je prilično jednostavno, ali to ne govori apsolutno ništa o kvalitetu ili uticaju njihovog rada.
Loša metrika, loši rezultati
U prošlosti su upitne metrike doprinele dramatično lošim ishodima. Pre globalne finansijske krize 2008. godine, mnoge finansijske institucije imale su sofisticirane sisteme merenja dizajnirane da podstaknu prodaju što većeg broja kredita u što kraćem roku. Rezultat je bio da su mnogi od tih kredita bili daleko rizičniji nego što je iko to shvatao.
Nuen naglašava da ljude ove vrste metrika mogu namamiti da misle kako su neizbežne. Ali jedna od centralnih lekcija filozofije morala jeste da treba zastati i postaviti bazična pitanja: Šta je dobar život i koje su vrednosti zapravo vredne da se za njima juri?
Huang i ostali obično ne predstavljaju „tokenmaxxing“ kao odgovor na ova pitanja, ali on upravo tako funkcioniše. Čemu vredi posvetiti svoju profesionalnu i kreativnu energiju? Odgovor koji nudi ova metrika je jednostavan: besumučnom trošenju tokena.
Nova vizija „dobrog života“?
Silicijumska dolina je u poslednje vreme proizvela zavidan broj manifesta i „kvaziustava“. Tu je „Claude-ov ustava“ kompanije Anthropic ili „Tehno-optimistički manifest“ Marka Andresena, koji zagovara ubrzanje tehnološkog napretka u službi ljudskog procvata.
„Neki od najuticajnijih tekstova u istoriji moralne i političke filozofije imali su upravo ovaj oblik – od Deklaracije nezavisnosti SAD do Komunističkog manifesta.
Jedan način da posmatramo ove proglase Silicijumske doline i trendove poput „tokenmaxxing-a“ jeste kao prepakivanje poznatih korporativnih floskula u uzvišeniji registar. Drugi način je da ih vidimo kao pokušaje da se uradi nešto mnogo ambicioznije: skiciranje obrisa nove i dalekosežne vizije dobrog života.
U tom kontekstu, metrike koje se koriste za merenje napretka postaju važne. „Tokenmaxxing“ već izlazi iz okvira tehnološke industrije – izveštaj škole Vorton (Univerzitet u Pensilvaniji) govori da mnoge organizacije počinju da daju prioritet korišćenju AI-a kod zaposlenih kao ključnom merilu uspeha“ zaključili su u jednom od razgovora Nuen i Liz Irvin profesori filozofije.
Metrike su korisne samo uz oprez
„Metrike imaju svoje mesto u složenom društvu. Često se rado oslanjamo na jednostavne ocene, menjajući nijanse za praktičnost (poput recenzija restorana)“ kaže Nuen i podvlači da problem nastaje kod onoga što naziva „zarobljavanje vrednosti“ – kada „nekritički dozvolimo spoljnim metrikama da odrede naše lične ciljeve i ponašanje“.
Odupiranje ovom procesu podrazumeva preispitivanje onoga što se meri. Umesto brojanja tokena, mogli bismo, na primer da koristimo ekvivalentnu metriku kao što je potrošnja energije. „Energymaxxing“ bi zvučao više kao rasipništvo nego kao poboljšani učinak.
Brojanje tokena je mera AI aktivnosti, koja je i sama zamišljena kao mera produktivnosti, što opet ostavlja po strani pitanje – šta se zapravo proizvodi? „Ne samo da je „tokenmaxxing“ sumnjiva metrika sama po sebi, već može i ozbiljno da iskrivi našu sliku o tome šta je u radu zaista važno“ rekao je i upozorio filozof Nuen i kao i više puta do sada postavio pitanje:
Da li merenjem svega sve i uništavamo?
