Veštačka inteligencija odavno više nije tema rezervisana za programere, tehnološke kompanije i investitore. Nalazi se u telefonu, poslu, školi, medicini, pretraživanju informacija, pisanju, kupovini i donošenju odluka. Sve češće se nalazi i tamo gde je korisnik ne vidi. Zato pitanja koja je glavna urednica Fortune magazina Alison Šontel postavila Semu Altmanu više nisu samo pitanja za direktora i suosnivača OpenAI-ja. To su pitanja koja se, posredno ili sasvim neposredno, tiču svakoga.
Koliko je ova tehnologija zaista bezbedna? Da li ljudi koji je stvaraju još mogu da je kontrolišu? Postoji li trenutak kada bi razvoj trebalo zaustaviti? Ko će odlučiti gde je granica? I mogu li kompanije i države koje se međusobno takmiče da uspore ako procene da je rizik postao prevelik?
Altmanovi odgovori zanimljivi su upravo zato što ne dolaze od kritičara veštačke inteligencije. Dolaze od čoveka koji vodi kompaniju koja je njen razvoj pretvorila u jednu od najvećih tehnoloških trka ovog vremena. A njegova osnovna poruka više nije samo optimistična.
„Danas smo očigledno stigli do tačke gde postoji ogroman potencijal i stvaran rizik“, rekao je Sem Altman za Fortune.
Može li AI jednog dana da izmakne kontroli?
To je verovatno najvažnije pitanje, koliko god još uvek zvučalo kao tema naučne fantastike. Altmanov odgovor je – da, takva mogućnost postoji.
U razgovoru za Fortune rekao je da je mogućnost da veštačka inteligencija postane toliko moćna da izađe iz ljudske kontrole „apsolutno“ realna. Još važnije, smatra da sadašnji bezbednosni standardi nisu dovoljno razvijeni da bi se sposobnosti najnaprednijih modela bezbrižno nastavile povećavati istim tempom. To menja način na koji bi trebalo posmatrati AI.
Za prosečnog korisnika ChatGPT ili neki drugi AI alat danas deluju prilično bezazleno. Postavlja se pitanje, stiže odgovor. Pomaže oko mejla, analize podataka, učenja jezika, poslovnog plana ili ideje za putovanje. Ali, ono što korisnici danas vide nije krajnji domet tehnologije.
Kompanije razvijaju sisteme koji sve samostalnije obavljaju zadatke, koriste druge alate i donose niz odluka bez ljudskog vođenja svakog pojedinačnog koraka. Zato pitanje bezbednosti više nije samo pitanje da li će chatbot dati pogrešan odgovor. Pitanje je koliko će ljudi razumeti šta mnogo sposobniji sistemi rade i da li će moći da ih zaustave kada njihovo ponašanje ne odgovara ljudskoj nameri.
Altman kaže da pre daljeg velikog povećavanja sposobnosti mora biti napravljen napredak u nekoliko oblasti: mogućnosti nadgledanja modela, razumevanju onoga što model radi i usklađivanju njegovog ponašanja sa ljudskim vrednostima i namerama korisnika. Dakle, nije dovoljno napraviti inteligentniji sistem. Mora da postoji i način da se razume i kontroliše.
Ako postane opasno, da li bi zaista zaustavili razvoj?
Tu je jedno još važnije pitanje.
Tehnološka trka danas podrazumeva ogromne investicije, tržišnu vrednost, centre podataka, čipove, stručnjake i geopolitičku konkurenciju. Kada je toliko novca i moći u igri, koliko je realno očekivati da će neka kompanija dobrovoljno pritisnuti kočnicu?
Altman tvrdi da bi to učinio.
Rekao je da nikakvo „kockanje sa čovečanstvom“ nije prihvatljivo i da bi bio spreman da se suprotstavi investitorima ako bi bilo potrebno usporiti ili potpuno zaustaviti razvoj zbog bezbednosti. OpenAI, prema njegovim rečima, razmatra i pauze prilikom prelaska na nove nivoe sposobnosti kako bi bezbednosna istraživanja dobila vreme da ih sustignu.
Koliko je tema ozbiljna pokazuje i odluka o izlasku OpenAI-ja na berzu. Altman je potvrdio da se to neće dogoditi 2026. Smatra da bi, zbog svega što se trenutno događa oko bezbednosti AI-ja, ovo bio loš trenutak za izlazak na berzu. Kompanija, rekao je, ima važnijeg posla – da odgovori na pitanja bezbednosti i usklađivanja sve moćnijih modela. To je zanimljiv detalj čak i za ljude koje berza uopšte ne zanima. Jer otvara mnogo veće pitanje: šta se događa kada poslovni interes i bezbednost tehnologije više ne pokazuju u istom smeru?
Altman tvrdi da bezbednost mora imati prednost a tek će budućnost pokazati koliko će to obećanje biti teško održati.
Ko zapravo može da stavi tačku?
Tu problem postaje još komplikovaniji ako se postavi pitanje ko to zapravo može da zaustavi trku i stavi tačku. Čak i ako jedna kompanija odluči da uspori, konkurencija može da nastavi.
Ako američke kompanije uspore, može li Kina da ubrza? Ako OpenAI stane, šta će uraditi Anthropic, Google DeepMind ili drugi? I kako od kompanije koja ulaže milijarde u tehnologiju tražiti da dobrovoljno prepusti prednost konkurenciji? Zbog toga Altman više ne govori samo o pravilima unutar OpenAI-ja.
Nagovestio je da vodeće AI kompanije razgovaraju o mogućem zajedničkom dogovoru o usporavanju razvoja kako bi bezbednost mogla da sustigne sposobnosti modela. Kada ga je Šontel pitala zašto se vodeći ljudi kompanija jednostavno ne sastanu i dogovore, Altman je odgovorio da veruje da će se nešto takvo dogoditi, ali nije želeo da unapred govori o privatnim razgovorima.
Još veći dogovor morao bi da uključi države.
Altman smatra da bi čak i sporazum SAD i Kine o zajedničkim standardima i testiranju predstavljao veliki korak. Njegova logika je da obe strane mogu želeti tehnološku prednost, ali nijednoj ne koristi trka u kojoj pokušaj da se stigne prvi povećava mogućnost gubitka kontrole nad tehnologijom. To možda zvuči kao pitanje geopolitike, ali posledice su takve da utiču na svačiji život, svakoga dana.
Ako AI postane infrastruktura rada, obrazovanja, medicine, finansija i komunikacije, pravila po kojima se razvija uticaće na svakodnevni život slično kao pravila koja danas određuju bezbednost lekova, aviona, banaka ili hrane. Samo što se ova tehnologija razvija mnogo brže nego što su se razvijali sistemi kontrole oko prethodnih velikih tehnologija.
Najvažnije pitanje više nije šta AI može
Godinama je razgovor o veštačkoj inteligenciji uglavnom počinjao pitanjem: Šta će sledeće moći da uradi?
Sada se pitanje menja.
Nije više dovoljno znati koliko će AI biti inteligentniji, brži i korisniji. Potrebno je znati ko određuje njegove granice, ko proverava da li ih poštuje i šta se događa ako kompanija zaključi da sledeći korak više nije dovoljno bezbedan.
Upravo zbog toga je ovaj razgovor sa Altmanom važniji od još jedne priče o novoj verziji ChatGPT-a. Čovek koji se nalazi na samom vrhu razvoja veštačke inteligencije ne tvrdi da razloga za strah nema. Naprotiv, priznaje da postoji stvaran rizik i da industrija dolazi do tačke na kojoj tehnološke mogućnosti ne bi trebalo da napreduju mnogo brže od sposobnosti ljudi da ih razumeju i kontrolišu.
To ne znači da je katastrofa neizbežna. Ne znači ni da bi svakodnevnu upotrebu AI-ja trebalo posmatrati sa strahom. Ali, znači da se promenila priroda razgovora. Do juče je najzanimljivije pitanje bilo šta će veštačka inteligencija omogućiti ljudima. Danas postaje podjednako važno pitanje šta ljudi neće dozvoliti veštačkoj inteligenciji i ko će imati moć da tu granicu zaista postavi.
