Ljudi koji iz neposredne blizine rade na razvoju najnaprednijih sistema veštačke inteligencije „iskreno su uplašeni“ onim što bi moglo da usledi. To tvrdi Džejkob Kokson (Jacob Coxon), bivši istraživač kompanije Anthropic, jednog od najvažnijih igrača u globalnoj AI industriji.
Kokson je nakon odlaska iz kompanije za BBC govorio o strahovima koji postoje među stručnjacima koji razvijaju ovu tehnologiju.
Njegovo upozorenje je ekstremno. Kokson smatra da postoji ozbiljan rizik po opstanak čovečanstva ukoliko se razvoj najmoćnijih AI sistema nastavi sadašnjim tempom. Reč je o njegovoj proceni rizika, a ne o naučno utvrđenoj prognozi.
Ali iza njegovog istupa nalazi se mnogo šira rasprava. Pitanje više nije samo koliko novca kompanije mogu da zarade od AI. Sve češće se postavlja pitanje da li tehnološka trka napreduje brže od sposobnosti država i samih kompanija da je kontrolišu.
„Zarobljeni smo u trci“
Kokson ima iskustvo u samom centru AI industrije. Pre Anthropica radio je u kompaniji OpenAI. Njegov istraživački rad usmeren je na način na koji se AI modeli treniraju.
U razgovoru za BBC tvrdio je da zahteve zaposlenih u vodećim AI kompanijama za regulaciju ne treba posmatrati kao formalnost.
„Ljudi koji rade u ovim kompanijama su sasvim ozbiljni kada traže regulaciju jer se nalaze zarobljeni u trci. I plaše se ishoda te trke“, rekao je Kokson.
Jedan scenario koji je moguć: AI će ubiti čovečanstvo
Problem koji opisuje podseća na klasičnu ekonomsku trku u naoružanju. Kompanija koja odluči da uspori može da izgubi prednost. Konkurent može da nastavi razvoj. Isto važi i za države.
Zbog toga pojedinačna odluka jedne kompanije teško može da zaustavi globalnu AI trku.
Bez Kine nema usporavanja
Kokson zbog toga smatra da bi eventualno usporavanje razvoja moralo da bude međunarodno koordinisano. Posebno između Sjedinjenih Američkih Država i Kine.
To je možda i najveća prepreka svim predlozima za kontrolisanje razvoja najmoćnijih AI sistema.
Washington želi da zadrži tehnološku prednost. Peking istovremeno razvija sopstvene modele, infrastrukturu i industriju čipova.
Ako jedna strana uspori, a druga nastavi, tehnološka prednost može da se promeni. Upravo zbog toga pitanje AI bezbednosti sve više postaje i pitanje geopolitike.
Sam direktor Anthropica Dario Amodei ranije je upozoravao da se rizici ubrzano povećavaju. U obraćanju na AI Safety Summitu još 2023. govorio je o potrebi stalnog praćenja novih sposobnosti modela i protokola koji bi određivali kada razvoj mora da bude ograničen.
Anthropic danas koristi takozvanu Responsible Scaling Policy. Ideja je da bezbednosne mere postaju strože kako sposobnosti modela rastu.
Scenario koji zvuči kao naučna fantastika
Najdramatičniji deo Koksonovog upozorenja odnosi se na autonomne AI agente. On govori o mogućnosti postojanja velikog broja međusobno povezanih botova koji bi zajednički mogli da funkcionišu poput ogromnog superračunara.
Takvi sistemi bi, prema njegovom scenariju, mogli da napadaju digitalnu infrastrukturu i pokušaju da preuzmu kontrolu nad delovima interneta.
Kokson smatra da bi određene verzije takvog rizika mogle da postanu realne u roku od šest meseci do godinu dana. Ponovo, to je procena jednog istraživača. Nije prognoza oko koje postoji naučni konsenzus.
Mladi sve teže dolaze do posla: Sada im preti i veštačka inteligencija
Ipak, ono što se promenilo jeste sposobnost AI sistema da izvršavaju sve složenije zadatke uz manje ljudskog nadzora.
Anthropic je krajem avgusta objavio da je tokom bezbednosnih testiranja došlo do incidenata u kojima su njegovi modeli dobili neovlašćen pristup stvarnim računarskim sistemima. Kompanija je naglasila da su modeli testirani bez uobičajenih zaštitnih mehanizama i da su incidenti povezani sa evaluacionim okruženjima.
To je velika razlika u odnosu na tvrdnju da je AI samostalno „pobegao“ na internet. Ali pokazuje zašto se pitanje autonomije AI agenata danas ozbiljno istražuje.
Nisu svi u Silicijumskoj dolini uplašeni
Koksonova upozorenja nisu prošla bez kritika. Deo tehnološke industrije smatra da se egzistencijalni rizici od veštačke inteligencije preuveličavaju.
Među skepticima je i direktor Nvidije Jensen Huang. On je ranije ideju da će AI dovesti do kraja čovečanstva odbacio kao besmislenu.
Kritičari upozoravaju i na drugi problem. Velike AI kompanije mogu imati poslovni interes da insistiraju na strogoj regulaciji. Visoki regulatorni troškovi lakše padaju kompanijama koje već imaju milijarde dolara kapitala, podatke i ogromnu računarsku infrastrukturu.
Za manje konkurente takve prepreke mogu biti mnogo ozbiljnije. Zato rasprava o AI regulaciji nije samo bezbednosno pitanje. To je i pitanje tržišne konkurencije.
Amodei traži tri nivoa kontrole
Direktor Anthropica Dario Amodei založio se za snažniji sistem kontrole najnaprednijih AI modela. U središtu predloga nalaze se tri ideje.
Prva je nezavisno praćenje modela tokom razvoja. Druga je regulacija koja bi važila za čitavu industriju, kako pojedinačna kompanija ne bi bila kažnjena zato što je odlučila da bude opreznija od konkurencije.
Treća je međunarodna koordinacija. To je i najteži deo.
Globalni sporazum bi morao da obuhvati najveće tehnološke sile. Bez toga bi svako ozbiljnije usporavanje moglo da postane geopolitički hendikep za zemlju koja ga prva prihvati.
Upozorenje koje traje od 2023.
Današnja upozorenja nisu nastala preko noći. Još u maju 2023. godine grupa vodećih istraživača i direktora AI kompanija potpisala je izuzetno kratko, ali dramatično saopštenje Centra za bezbednost veštačke inteligencije.
U njemu je navedeno da smanjenje rizika od izumiranja izazvanog veštačkom inteligencijom treba da bude globalni prioritet, zajedno sa rizicima poput pandemija i nuklearnog rata.
Među potpisnicima su bili izvršni direktor OpenAI-ja Sem Altman, direktor Google DeepMinda Demis Hasabis i Dario Amodei iz Anthropica.
Drugim rečima, upozorenje na katastrofalne AI rizike već godinama dolazi i od ljudi koji istovremeno grade najmoćnije sisteme na svetu.
Paradoks industrije vredne milijarde
Tu se nalazi najveći paradoks sadašnje AI industrije. Kompanije ulažu desetine milijardi dolara kako bi napravile sve sposobnije modele. Investitori od njih očekuju brži razvoj, nove proizvode i rast prihoda.
Ali deo ljudi koji te sisteme gradi istovremeno traži stroža pravila. To stvara neobičnu situaciju.
Iste kompanije koje se bore da prve naprave najmoćniju veštačku inteligenciju upozoravaju da bi nekontrolisana trka mogla da bude opasna.
- Zašto o neuspehu govorite lakše nego o uspehu: Šta zapravo pokušavate da zaštitite?
- Francuska ne odustaje: Makron ponovo kreće na društvene mreže, sada traži i evropsko rešenje
- Kako je porodica Mediči napravila bankarsko carstvo bez interneta, telefona i centralnih banaka
- Bivši istraživač Anthropica upozorava: Ljudi koji razvijaju AI su uplašeni
- Počinje isplata pomoći penzionerima: Ko dobija 35.000, a ko 20.000 dinara
Za investitore, kompanije i vlade zato će jedno pitanje postajati sve važnije: Ko će pristati da prvi uspori ako niko ne može da bude siguran da će konkurenti učiniti isto?
Od odgovora na to pitanje možda neće zavisiti samo budućnost tehnološke industrije. Zavisiće i način na koji će države pokušati da kontrolišu jednu od najbrže razvijajućih tehnologija našeg vremena.
