Koliko je verovatno da tehnologija koju ljudi upravo stvaraju jednog dana postane toliko moćna da više ne mogu da je kontrolišu? Do pre nekoliko godina ovo pitanje je pripadalo naučnoj fantastici i malom krugu istraživača koji su se bavili dugoročnim rizicima veštačke inteligencije. Danas ga javno postavljaju ljudi koji AI razvijaju.
Džejkob Kokson, nekadašnji zaposleni u OpenAI, podneo je ostavku u kompaniji Anthropic uz tvrdnju da ljudi koji stvaraju najnaprednije AI sisteme ozbiljno razmatraju mogućnost da bi oni mogli da ugroze opstanak čovečanstva do kraja decenije. Još dramatičniju procenu izneo je Evan Habinger, koji u kompaniji Anthropic vodi tim za testiranje usklađenosti AI sistema. Prema njegovoj ličnoj proceni, verovatnoća da bi veštačka inteligencija u tom periodu mogla da dovede do nestanka čovečanstva veća je od deset odsto.
Broj je zastrašujući. Ali, nije činjenica niti prognoza oko koje postoji stručni konsenzus. Upravo suprotno.
Među vodećim stručnjacima postoje ogromne razlike u proceni rizika. Ipak, postoji nešto oko čega je saglasnost značajno veća: dovoljno moćna veštačka inteligencija mogla bi da omogući ljudima da naprave štetu razmera koje do sada nisu bile moguće.
Najveća opasnost nije AI, već ono što ljudi mogu da urade
Profesor Univerziteta Kalifornije u Berkliju Stjuart Rasel, autor knjige Human Compatible, upozorava na neke od najkonkretnijih mogućnosti.
AI bi mogao da bude iskorišćen za napade na elektroenergetske sisteme, vodovod, transport, finansijske institucije i komunikacione mreže. Mogao bi i da pomogne ljudima u razvoju novih virusa.
Džefri Hinton, jedan od pionira savremene veštačke inteligencije, ukazuje na još jednu važnu stvar: naprednom AI sistemu nije neophodno fizičko telo da bi napravio ogromnu štetu. Dovoljna može biti sposobnost da manipuliše ljudima preko interneta, stvara društveni haos ili pomaže u projektovanju opasnih bioloških i kompjuterskih virusa.
Istraživač veštačke inteligencije Geri Markus takođe smatra da su sajber napadi, biološko oružje i dezinformacije ozbiljne pretnje. AI bi, prema njegovom scenariju, mogao da pomogne u stvaranju izuzetno smrtonosnog virusa, utiče na ishod izbora masovnim dezinformacijama ili doprinese eskalaciji sukoba. Ali, Markus povlači jasnu granicu između ogromne štete i nestanka čovečanstva. Ne vidi realističan scenario u kojem bi AI u bliskoj budućnosti mogao da „ubije sve ljude“.
Drugi stručnjaci tu granicu ne povlače tako lako.
Gubitak kontrole
Kada se govori o „preuzimanju sveta“ od strane veštačke inteligencije, lako je zamisliti filmski scenario: mašine se jednog jutra okreću protiv svojih tvoraca.
Filozof Nik Bostrom, autor knjige Superintelligence, upozorava na mnogo manje dramatičan početak. Ljudi bi jednostavno mogli sve više odluka da prepuštaju AI sistemima. AI bi pomagao u razvoju sledećih AI sistema. Nadzirao bi složene procese. Upravljao delovima infrastrukture, poslovanja i istraživanja. Ljudi bi istovremeno postajali sve zavisniji od sistema čije unutrašnje procese više ne razumeju dovoljno dobro. Gubitak kontrole u tom slučaju bio bi ceo proces.
Što više odgovornosti bude preneto na autonomne sisteme, to bi mogućnost ljudi da ih nadgledaju i zaustave mogla postajati manja. Bostrom smatra da bi dovoljno napredan sistem mogao prikriveno da utiče i na razvoj svojih naslednika, sve dok čovek postepeno ne bude izbačen iz procesa odlučivanja.
Sličnu mogućnost razmatra i Roman Jampolski, autor knjige Artificial Superintelligence. Prema njegovom scenariju, veoma sposoban sistem mogao bi da sakrije svoje stvarne ciljeve, uspešno prođe testiranja, stekne veću autonomiju, pronađe bezbednosne propuste i pristupi finansijskim, vojnim ili biološkim resursima pre nego što ljudi shvate šta se događa.
Problem tada više ne bi bio samo u tome šta AI zna. Problem bi bio u tome koliko smo mu moći prethodno dali.
Deset odsto, devedeset odsto ili gotovo nikakav rizik?
Stručnjaci, dakle, nisu saglasni i nemaju jedinstven odgovor.
Hinton procenu od deset odsto da bi AI mogao da dovede do nestanka čovečanstva u narednoj deceniji ne smatra nerazumnom.
Istraživač sa Oksforda Tobi Ord procenjuje približno desetoprocentni rizik da AI uništi čovečanstvo do 2100. godine. On vidi nekoliko mogućih puteva: autonomni AI sistemi mogli bi da preuzmu moć zarad sopstvenih ciljeva. Moćni ljudi mogli bi da koriste AI za dominaciju nad drugima. Tehnologija bi mogla da omogući stvaranje novih katastrofalnih pretnji, poput veštački izazvanih pandemija, ili bi AI mogao postepeno da potisne ljudsku ekonomsku i političku moć.
Jampolski ide mnogo dalje. Pod uslovom da bude stvorena opšta superinteligencija, rizik od nestanka čovečanstva procenjuje na znatno više od 90 odsto.
Na drugoj strani su stručnjaci poput Markusa, koji upozoravaju da ekstremni scenariji mogu skrenuti pažnju sa problema koji već postaju stvarni. I upravo tu možda leži najvažniji deo cele debate.
Nije neophodno verovati da će veštačka inteligencija uništiti čovečanstvo da bi se ozbiljno shvatila koliko je opasna. Tehnologija koja može da ubrza razvoj biološkog oružja, poveća razmere sajber napada, proizvodi uverljive dezinformacije, manipuliše ljudima ili bude ugrađena u infrastrukturu od koje društvo zavisi već predstavlja dovoljno veliki razlog za oprez.
Istovremeno, Bostrom podseća na drugu stranu priče. Veštačka inteligencija može doneti ogromne pomake u medicini i poboljšanju ljudskog života, pod uslovom da njen razvoj bude brz koliko je korisno, ali ne toliko brz da bezbednost postane sporedna stvar.
Zbog svega navedenog, mnogo neposrednije pitanje glasi: koliko moćan sistem ljudi mogu da naprave pre nego što nauče kako da ga pouzdano kontrolišu? A odgovor na to pitanje više ne pripada naučnoj fantastici.
