“Treba da se čuvamo tehnoloških utopija. Tehnologija nam može biti od pomoći, ali ume da bude i veoma destruktivna. Nije dovoljno da samo razvijamo nove tehnologije. Moramo ih mudro koristiti.” Ovih reči, koje smo naveli u članku o ovom profesoru, piscu i istoričaru, Juval Noa Harari se izgleda i dalje drži.
On je u intervjuu za list Guardian rekao da bi veštačka inteligencija (AI) mogla da izazove finansijsku krizu sa „katastrofalnim“ posledicama.
On to objašnjava time da sofisticiranost tehnologije otežava predviđanje njenih opasnosti.
Za razliku od nuklearnog oružja, nije postojao jedan „veliki, opasan scenario“ koji su svi razumeli, rekao je on.
„Sa AI, ono o čemu govorite je veoma veliki broj opasnih scenarija, od kojih svaki ima relativno malu verovatnoću da zajedno predstavlja egzistencijalnu pretnju opstanku ljudske civilizacije.
Nemoguće predviđanje scenarija
Harari je pozdravio multilateralnu deklaraciju na globalnom samitu o AI bezbednosti. Vodeće vlade okupile da izraze zabrinutost zbog tehnologije i da urade nešto povodom toga, rekao je.
„Možda je ono što najviše ohrabruje ili daje nadu to što bi mogli da nateraju ne samo Evropsku uniju, Veliku Britaniju, Sjedinjene Države, već i vladu Kine da potpišu deklaraciju“, rekao je on. „Mislim da je to bio veoma pozitivan znak. Bez globalne saradnje, biće izuzetno teško, ako ne i nemoguće, obuzdati najopasniji potencijal veštačke inteligencije.”
Harari je rekao da je jedan problem sa bezbednosnim testiranjem modela predviđanje svih problema koje moćan sistem može da izazove.
„AI se razlikuje od svake prethodne tehnologije u ljudskoj istoriji. To je prva tehnologija koja može sama da donosi odluke, koja sama može da kreira nove ideje i koja može sama da uči i razvija se. Gotovo po definiciji, ljudima je izuzetno teško, čak i ljudima koji su stvorili tehnologiju, da predvide sve potencijalne opasnosti i probleme.“
Finansije su idealne za AI
Harari je ukazao na finansije kao na sektor koji je idealno pogodan za sisteme veštačke inteligencije. „Ovo je idealno polje za veštačku inteligenciju jer su to samo podaci“ – i potencijalni izvor ozbiljne krize izazvane veštačkom inteligencijom.
„Šta se dešava ako AI ne samo da dobije veću kontrolu nad finansijskim sistemom sveta, već počne da stvara nove finansijske uređaje koje samo AI može da razume. A koje nijedno ljudsko biće ne može da razume?“ rekao je Harari, dodajući da su finansijsku krizu 2007-08 izazvali dužnički instrumenti kao što su kolateralizovane dužničke obaveze (CDO). Njih je takođe malo ljudi razumelo i zbog toga su bile neadekvatno regulisane.
„AI ima potencijal da stvori finansijske uređaje koji su za redove veličine složeniji od CDO-a. I zamislite samo situaciju u kojoj imamo finansijski sistem koji nijedno ljudsko biće nije u stanju da razume. A samim tim ni da reguliše“, rekao je on.
[…] Meta je u velikoj žurbi da zaposli ljude koji će raditi na razvijanju veštačke inteligencije. Ekipa sajta The Information su iz, kako kažu, proverenih insajderskih izvora saznali i koje […]