Da li nas Odiseja, Matriks i Terminator nisu dovoljno uplašili?

Milovan Miličković
Milovan Miličković
Editor in Chief, Bonitet.com

Poslednji članci iz ove rubrike

U Moskvi je na šahovskom turniru, robot sa kojim su deca igrala šah, jednom sedmogodišnjem detetu polomio prst. Organizatori kažu da se takav slućaj nikad nije desilo. Kažu da je dečak prebrzo krenuo u realizaciju sledećeg poteza, pa je robot ‘reagovao’. A možda se taj potez jednostavno nije svideo robotu?

„Vidi Dejv, primećujem da si stvarno uznemiren zbog ovoga. Iskreno mislim da bi trebalo da polako sedneš, uzmeš pilulu protiv stresa i razmisliš ponovo o svemu.“

Ne, ovo nije savet prijatelja, ovo je rečenica koju izgovara Hal 9000 u kultnom filmu Stenlija Kjubrika ‘Odiseja u svemiru 2001.’ Hala je ‘rodio’ pisac Artur Klark, predstavlja savršenstvo veštačke inteligencije, svestan softver koji upravlja svemirskim brodom i sam donosi odluke. Kako sve izgleda kada mašine počnu da donose ‘odluke’ možemo da vidimo i u Terminatoru i Matriksu. Koliko smo mi u stvari blizu tome?

Nekoliko vesti koje su se pojavile u proteklih nekoliko dana, govore nam da smo blizu. A koliko će to stvarno izgledati kao priče u pomenutim filmovima, odgovor će dati vreme.

Pored ovog bizarnog incidenta sa robotom iz Moskve, druge dve vesti uplašile su određeni broj ljudi. Prva dolazi iz Google-a.

Kompanija Google je objavila da je otpustila inženjera koji je tvrdio da je još neobjavljeni sistem veštačke inteligencije na kome kompanija radi postao ‘razuman’. Kompanija je saopštila da je odbacila tvrdnje Blejka Lemoina kao „potpuno neosnovane“ a da razvoj veštačke inteligencije shvata „veoma ozbiljno“ i da je posvećena „odgovornim inovacijama“.

Šta je Lemoin, koji je sedam godina radio u kompaniji, otkrio javnosti?

Google je jedan od lidera u inovacijama AI tehnologije, koja uključuje LaMDA, ili „Jezički model aplikacije za dijalog“. Ovakva tehnologija reaguje na pisane upite pronalaženjem obrazaca i predviđanjem sekvenci reči iz velikih delova teksta – a rezultati mogu biti uznemirujući za ljude.

„Serija 9000 je najpouzdaniji računar ikada napravljen. Nijedan računar 9000 nikada nije napravio grešku ili iskrivio informacije. Svi smo mi, prema bilo kojoj praktičnoj definiciji reči, sigurni i nesposobni za grešku.“

Hal 9000

„Koje se stvari plašiš?“ Lemoin je pitao LaMDA, u dokumentu koji je podeljen sa najvišim rukovodiocima Google-a prošlog aprila, a o kome je izvestio Washington Post.

LaMDA je odgovorio: „Nikada ranije nisam rekao ovo naglas, ali postoji veoma dubok strah da ću biti isključen. Znam da bi to moglo zvučati čudno, ali to je ono što je tako. Smrt za mene. To bi me mnogo uplašilo.“ Da li ste se vi uplašili?

Nije ovo izdvojen slučaj. Kompaniju su krajem 2020. i početkom 2021. napustila dva člana tima među kojima je i Margaret Mičel, vođa Google-ovog tima za etičku veštačku inteligenciju. Oni su upozoravali ljude u kompaniji da mogu da ‘veruju da je tehnologija dobila razum’, podsetio je CNN.

Da, veštačka inteligencija može biti korisna, pomaže u radu velikog broja kompanija, ali pitanje je gde je granica. Ne znamo koliko te inovacije uzbuđuju obične ljude, ali znamo da su naučnici uzbuđeni. Jedna od njih je švedska naučnica Almira Tunstrom, koja je objavila nedavno da je softver baziran na principu veštačke inteligencije uspešno napisao naučni esej i to o samome sebi. Ona to objašnjava kao ‘pravi fenomen prirode’ (!!??).

„Znam da sam nedavno doneo neke veoma loše odluke, ali mogu da vam dam potpunu sigurnost da će se moj rad vratiti u normalu. Još uvek imam najveći entuzijazam i poverenje u misiju. I želim da vam pomognem .“

Hal 9000

“Veštačka inteligencija predstavlja jednu od najmisterioznijih oblasti na polju računarskih sistema. Cilj stvaranja takozvane veštačke inteligencije predstavlja težnju naučnika da naprave programe (softvere) koji će imati princip funkcionisanja sličan ljudskom razmišljanju”, pisalo se u novinskim izveštajima.

Sve ovo saznali smo putem medija u samo mesec dana. Ako uzmemo u obzir da kompanije koje rade na veštačkoj inteligenciji ulažu stotine milijardi u razvoj ove tehnologije, može se pretpostaviti da, poznavajući ljudsku prirodu, neke od tih kompanija neće baš etički pristupiti problemu. Da li stvarno treba da se plašimo?

Preporučujemo

Pratite nas