Predviđanja o uticajima veštačke opšte inteligencije (AGI – Artificial General Intelligence) često se bave društvenim poremećajima poput gubitka radnih mesta ili povećane manipulacije pomoću veštačke inteligencije.
Međutim, Luis Rozenberg, naučnik i profesor, tvorac više od 300 patenata i prvih VR tehnologija još pre 25 godina, koji se bavi računarskim sistemima i softverima tvrdi da bi najdublji efekat AGI mogao da bude veoma ličan – kriza identiteta.
„Ako nekritički prepustimo svoje razmišljanje veštačkoj opštoj inteligenciji“, smatra Rozenberg, „temeljno ćemo potkopati ono što znači biti čovek.“
A šta sa identitetom?
Poslednjih nekoliko godina, preciznije, nakon pandemije Covdi 19, najčešće pitanje koje je postavlja profesionalcima, tvorcima AI i novih tehnologija je da li su ljudi uopšte mentalno spremni za veštačku inteligenciju.
U medijima ćete pronaći čitavu plejadu odgovora – od brige, optimizma i vere u napredak do suzdržanih komentara zbog nepredvidljivosti novog doba koje je na startu.
Što se tiče briga, uglavnom se tiču posledica po tržište rada, AI manipulacije i dezinformacija. Naravno, pominju se i moguće koristi – lečenje bolesti, revolucija u obnovljivim izvorima energije, otkrivanje misterija svemira, pa čak i mogućnost svetskog mira.
Zapravo, mali broj kompetentnih stručnjaka govori o tome kako će život izgledati dan nakon što AGI (veštačka opšta inteligencija), koja prevazilazi ljudske kognitivne sposobnosti, postane široko dostupna – od znanja i planiranja do kreativnosti i rešavanja problema. Čovek bi mogao da se oseća potpuno savladano i nadmašeno.
„To je sasvim realna mogućnost u vrlo bliskoj budućnosti, a niko koga poznajem se iskreno ne suočava sa dubokim i potencijalno demorališućim uticajem svega toga na naš ljudski identitet“ bio je sasvim jasan Luis Rozenberg.
Kada čovek izgubi kognitivnu nadmoć
„Ovu kritiku upućujem i sebi i primenjujem na sebe. Govorim o opasnostima superinteligencije više od deset godina, ali i ja sam se usredsredio na taktičke rizike poput problema AI manipulacije i paradoksa svesti. Međutim, ni ja se nisam iskreno suočio sa pitanjem:
Kako će moj život zaista izgledati onog dana kada kolektivno shvatimo da smo izgubili ’kognitivnu nadmoć’ na planeti Zemlji i da je verovatno više nikada nećemo povratiti?
Ono sa čim nisam hteo da se suočim jeste: kako ću se zaista osećati kada budem stajao sam u liftu gde smo samo ja i moj telefon, a najpametnije biće koje ide između spratova biće upravo taj telefon.
Kada zaista dopustite sebi da o ovome razmislite, shvatite da najveći uticaj na čovečanstvo neće biti ni preokret na tržištu rada, ni opasne nove AI tehnologije.
Ne. Najveći udarac biće identitetska kriza koja će nas pogoditi kao robotski udarac u lice, šokirajući nas uletanjem u novu realnost u kojoj AI u našim džepovima (a uskoro i u naočarima, slušalicama ili privescima) može da reši svaki problem s kojim se susretnemo i to brže, pametnije i kreativnije nego što bismo mi mogli ikada sami“ reči su tehnološkog eksperta i inovatora.
U toj novoj realnosti, ljudi će instinktivno tražiti savet od AI-a pre nego što uopšte pokušaju da se oslone na sopstveni mozak. A u mnogim slučajevima, kako predviđaju stručniji, neće čak ni morati da pitaju jer će uputstva sama dolaziti, direktno u naše oči i uši.
Zašto? Zato što će AI u vašim nosivim uređajima imati pristup kamerama i mikrofonima i moći će da vidi i čuje sve što vi vidite i čujete i da prati kontekst vašeg života u realnom vremenu. Takođe će voditi istorijski zapis vaših postupaka i reakcija, što će mu omogućiti da tačno predviđa vaše ponašanje i emocije u gotovo svakoj situaciji – pre nego što sami postanete svesni svojih potreba i želja.
Drugim rečima, kontekstualno svesni AI asistenti će vam davati savete bez ijedne vaše izgovorene reči.
„Na primer, dok hodate ulicom, AI može da primeti da nailazite na zlataru i da vas podseti da vam se bliži godišnjica braka. Pomoći će vam da odaberete poklon koji će vaša supruga obožavati jer AI zna njen ukus bolje od vas.
Ovo će promeniti ko smo, kako živimo i kako se povezujemo s drugima“ upozorava Rozenberg.
Čovek dobrovoljna marioneta
Tako da najveći rizik od takvih AI agenata i savetnika nije svesna manipulacija, već to što nadmašuju čoveka.
„Zamislite da imate superinteligentnog asistenta koji sedi na vašem ramenu, prati vaš život i šapuće vam savete. U početku će to delovati kao supermoć. Ali ubrzo će uslediti velika digitalna istina: da je glas u vašim ušima pametniji od glasa u vašoj glavi.
Šta se dešava kada više verujete veštačkoj inteligenciji nego sebi?
„Bojim se da ćemo postati dobrovoljne marionete svojih AI pomoćnika – ne zato što nas neko zlonamerno kontroliše, već zato što će nas njihovi saveti nadmašiti u svemu što pokušamo da smisleno rešimo sami.
Znam da će mnogi reći: „Nikada neću više verovati AI-u nego sopstvenom razumu.“
I ja bih voleo da verujem u to. Ali, bojim se da nisam jedini idiot koji je pratio GPS do kraja mračne ulice iako je znao da nešto nije u redu. A GPS nije ni blizu superinteligentan. To je samo alat“ reči su Rozenberga.
Trčanje ka novoj eri
Ali, oslanjanje na superinteligenciju koja može da vas nadmaši u razmišljanju, planiranju, pregovorima, pa i kreativnosti, to će bez sumnje pogoditi samu suštinu onoga što znači biti čovek.
„Trčimo ka eri u kojoj ćemo prepustiti svoje kognitivne sposobnosti, ono što nas čini misaonim bićima. Neki stručnjaci veruju da će nas to učiniti pametnijim, sposobnijim, da će to biti „mentalno proširenje“. Ali to nije jedini mogući ishod.
Ova nova epoha „proširenog uma“ može nas vrlo lako učiniti manjim, nesigurnijim i manje značajnim. Može čak narušiti i naše lične odnose.
Zamislite: kada vam partner pokloni nešto, zapitaćete se da li ga je izabrao on ili njegov AI.
Možda ćete se čak pitati: „Jesu li ove reči koje mi izgovara zaista njegove misli? Ili ih izgovara uz pomoć svog večitog digitalnog savetnika?“
I tako, najveća promena koju će AGI doneti neće biti spoljašnja već unutrašnja: preispitivanje ko smo i da li naš um još pripada nama“ rekao je Rozenberg.
Zabrinutost i alarm
„Izražavam ove zabrinutosti kao neko ko je čitavu svoju karijeru posvetio stvaranju tehnologija koje unapređuju ljudske sposobnosti – počev od mog ranog rada na razvoju proširene stvarnosti za Ratno vazduhoplovstvo SAD pre nekoliko decenija, pa do mog najnovijeg rada na kolektivnoj superinteligenciji zasnovanoj na veštačkoj inteligenciji.
Verujem da tehnologija može duboko da unapredi ono što jesmo, proširujući naše fizičke i mentalne sposobnosti, a da pri tome ostanemo ljudi.
Nažalost, linija između unapređivanja sebe i potkopavanja sebe, ili čak sopstvenog zamenjivanja, postaje sve tanja. Ako ne budemo promišljeni u načinu na koji uvodimo kontekstualno svesne AGI asistente, bojim se da ćemo preći tu liniju. Pošto se taj rizik ubrzano približava, pozivam istraživače i preduzetnike u oblasti veštačke inteligencije da ne razmišljaju samo o sudbonosnom danu kada ćemo kolektivno stvoriti AGI, već da se usredsrede na to kako će izgledati život čoveka dan posle toga“ napisao je Luis Rozenberg i alarmirao da je vreme za postavljanje ljudskih granica.