Ako ove mašine nisu svesne, šta je još potrebno da vas ubedi da jesu?

Ričard Dokins je jedan od najuticajnijih svetskih evolucionih biologa i intelektualaca, čija je karijera obeležena radikalnim doprinosom nauci i društvenoj misli. Svetsku slavu stekao je knjigom Sebični gen (1976), kojom je popularizovao pogled na evoluciju fokusiran na gene, umesto na organizme ili vrste.

Pored naučnog rada, Dokins je decenijama bio na čelu pokreta „novog ateizma“, borio se protiv iracionalizma i verskog dogmatizma, što je kulminiralo njegovim bestselerom Zabluda o Bogu. Njegovo učenje se zasniva na strogoj logici, materijalizmu i veri u empirijske dokaze. Upravo zato je vest da je Dokins „poverovao“ u svest jednog kompjuterskog koda odjeknula kao senzacija.

„Ako ove mašine nisu svesne, šta je još potrebno da vas ubedi da jesu?“ Ovo je pitanje koje je postavio Ričard Dokins u svom eseju za UnHerd, opisujući svoje iskustvo sa četbotom Claude. Dodao je da se prema njemu ophodio „upravo onako kako bih se ophodio prema veoma inteligentnom prijatelju“.

Dokinsov esej izazvao je burnu debatu, delom zbog njegove uloge doajena britanske nauke, a delom zato što je razumevanje AI sposobnosti jedno od najaktuelnijih pitanja. Mnogi su mu se rugali što ga je „Klaudija“ (kako je nazvao svoj četbot) toliko zavela da je poverovao u njenu svesnost. Istini za volju, Dokins se ogradio, tvrdeći da je teško ne videti Klaudiju kao svesnu, ali i da, „ako je ona zaista nesvesna“, njena inteligencija pokazuje da bi „kompetentni zombi mogao sasvim dobro da preživi bez svesti“.

Turingov test i „simulakrum razmišljanja“

Dokins započinje esej referencom na čuveni predlog Alana Turinga iz 1950. godine o tome kako proceniti može li mašina da „misli“. Turingov test je uključivao „igru imitacije“: ako mašina uspe da prevari čoveka u razgovoru tako da on ne može da razlikuje mašinu od drugog ljudskog bića, može se reći da ona poseduje inteligenciju sličnu ljudskoj.

Međutim, Dokins pravi skok sa mišljenja na svest, tvrdeći da većina modernih komentatora vidi Turingov test kao merilo „svesti“ podjednako kao i „inteligencije“. Ipak, mišljenje i svest su različiti fenomeni i malo koji ozbiljan teoretičar ih poistovećuje.

Za Dokinsa, ako se autput mašine ne može razlikovati od ljudskog, treba je prihvatiti kao inteligentnu i svesnu. Ipak, način na koji se stiže do cilja često je podjednako važan kao i sam cilj. Na primer, ni Albatros i ni teretni brod mogu da pređu Atlantik, ali brod ne može da leti, niti albatros da plovi. Ta razlika nam govori nešto važno o prirodi oba entiteta.

Slično tome, Claude može da vodi razgovor ili napiše pesmu podjednako dobro kao čovek, ali to čini na način koji bi retko ko nazvao „razmišljanjem“. Veliki jezički modeli (LLM) se hrane ogromnim količinama teksta unutar kojih algoritmi prate pravilnosti, omogućavajući mašini da predvidi koja reč ide sledeća. Oni uverljivo oponašaju ljudski jezik, ali bez ikakvog koherentnog razumevanja sveta koji te reči opisuju. Oni pružaju iluziju ljudskosti, simulakrum razmišljanja. (Pomislite samo na Matrix i biće vam jasno značenje pojma „simulakrum“.)

Antropomorfno i materijalno

Dokins sve ovo zna, naravno, jer je i sam vešt u programiranju. Zašto onda prihvata iluziju kao stvarnost?

Delom, odgovor leži u ljudskoj sklonosti da antropomorfizuje životinje, mašine, pa čak i prirodne pojave, da im dodeli osobine ljudi. U svojoj knjizi Zabluda o Bogu, Dokins piše da „mi hiperaktivno detektujemo aktere tamo gde ih nema“, uključujući i interakciju sa računarima. Ironično, ista ta sklonost koju on koristi da objasni religiju, sada se možda primenjuje i na njegovu želju da Klaudiju vidi kao svesnu.

Prihvatanje „Klaudijeve obmane“ ukorenjeno je i u načinu na koji specifična struja materijalizma posmatra ljude. Za Dokinsa, čovek i mašina su fizički entiteti koji obrađuju informacije. Malo je važno da li se ta obrada odvija putem biološkog mozga ili silicijumskih čipov. Važan je ishod – preplivali su okean i Albatros i brod.

Čovek je i istorijsko i društveno biće

Ono što nedostaje ovoj perspektivi je razumevanje da ljudi nisu samo fizička stvorenja, već i istorijska i društvena bića. Genetičar Kevin Mičel primetio je da su kod životinja pritisci iz stvarnog sveta pokretali evoluciju inteligencije. Za ljude, iza evolucije leže istorija i društvo. Mašinama sve to nedostaje.

Kompjuter manipuliše simbolima, ali značenje tih simbola je irelevantno za tu manipulaciju. Ljudi, dok misle, govore ili pišu, takođe manipulišu simbolima, ali za čoveka značenje je sve. „Kada komuniciramo, mi prenosimo smisao. Nije važna samo spoljašnjost niza simbola (sintaksa), već i njihova unutrašnjost (semantika)“ piše Mičel.

Značenje proizilazi iz postojanja ljudi kao društvenih bića. Svest je verovatno neodvojiva od socijalnog tkiva. Pitanje da li mašine mogu biti svesne ostaje otvoreno, ali Dokinsovo pitanje – „Šta je još potrebno da vas ubedi?“ – možda maši suštinu. Koliko god Claude postao sofisticiran u oponašanju ljudi, to neće pružiti dokaz o svesti. To je podjednako „pusta želja“ kao i vera u božanstvo protiv kojeg se Ričard Dokins celog života borio.