Generalni direktor jedne od vodećih svetskih laboratorija za veštačku inteligenciju naglas je rekao ono što se priča po hodnicima: da niko zapravo ne zna kako veštačka inteligencija (AI) funkcioniše.
U eseju objavljenom na njegovoj ličnoj veb stranici, izvršni direktor kompanije Anthropic, Dario Amodei, najavio je planove za stvaranje robusne „magnetne rezonance na veštačkoj inteligenciji“ u narednoj deceniji. Cilj nije samo da se shvati šta pokreće tehnologiju, već i da se spreče sve nepredviđene opasnosti povezane sa onim što, kako kaže, ostaje njena trenutno enigmatična priroda.
„Kada generativni sistem veštačke inteligencije uradi nešto, poput sumiranja finansijskog dokumenta, nemamo pojma, na specifičnom ili preciznom nivou, zašto pravi izbore koje pravi — zašto bira određene reči u odnosu na druge ili zašto povremeno pravi greške iako je obično tačan“, priznao je izvršni direktor kompanije Anthropic.
Nedostatak razumevanja – presedan u istoriji tehnologije
Na prvi pogled, iznenađujuće je ljudima van sveta veštačke inteligencije da saznaju da ljudi koji grade ove napredne tehnologije „ne razumeju kako naše sopstvene kreacije veštačke inteligencije funkcionišu“, nastavio je on – i svako ko je uznemiren tim neznanjem „ima pravo da bude zabrinut“.
Ali na drugom nivou, možda nije; Svi generatori slika i teksta koji su eksplodirali u popularnosti u poslednjih nekoliko godina rade po istom principu unosa ogromne gomile podataka i omogućavanja statističkim sistemima da ih iskopavaju u potrazi za obrascima koji se mogu reprodukovati. Čitava stvar je vođena unesenim ljudskim kreativnim radom, a ne prvim principima mašinske inteligencije.
„Ovaj nedostatak razumevanja“, napisao je Amodej, „je u suštini bez presedana u istoriji tehnologije.“
Prema Amodeijevim rečima, to neznanje o tome kako veštačka inteligencija funkcioniše i koje nepredviđene rizike može predstavljati je pokretački faktor koji stoji iza Anthropic-a.
Pobegli iz OpenAI za bezbedniju AI
Krajem 2020. godine, izvršni direktor i njegova sestra Danijela napustili su OpenAI usred zabrinutosti zbog bezbednosnih praksi kompanije koju vodi Sem Altman — a posebno zbog toga što je kompanija odbacila te zabrinutosti u potrazi za profitom. Amoidei i petoro drugih bivših članova OpenAI-a osnovali su Anthropic sledeće godine kako bi radili na izgradnji bezbednije veštačke inteligencije — a deo tog rada izgleda da je bio usmeren na otkrivanje suštine tehnologije.
Amodei je napisao da je poslednjih meseci Anthropic počeo da se fokusira ne samo na pomoć u „upravljanju“ veštačkom inteligencijom – i njenim mogućim budućim potomstvom, veštačkom opštom inteligencijom – na načine koji bi koristili čovečanstvu, već i na „zavodljivu mogućnost“ da istraživači konačno shvate „unutrašnje funkcionisanje“ veštačke inteligencije, ili ovih sistema, „pre nego što modeli dostignu ogroman nivo moći“.
„Moćna veštačka inteligencija će oblikovati sudbinu čovečanstva“, zaključio je Amodei, „i zaslužujemo da razumemo sopstvene tvorevine pre nego što one radikalno transformišu našu ekonomiju, naše živote i našu budućnost.“
 funkcioniše.){kind=link}