Strah od razvoja superinteligencije: AI pioniri traže pauzu

Sve veći broj ljudi želi da zaustavi razvoj veštačke inteligencije koja preti da nadmaši ljude. Pozivima na „pauzu“ priključili su se i pioniri AI i druge istaknute ličnosti.

Razvoj veštačke inteligencije kreće se vrtoglavom brzinom uz minimalan nadzor i uz punu podršku američke administracije. To izaziva strah među protivnicima AI.

Njihov poziv na akciju, koji je organizovao Institut za budućnost života, ima više od 800 potpisa. Među potpisnicima su i pioniri AI Jošua Bengio i Džefri Hinton. Tu je i suosnivač Applea Stiv Voznijak, ser Ričard Brenson, Stiv Benon, muzičar will.i.am i glumac Džozef Gordon-Levit.

„Pozivamo na zabranu razvoja superinteligencije, koja se ne smije ukinuti pre nego što se uspostavi široki naučni konsenzus da će se to sprovoditi sigurno i kontrolisano, kao i snažna podrška javnosti“, navode iz Instituta.

Grupa je takođe objavila anketu koja je pokazala da tri četvrtine odraslih osoba u SAD-u žele stroge propise o razvoju veštačke inteligencije. Čak 64 odsto ispitanika reklo je da želi „trenutnu pauzu“ u razvoju napredne AI.

Početkom 2023. godine, Institut za budućnost života i mnogi od istih potpisnika objavili su slično pismo. Tada su pozvali na šestomesečnu pauzu u obuci bilo kojih modela snažnijih od GPT-4. Poziv je mahom bio ignorisan.