Automobil drži svoju traku. Sam ubrzava. Sam koči. Menja trake. Prati saobraćaj. Na semaforu zna kada treba da stane. Posle nekoliko desetina kilometara čovek za volanom počinje da veruje mašini. A onda sklopi oči. Upravo tu počinje jedan od najvećih problema današnje autonomne vožnje. Automobili su postali dovoljno sposobni da vozaču uliju poverenje da više nije potreban. Ali većina još nije dovoljno sposobna da ga zaista zameni.
Na internetu se već mogu pronaći desetine snimaka ljudi koji spavaju za volanom Teslinih automobila.
Američki kongresmen Radža Krišnamurti sada traži reakciju regulatora.
Kako je objavio Rojters u tekstu koji je pokrenuo novu raspravu, Krišnamurti se pozvao na istraživanje NBC Newsa koje je identifikovalo 43 video-snimka na kojima vozači Tesle navodno spavaju ili su potpuno isključeni iz vožnje. Čak 17 snimaka pojavilo se tokom ove godine.
Problem nije samo u neodgovornim vozačima. Problem je u tome što automobil može da ostavi utisak da mu čovek više nije potreban. A to trenutno nije tačno.
Automobil koji „vozi sam“ nije nužno autonomni automobil
Ovo je najvažnija razlika. Tesla svoje sisteme naziva Autopilot i Full Self-Driving, odnosno FSD. Sam naziv „potpuno samostalna vožnja“ prosečnom korisniku može da zvuči kao da automobil može sve.
Ali Tesla navodi da vozač mora da bude potpuno pažljiv. Američka Nacionalna uprava za bezbednost saobraćaja na putevima, NHTSA, još je direktnija.
Prema objašnjenju NHTSA o nivoima automatizacije, čak i najviši nivo automatizacije koji je danas dostupan potrošačima zahteva punu angažovanost i pažnju vozača.
Kod sistema nivoa 2 automobil može istovremeno da upravlja, ubrzava i koči. Ali čovek je i dalje vozač. On mora da prati put. Mora da prati automobil. I mora da bude spreman da istog trenutka preuzme kontrolu.
Zaspati u takvom automobilu zato praktično znači ostaviti sistem bez rezervnog vozača.
Zašto je spavanje posebno opasno?
Postoji velika razlika između toga da vozač na trenutak skrene pogled i da zaspi. Ako sistem napravi grešku dok budan čovek prati put, postoji mogućnost da vozač reaguje.
Ako čovek spava, te poslednje linije odbrane nema. Automobil tada mora prvo da prepozna problem. Zatim mora da utvrdi da vozač ne reaguje. Mora da ga upozori. Vozač mora da se probudi, shvati šta se događa, proceni situaciju i tek onda preuzme kontrolu.
Tesla u Evropi: U jednoj zemlji rast 279 odsto, u drugoj pad 79 odsto
Pri brzini na autoputu za to može biti prekasno. NHTSA upozorava koliko je san za volanom opasan čak i bez automatizacije.
Mikrospavanje može da traje samo četiri ili pet sekundi. Pri brzini od 55 milja na sat, odnosno oko 88 kilometara na sat, automobil za to vreme može da pređe više od 90 metara.
Devedeset metara bez svesnog vozača. Kod automatizovanog sistema postoji još jedan paradoks. Automobil može kilometrima da radi savršeno. Upravo zbog toga čovek može još lakše da izgubi koncentraciju.
Problem se zove preveliko poverenje
Regulatori su na ovaj problem upozoravali mnogo pre najnovijih snimaka iz Tesli.
NHTSA je još u svojim smernicama za automatizovana vozila posebno upozoravala proizvođače na rizik od complacency, odnosno situacije u kojoj čovek počinje previše da veruje automatizaciji i prestaje da izvršava svoju ulogu nadzora.
Kod sistema nivoa dva vozač mora kontinuirano da prati rad automobila i bude spreman da odmah preuzme kontrolu. NHTSA je zbog toga proizvođačima preporučila da projektuju sisteme koji mogu da prepoznaju kada čovek više nije dovoljno angažovan.
Tesla opoziva skoro tri miliona vozila u Kini: Problem koji je postao pitanje života i smrti
To je možda i centralni paradoks moderne automobilske industrije. Što je automobil bolji u samostalnoj vožnji, čoveku je teže da ostane koncentrisan.
Sat vremena gledati kako automobil uspešno vozi može biti mnogo zahtevnije za pažnju nego sat vremena aktivno voziti.
A onda, posle stotina uspešno savladanih krivina, sistem napravi jednu grešku. Od čoveka koji je gotovo postao putnik odjednom se očekuje da ponovo postane vozač. I to za nekoliko sekundi.
Nesreće su već pokazale šta može da se dogodi
Ovo nije samo teorijski problem. Jedan od najpoznatijih slučajeva dogodio se u martu 2018. godine u Mauntin Vjuu u Kaliforniji.
Tesla Model X kojim je upravljao inženjer kompanije Apple Volter Huang udario je u zaštitnu barijeru dok je Autopilot bio uključen. Huang je poginuo.
Američki Nacionalni odbor za bezbednost saobraćaja, NTSB, zaključio je da je Teslin Autopilot usmerio automobil prema zoni razdvajanja na autoputu zbog ograničenja sistema. Vozač nije reagovao. Istraga je pokazala da mu je pažnja verovatno bila usmerena na igru na mobilnom telefonu.
NTSB je kao jedan od faktora naveo i neefikasan sistem za praćenje angažovanja vozača, koji je omogućio nepažnju i preveliko oslanjanje na Autopilot.
Drugim rečima, automobil je vozio. Čovek mu je verovao. Kada je automobil pogrešio, čovek nije reagovao.
Tesla se zakucala i u vatrogasno vozilo
Samo dva meseca ranije dogodila se još jedna nesreća koja dobro pokazuje problem. Tesla Model S kretao se autoputem Interstate 405 kod Kalver Sitija u Kaliforniji.
Autopilot je bio uključen. Ispred automobila nalazilo se zaustavljeno vatrogasno vozilo. Tesla je udarila u njega.
Vozač nije povređen, ali je istraga NTSB-a utvrdila da nije na vreme reagovao na prepreku. Kao uzroke nesreće navedeni su njegova nepažnja i preveliko oslanjanje na sistem pomoći u vožnji.
NTSB je ukazao i na dizajn Autopilota, koji je omogućavao vozaču da se isključi iz zadatka vožnje. To je važna lekcija.
Automatizacija ne mora potpuno da otkaže da bi nastala nesreća. Dovoljno je da napravi grešku baš u trenutku kada čovek više ne prati šta radi.
Nisu sve nesreće krivica automobila
Važno je napraviti još jednu razliku. Nije svaka nesreća Tesle sa uključenim FSD-om dokaz da je sistem izazvao sudar.
U junu ove godine Tesla Model 3 udarila je u kuću u Kejtiju u Teksasu. Poginula je 76-godišnja žena.
NTSB je kasnije utvrdio da je vozač snažno pritisnuo papučicu gasa i time preuzeo kontrolu od FSD sistema. Automobil se kretao brzinom većom od 70 milja na sat u zoni u kojoj je ograničenje bilo 30.
Ovaj slučaj pokazuje zašto je kod svake nesreće potrebno utvrditi ko je u tom trenutku zaista upravljao automobilom. Čovek ili softver.
Radža Krišnamurti sada postavlja neprijatno pitanje
Upravo zbog toga zahtev američkog kongresmena dobija mnogo veći značaj od nekoliko viralnih snimaka.
Radža Krišnamurti želi da zna da li NHTSA prati sve veći broj javno dostupnih snimaka vozača koji navodno spavaju dok koriste Autopilot ili FSD.
Ali postavlja i mnogo konkretnije pitanje. Šta se događa ako vozač prevari sistem koji treba da utvrdi da li je budan?
Tesla koristi kameru u kabini za praćenje vozača. Krišnamurti pita da li su zaštitni mehanizmi dovoljno dobri ako je kamera zaklonjena ili ako vozač koristi naočare za sunce ili šešir kako bi otežao detekciju.
To menja prirodu problema. Više nije dovoljno napraviti automobil koji zna da vozi.
Potrebno je napraviti automobil koji zna da njegov vozač više ne vozi.
Tesla je već morala da interveniše na dva miliona automobila
Ovo nije prvi put da američki regulatori postavljaju pitanje pažnje Teslinih vozača. Tesla je 2023. opozvala približno dva miliona automobila u SAD kako bi poboljšala mehanizme koji treba da obezbede da vozači ostanu pažljivi tokom korišćenja Autopilota.
A regulatorni pritisak se nastavlja. NHTSA je u martu pojačala istragu koja obuhvata oko 3,2 miliona Tesli opremljenih FSD-om. Regulator proverava moguće probleme sistema u uslovima loše vidljivosti.
Druga istraga obuhvata oko 2,9 miliona automobila. Pokrenuta je nakon više od 50 prijava o kršenju saobraćajnih pravila i niza nesreća.
A Ilon Mask želi automobil u kojem vozača uopšte nema
Tu priča postaje još zanimljivija. Dok regulatori pokušavaju da spreče ljude da spavaju u automobilima koji još zahtevaju njihovu pažnju, Ilon Mask ide ka automobilima u kojima ljudski vozač više neće biti potreban.
Tesla je počela komercijalno korišćenje Cybercaba. To je vozilo bez klasičnog volana i pedala.
Američki regulator je početkom septembra otvorio istragu Tesline sertifikacije do 1.000 takvih vozila. Cybercab tako postaje test ne samo Tesline tehnologije već i propisa koji su nastali u vreme kada se podrazumevalo da automobil ima čoveka za volanom.
To je sasvim druga kategorija od današnjeg FSD-a u automobilu koji kupuje običan vozač. U pravom autonomnom vozilu, projektovanom da u određenim uslovima potpuno preuzme vožnju, putnik ne mora da bude rezervni vozač.
Zato pitanje „da li smem da spavam dok automobil vozi?“ nema isti odgovor za svaki automobil koji se naziva autonomnim.
Najopasniji trenutak je između čoveka i mašine
Potpuno autonomni automobil jednog dana možda će omogućiti čoveku da uđe, kaže adresu, zaspi i probudi se na odredištu. To je jedna od velikih ideja industrije autonomnih vozila.
Ali današnja tehnologija nalazi se u nezgodnom međuprostoru. Automobil je dovoljno dobar da može da stvori iluziju potpune autonomije.
Ali još zahteva čoveka kada stvari krenu loše. U tome je najveća opasnost.
NHTSA jasno kaže da sistemi koji su danas dostupni potrošačima i dalje zahtevaju pažnju vozača.
Zato spavanje za volanom Tesle sa uključenim Autopilotom ili FSD-om nije demonstracija koliko je tehnologija napredovala.
- Chelsea fudbalerkama plaća zamrzavanje jajnih ćelija: Šta se krije iza ove ponude?
- Kapital u pokretu: U eri veštačke inteligencije čovek ostaje najvažniji kapital u investicionom procesu
- AikLeasing dobio kreditnu liniju od 40 miliona EUR od EBRD-ja za podršku MSP sektoru i zelenim investicijama
- Jedan scenario koji je moguć: AI će ubiti čovečanstvo
- Možete li da spavate dok automobil vozi? Odgovor je mnogo opasniji nego što izgleda
To je demonstracija koliko joj čovek veruje. A istorija nesreća pokazuje da ta dva pojma nisu isto.
Možda će jednog dana najbezbednije autonomno vozilo biti upravo ono u kojem čovek može mirno da spava.
Ali do tada postoji jednostavno pravilo. Ako automobil od vas očekuje da budete spremni da preuzmete volan, onda vi niste putnik. I ne smete da spavate.
