Holandski regulator za zaštitu podataka kaznio je Uber sa čak 825 miliona evra zbog kršenja evropskih pravila o zaštiti ličnih podataka. U centru slučaja našao se način na koji je kompanija koristila algoritme za suspenziju vozača.
Kazna je jedna od najvećih izrečenih od početka primene Opšte uredbe EU o zaštiti podataka, poznatije kao GDPR.
Prema odluci holandskog regulatora, koju je imao na uvid Rojters, Uber je koristio automatizovane sisteme za deaktiviranje naloga vozača. Problem je bio u tome što vozači nisu dobijali dovoljno informacija o razlozima takvih odluka. Takođe, nisu imali adekvatan način da ih ospore.
Sporna praksa odnosila se na period od 2020. do 2022. godine. Uber je najavio žalbu na odluku.
Kada algoritam odlučuje o poslu
Ovaj slučaj prevazilazi pitanje zaštite podataka. On otvara mnogo širu temu odgovornosti kompanija koje koriste algoritme za donošenje odluka o ljudima.
Uberovi automatizovani sistemi mogli su privremeno da suspenduju vozača kada bi algoritam registrovao moguće prevarno ponašanje.
To je, između ostalog, moglo da podrazumeva prihvatanje vožnje bez namere da ona bude završena. Sistem je pratio i potencijalno nepotrebne obilaznice kojima bi mogla da bude povećana cena vožnje.
Regulator je zaključio da je problem nastajao kada takva automatizovana odluka značajno utiče na vozača, a da pritom nema odgovarajuće ljudske intervencije i mogućnosti osporavanja.
U pojedinim slučajevima posledice su bile još ozbiljnije. Vozači sa niskim ocenama korisnika mogli su da budu trajno deaktivirani sa platforme.
Šta kaže GDPR?
Ključan je član 22 GDPR-a, koji uređuje automatizovano individualno donošenje odluka.
Evropski propisi daju pojedincu pravo da, uz određene izuzetke, ne bude predmet odluke zasnovane isključivo na automatizovanoj obradi podataka ako takva odluka proizvodi pravne ili druge značajne posledice.
Za vozača platforme gubitak pristupa aplikaciji može praktično da znači i gubitak izvora prihoda.
Pitanje automatizovanog odlučivanja u Uberu već je bilo predmet holandskih sudova. Apelacioni sud u Amsterdamu je 2023. razmatrao prava vozača da dobiju informacije o automatizovanom odlučivanju i logici koja stoji iza takvih procesa. Sudska dokumentacija pokazuje koliko je pitanje stvarne ljudske intervencije važno za primenu GDPR-a.
Uber: Kazna je nesrazmerna
Uber osporava zaključke holandskog regulatora.
Kompanija je saopštila da se snažno protivi odluci i visini kazne. Najavljena je žalba.
Uber tvrdi i da njegova sadašnja pravila uključuju ljudsku proveru, kao i mogućnost da vozači ospore suspenziju. Kompanija navodi da se trajne deaktivacije više ne donose isključivo automatizovanim sistemima.
Jedan od argumenata kompanije odnosi se i na broj pogođenih vozača. Prema Reutersu, Uber navodi da je tokom 2021. bilo 126 vozača na koje se sporni postupak odnosio. Kompanija zato smatra da je kazna od 825 miliona evra nesrazmerna.
Druga najveća GDPR kazna
Visina kazne daje ovom slučaju dodatnu težinu.
Prema Reutersu, 825 miliona evra predstavljalo bi drugu najveću kaznu izrečenu prema GDPR-u. Veća je bila kazna od 1,2 milijarde evra koju je irski regulator 2023. izrekao kompaniji Meta zbog prenosa podataka evropskih korisnika Facebooka u SAD.
Za Uber ovo nije prvi veliki spor sa holandskim regulatorom.
Kompanija je 2024. kažnjena sa 290 miliona evra zbog prenosa podataka evropskih vozača u SAD. Evropski odbor za zaštitu podataka tada je naveo da su među podacima bili detalji naloga, licence, lokacijski podaci, fotografije, podaci o plaćanju i identifikaciona dokumenta.
Zašto je slučaj vođen u Holandiji?
Postupak je pokrenut nakon pritužbi iz Francuske. Ipak, predmet je završio pred holandskim regulatorom.
Razlog je evropsko sedište Ubera u Holandiji. Zbog toga holandsko telo za zaštitu podataka ima ulogu vodećeg regulatora u prekograničnim GDPR slučajevima koji se odnose na kompaniju.
Sličan regulatorni mehanizam primenjen je i u ranijem slučaju protiv Ubera. Evropski odbor za zaštitu podataka navodi da su pritužbe francuskih vozača prosleđene holandskom regulatoru upravo zbog njegovog statusa vodećeg nadzornog organa za Uber.
Poruka nije važna samo za Uber
Odluka bi mogla da bude značajna za čitavu digitalnu ekonomiju.
Kompanije sve češće koriste algoritme za procenu rizika, otkrivanje prevara, ocenjivanje radnog učinka i upravljanje zaposlenima ili saradnicima. Razvoj veštačke inteligencije dodatno ubrzava taj proces.
Ali evropski regulatorni pristup postavlja jasnu granicu: automatizacija ne oslobađa kompaniju odgovornosti za posledice odluke.
Ako algoritam odlučuje o nečijem poslu, prihodima ili pristupu platformi, pitanje više nije samo koliko je sistem efikasan. Važno je i da li osoba zna zbog čega je odluka doneta, da li postoji stvarna ljudska kontrola i da li odluku može da ospori.
Upravo zbog toga slučaj Ubera može postati važan presedan za kompanije koje svoje poslovne modele sve više zasnivaju na algoritamskom upravljanju ljudima.
