Uberu preti kazna od 825 miliona evra zbog automatizovanih suspenzija
Holandska agencija za zaštitu podataka izrekla je Uberu kaznu od 825 miliona evra, približno 966 miliona dolara, zbog automatizovanog deaktiviranja naloga vozača bez dovoljnog upozorenja i ljudskog nadzora. Reč je o drugoj najvećoj novčanoj kazni do sada izrečenoj na osnovu Opšte uredbe EU o zaštiti podataka, GDPR-a.
Postupak je pokrenut posle pritužbi vozača koji su tvrdili da im je pristup platformi uskraćen odlukama automatizovanog sistema. Zamenica predsednika holandskog regulatora Monique Verdier ocenila je da je kompanija počinila ozbiljne povrede pravila i naglasila da računar ne bi trebalo samostalno da donosi odluke sa tako velikim posledicama.
Spor oko ljudske provere odluka
Uber odbacuje ključne navode regulatora. Kompanija navodi da je većina suspenzija kratkotrajna, da se trajne deaktivacije ne sprovode bez ljudske provere i da vozači mogu da ulože žalbu. Holandsko telo, međutim, tvrdi da su pojedini vozači trajno deaktivirani bez takve provere. Uber je saopštio da se ne slaže sa odlukom i visinom kazne i da će podneti žalbu.
Jedan od podnosilaca pritužbe, bivši vozač Ubera iz Francuske Brahim Ben Ali, nakon deaktivacije naloga 2019. godine prikupio je svedočenja 171 vozača. U postupku mu je pomogla švajcarska neprofitna organizacija PersonalData.io, koja se bavi digitalnim pravima i pomogla je vozačima da prikupe podatke o načinu donošenja odluka o deaktivaciji.
Širi regulatorni i poslovni kontekst
Osnivač PersonalData.io Paul-Olivier Dehaye navodi da je ovo treća kazna koju je holandski regulator izrekao Uberu. Prethodile su joj kazna od 290 miliona evra zbog postupanja sa ličnim podacima vozača i kazna od 10 miliona evra u vezi sa srodnim pitanjima. Dehaye najavljuje i kolektivnu tužbu kroz koju bi vozači mogli da traže naknadu štete.
Slučaj otvara pitanje odgovornosti digitalnih platformi kada algoritamski sistem utiče na mogućnost pojedinca da radi i ostvaruje prihod. U poslovnom okviru koji je Uber gradio kroz širenje usluga na putovanja, finansijske servise i podatke širenje usluga na putovanja, finansijske servise i podatke, upravljanje automatizovanim odlukama postaje jednako važno kao i razvoj same platforme.
Za kompanije koje primenjuju automatizovano odlučivanje praktična pouka je jasna: procesi moraju sadržati razumljiva obaveštenja, delotvoran postupak osporavanja i proveru čoveka kada odluka može ozbiljno da utiče na zaposlenje, angažman ili prihod korisnika.