Nizozemska kaznila Uber s 825 milijuna eura zbog algoritma

Nizozemska agencija za zaštitu podataka (AP) kaznila je Uber s 825 milijuna eura (oko 966 milijuna dolara) jer je vozačima blokirao i suspendirao račune putem automatiziranih sustava, bez odgovarajućeg obavještavanja i ljudskog nadzora, prema pisanju Reutersa.

Odluka je donesena 17. kolovoza, a riječ je o drugoj najvećoj kazni u povijesti izrečenoj na temelju europske Opće uredbe o zaštiti podataka (GDPR). Veću kaznu dobila je jedino Meta 2023. godine, kada joj je irski regulator odredio 1,2 milijarde eura zbog nezakonitog prenošenja podataka korisnika Facebooka u SAD.

Uber je odmah najavio žalbu.

– Oštro se protivimo ovoj odluci i nesrazmjernoj kazni – poručili su iz Ubera, dodavši kako tvrtka ozbiljno shvaća prava vozača te da njihova trenutna praksa uključuje i ljudsku provjeru te mogućnost žalbe na suspenziju.

Nizozemski regulator potvrdio je donošenje odluke, no zasad nije iznosio dodatne detalje.

Ozbiljni propusti

Pravila GDPR-a strogo zabranjuju da računala i algoritmi sami donose odluke koje imaju ozbiljan utjecaj na živote ljudi. Da bi takva odluka bila zakonita, moraju biti ispunjena dva uvjeta. Prvo, odluku mora pregledati stvarna osoba (čovjek) i drugo, vozač mora imati jednostavan način da se na nju žali.

U svojoj odluci regulator navodi da je Uber prekršio prava vozača, točnije, pravo da ne budu podvrgnuti automatiziranom donošenju odluka koje za njih imaju značajne posljedice. Osim toga, regulator ističe da je Uber prekršio i pravo vozača na informiranost, što smatraju iznimno ozbiljnim propustom koji opravdava ovako visoku novčanu kaznu.

Slučaj se odnosi na razdoblje između 2020. i 2022. godine, a pokrenut je nakon pritužbe vozača iz Francuske. Nizozemski je regulator preuzeo slučaj jer se u Nizozemskoj nalazi Uberovo europsko sjedište.

Uber je u tom razdoblju privremeno blokirao vozače koje je algoritam osumnjičio za prijevaru, primjerice, ako je sustav procijenio da vozač namjerno vozi okolnim putovima kako bi napumpao cijenu ili prihvaća vožnje koje ne namjerava odraditi.

U Uberu tvrde da račune nisu trajno gasili bez ljudske provjere. Ipak, vozači s niskim ocjenama ponekad su trajno ostajali bez pristupa aplikaciji. Iz tvrtke navode da danas više ne donose takve odluke isključivo putem automatiziranih sustava.

Dugogodišnji spor

No, spor oko Uberova algoritamskog upravljanja traje još od 2020. godine, kada su vozači u više europskih zemalja počeli propitkivati suspenzije i deaktivacije računa donesene na temelju procjena prijevare i drugih automatiziranih pokazatelja. Tvrdili su da im Uber nije jasno objasnio zašto su ostali bez pristupa platformi niti im je omogućio učinkovito osporavanje odluke.

Amsterdamski žalbeni sud u travnju 2023. zaključio je da su pojedine Uberove odluke, uključujući dodjelu vožnji, određivanje cijena, izračun ocjene rizika od prijevare i neke deaktivacije računa, bile potpuno automatizirane te da mogu znatno utjecati na prihode i egzistenciju vozača. Sud je tada naložio Uberu da otkrije čimbenike na kojima se takve odluke temelje, a poslije mu je zbog nepoštovanja sudskog naloga određeno 584 tisuće eura penala.

Također, ovo nije prva kazna koju je Uber dobio od nizozemskog regulatora. U siječnju 2024. kažnjen je s 10 milijuna eura zbog nedovoljne transparentnosti i otežavanja pristupa osobnim podacima vozača, dok je u kolovozu iste godine kažnjen s 290 milijuna eura zbog prenošenja podataka europskih vozača u SAD bez odgovarajuće zaštite.

Ipak, ova se kazna razlikuje od prethodnih jer se izravno odnosi na zabranu donošenja odluka sa značajnim posljedicama isključivo algoritmom, bez stvarnog ljudskog nadzora i mogućnosti žalbe.