NOYB je jako aktivan u podnošenju pritužbi
Prema članku 22. GDPR-a, pojedinci imaju pravo ne podvrgnuti se automatiziranom donošenju odluka. (Ispitanik ima pravo da se na njega ne odnosi odluka koja se temelji isključivo na automatiziranoj obradi, uključujući izradu profila, koja proizvodi pravne učinke koji se na njega odnose ili na sličan način značajno na njega utječu.)
Automatizirano donošenje odluka (ADM) vrsta je obrade koja je regulirana GDPR-om kako bi zaštitila ljude od nepoštenih odluka donesenih automatiziranim sredstvima, kao što su algoritmi. Prava predviđena člankom 22. stavkom 3. GDPR-a uključuju pravo ispitanika da izrazi svoje stajalište, pravo osporavanja automatizirane odluke i pravo na dobivanje smislene ljudske intervencije.
NOYB je podnio žalbu luksemburškom tijelu za zaštitu podataka (CNPD) protiv Amazona zbog njihove sumnjive prakse e-zapošljavanja na njihovoj platformi Mechanical Turk. Amazon koristi automatizirano donošenje odluka za prihvaćanje ili odbijanje radnika – bez mogućnosti da kandidati razumiju kriterije koji stoje iza takve automatizirane odluke ili da je ospore.
Amazon Mechanical Turk (“AMT”, tvrtka Amazon grupe) upravlja platformom za crowd-sourcing na web stranici www.mturk.com. Ova platforma okuplja različite tvrtke i male neovisne radnike koji se nalaze diljem svijeta. Ti radnici (također zvani “MTurk Workers”) obično obavljaju mikro-zadatke za malu naknadu, kao što su analiza sadržaja slike, moderiranje sadržaja na mreži ili provjera valjanosti podataka.
Teoretski, svatko se može prijaviti i postati MTurk Worker u nekoliko klikova. U praksi, međutim, AMT zadržava pravo automatski uskratiti pristup svojoj platformi, a razlozi takvog odbijanja ostaju potpuno netransparentni.
Upravo se to dogodilo podnositeljici prijave kada se prijavila da postane MTurk Worker: dobila je automatizirani e-mail u kojem je obavještena da je odbijena bez ikakvog daljnjeg objašnjenja.
“Ono što me najviše iznenadilo je to da je u automatiziranoj e-poruci koji mi je poslana jasno stajalo da je ova odluka donesena na temelju unaprijed postavljenih kriterija, te da mi ti kriteriji neće biti otkriveni jer ih Amazon smatrao 'vlasničkim'. Zapitala sam se: što oni imaju skrivati? Jesu li me odbili zbog moje lokacije, razine obrazovanja, spola? Kako su analizirali moj profil i kako su uopće došli do tih podataka? ” - Kathia (alias), podnositeljica prijave
Podnositeljica prijave je stoga odlučila osporiti odluku AMT-a i zatražila više informacija o tome kako su njezini osobni podaci obrađeni. Kontaktirala je službenika za zaštitu podataka Amazona, Amazon Client Services i Amazon Web Services (još jednu tvrtku Amazon grupe, na koju je preusmjerena). Unatoč brojnim pokušajima i borbi da pronađe odgovore na svoja pitanja, nikada nije dobila nikakav odgovor od Amazona.
“Ako počnemo živjeti u svijetu u kojem algoritam sam odlučuje jeste li vrijedni osiguranja, zajma ili čak posla, samo ljudsko dostojanstvo je na udaru. Tvrtke poput Amazona moraju osigurati odgovarajuće mjere zaštite kako bi zaštitile pojedince od nepravednih odluka. Trebali bi dati jasne informacije o tome kako se donose njihove automatizirane odluke, kako se te odluke mogu osporiti i osigurati da stvarno ljudsko biće može pregledati te odluke”, objašnjava Romain Robert, stručnjak za zaštitu podataka u NOYB-u.
GDPR štiti korisnike od odluka koje utječu na njihov život kada te odluke donose samo strojevi. To je osobito važno u području e-zapošljavanja, gdje bi neprozirnost algoritamskog odlučivanja mogla dovesti do nepravednosti i diskriminacije u velikim razmjerima. NOYB se nada da će CNPD narediti Amazonu da korisnicima pruži jasne informacije o svom automatiziranom donošenju odluka i pronađe način da preispita odluku bez skrivanja iza algoritma. CNPD također može izreći novčanu kaznu Amazonu, kao što je već učinjeno u srpnju 2021.
NOYB je također podnio tužbu protiv Airbnb-a.
Platforma koja se bavi posredstvom u iznajmljivanju smanjila je ocjenu podnositelja prijave kao domaćinu (eng. host), isključivo putem automatiziranog donošenja odluka. Iako svatko ima pravo ne biti podvrgnut automatiziranom donošenju odluka, Airbnb se oslanja upravo na te prakse. Uskraćivanjem mogućnosti podnositelju pritužbe da ospori automatiziranu odluku i zatraži ljudsku intervenciju, Airbnb je jasno prekršio GDPR.
U ovom slučaju, Airbnb ne samo da nije pravilno obavijestio domaćina o postojanju automatiziranog donošenja odluka, već su također uskratili mogućnost da učinkovito ospori odluku, što je dovelo do značajnog financijskog gubitka za domaćina.
Airbnb povezuje domaćine koji iznajmljuju stambene prostore s potencijalnim gostima. Nakon svakog boravka gosti daju ocjenu od jedne do pet zvjezdica. Naravno, vjerojatnije je da će se rezervirati mjesto s dobrim recenzijama, što recenzije čini posebno važnim za Airbnb domaćine. Ako postignu i zadrže prosječnu ocjenu od 4,8 zvjezdica, postaju "superdomaćini (eng. superhosts)" – što dovodi do brojnih prednosti, kao što su poboljšana vidljivost na platformi, veći ukupni prihodi od najma i vaučer za putovanje od 100 eura svake godine.
Budući da se svakodnevno ostavljaju tisuće recenzija, Airbnb se oslanja na algoritme kako bi provjerio jesu li te recenzije u skladu s njihovim pravilima o recenzijama. Ovi algoritmi automatski brišu recenzije koje su pristrane ili nevažne. Pogreške mogu imati dramatične posljedice na Airbnb domaćine: ako se recenzije s 5 zvjezdica izbrišu greškom, to ih može lišiti statusa super domaćina i svih prednosti koje dolaze s tim - kao što je bio slučaj s podnositeljem žalbe.
"Udaljeni i nedostupni donositelji odluka mogu izbrisati "jednostavnu" recenziju na platformi. Ali u drugim slučajevima algoritmi automatski snižavaju nečiji financijski rejting, procjenjuju uspješnost posla ili čak otpuštaju radnike. To je ono što riskiramo ako ne uspostavimo načelo da algoritmi moraju biti transparentni, a netko odgovoran za njihove odluke." - Stefano Rossetti, stručnjak za zaštitu podataka na noyb.eu
U slučaju podnositelja žalbe, Airbnb je automatski izbrisao recenziju s pet zvjezdica. Kao posljedica toga, došlo je do smanjenja ukupne ocjene domaćina. Odmah je kontaktiran Airbnb kako bi objasnio razloge i kako bi se odluka osporila, no oni su samo odgovorili da je brisanje "konačno". Slijedom toga, domaćin je kontaktirao Airbnb-ovog službenika za zaštitu podataka kako bi dobio više informacija u vezi s obradom osobnih podataka i automatiziranim brisanjem recenzija. Čak ni danas, 1,5 godina nakon zahtjeva za pristup, još uvijek nije stigao nikakav odgovor od Airbnb-a. Prema GDPR-u, imali su mjesec dana za odgovor.
"Za Airbnb je brisanje recenzija obična rutina. Ali za mene to može imati ozbiljan učinak… Ne želim živjeti u svijetu gdje dio mog života ovisi o odluci algoritma" -July (alias), podnositeljica pritužbe u ovom slučaju.
Airbnb-ov sustav – gdje algoritmi patroliraju platformom i automatski brišu recenzije bez ljudske intervencije – vrsta je automatskog donošenja odluka (ADM) koji može imati značajan utjecaj na Airbnb domaćine.
Prema GDPR-u, svaki pojedinac koji podliježe ADM-u, ima pravo osporiti odluku i dobiti smislenu ljudsku reviziju svog slučaja, kada se uzmu u obzir sve relevantne okolnosti. Airbnb očito nije u skladu s tim standardima. Domaćini su stoga prepušteni na milost i nemilost algoritma, bez stvarne mogućnosti da uzvrate. Slični algoritmi također dominiraju životom i radom mnogih drugih radnika, npr. Uber-ovi vozači ili dostavljači hrane.
Iz svega navedenog jasno je koliko su važni detalji kod ispunjavanja zahtjeva GDPR-a. Tendencija podnošenja pritužbi stranih osoba i organizacija se nastavlja stoga budite oprezni. Pritužbe se ne podnose samo u odnosu na velike, već i srednje i male poduzetnike.
