Parlamenti i vlade ne ispunjavaju uvijek svoju ulogu u zaštiti individualnih prava unutar demokratskih sustava. Srećom, sudovi ponekad istupe kako bi popunili tu prazninu, živeći u skladu s našim demokratskim načelima i proširujući pravnu zaštitu na građane.
Španjolska, rujan 2025. - Vrhovni sud priznao pravo Civia, neprofitne organizacije koja radi na poboljšanju kvalitete demokracije, na pristup izvornom kodu Bosca. Bosco je algoritam koji se koristi za utvrđivanje podobnosti građana za socijalnu naknadu poznatu kao "socijalni bonus".
Algoritamska transparentnost
Presuda daje smjernice za razvoj algoritama i umjetne inteligencije, barem u njihovoj javnoj upotrebi. Štiti i promiče legitimniju viziju „digitalne demokracije“, kako je Sud naziva.
Također je u skladu s drugim nedavnim sudskim odlukama, poput presude Suda Europske unije od 27. veljače 2025., kojom je utvrđeno „pravo na objašnjenje“ u slučajevima automatiziranog donošenja odluka od strane privatnih subjekata, dajući prioritet algoritamskoj transparentnosti nad poslovnim tajnama.
Slučaj Dun & Bradstreet Austria (C-203/22)
Odluka Vrhovnog suda Španjolske čini značajan korak dalje u unapređenju algoritamske transparentnosti od presude iz veljače 2025. Suda Europske unije (Sud EU-a) u slučaju Dun & Bradstreet Austria (C-203/22), koja unapređuje algoritamsku transparentnost u automatiziranom donošenju odluka pod GDPR-om.
U austrijskom slučaju, korisnik mobilnog telefona (CK) odbijen je za ugovor zbog loše kreditne ocjene izračunate algoritmom tvrtke Dun & Bradstreet, tražeći "smisleno objašnjenje logike" iza toga prema članku 15(1)(h) GDPR-a. Sud je potvrdio da ispitanici moraju dobiti jasne, razumljive informacije o proceduri i principima korištenim u profiliranju, uključujući koji osobni podatci su korišteni i kako su utjecali na rezultat, omogućavajući provjeru točnosti i mogućnost osporavanja odluke. Ne zahtijeva se otkrivanje cijelog algoritma ili tehničkih detalja, ali jednostavna objašnjenja poput utjecaja varijacija podataka na rezultat su prikladna.
Voditelj obrade mora dostaviti potencijalno zaštićene podatke (poslovne tajne ili podatke trećih) nadzornom tijelu ili sudu za procjenu ravnoteže interesa. Presuda ograničava izuzetke za poslovne tajne (Direktiva 2016/943), zabranjujući automatsko odbijanje pristupa i zahtijevajući od slučaja do slučaja procjenu. Ova presuda se nadovezuje na raniju Schufa presudu (C-634/21), jačajući prava pojedinaca, s implikacijama za sve automatizirane procese odlučivanja s pravnim učincima.
Opći slučaj za algoritamsku transparentnost je jasan i jednostavan. Javne uprave sve više koriste algoritme za podršku odlukama mnogih različitih vrsta, ponekad ih potpuno automatizirajući, a ponekad samo pružajući informacije dužnosnicima. Ovu razliku nije uvijek lako povući. U svakom slučaju, građani imaju pravo znati što njihova vlada radi, kako to radi i zašto.
Bez transparentnosti ispitanici ne mogu učinkovito braniti svoja prava ili vršiti krajnju demokratsku kontrolu nad vladinim odlukama koju demokracija zahtijeva.
Algoritamska transparentnost također je dio širih ideala otvorene vlade i digitalnog upravljanja. Kada algoritmi određuju ili utječu na važne ishode - poput pristupa pogodnostima, uslugama, pravima ili dužnostima - argument za transparentnost postaje još jači.
Ovo načelo čvrsto je utemeljeno u ljudskim pravima, uključujući članak 19. Opće deklaracije o ljudskim pravima; članak 19. Međunarodnog pakta o građanskim i političkim pravima; članak 42. Povelje o temeljnim pravima Europske unije; i većinu nacionalnih zakona o pravima diljem svijeta.
Ukratko, algoritamska transparentnost u osnovi je pitanje individualnih prava i demokracije.
Slučaj Bosco
Bosco je algoritam koji je stvorilo španjolsko Ministarstvo ekološke tranzicije kako bi utvrdilo koji građani ispunjavaju uvjete za subvenciju na svojim računima za energiju poznatu kao bono social eléctrico. Boscove preporuke brzo su proizvele pogreške - i lažno negativne i lažno pozitivne - o tome tko ispunjava uvjete za pogodnost. Ipak, netransparentnost algoritma onemogućila je vanjski nadzor i kontrolu.
Civio, građanska organizacija posvećena zaštiti prava građana i „poboljšanju kvalitete demokracije u Španjolskoj“, specijalizirana za analizu podataka i novinarstvo, razvoj softvera, komunikaciju i institucionalno zagovaranje 2018. godine je pokrenula ono što se pretvorilo u dugu pravnu bitku.
Te je godine Civio putem Vladinog portala za transparentnost podnio zahtjev za pristup izvornom kodu Bosca i drugim tehničkim detaljima. Zahtjev je ostao bez odgovora. Civio se zatim žalio nadležnom tijelu koje je odobrilo pristup nekim tehničkim informacijama, ali je odbilo objaviti izvorni kod, navodeći, između ostalog, zabrinutost za privatnost i autorska prava.
Civio se u konačnici obratio sudu.
Obrazloženje Vrhovnog suda
S pravnog stajališta, presuda je ključna. Ona ne samo da osigurava Civiovo pravo pristupa Boscovom izvornom kodu, već i uspostavlja obvezujući presedan s učincima erga omnes. To znači da se presuda primjenjuje na sve algoritme koje koriste španjolske javne uprave, na bilo kojoj razini i u bilo kojem području, ako imaju slične učinke Boscovom.
Sam slučaj Bosco ovdje završava, jer vlada nema realan put za žalbu, ali šira borba za algoritamsku transparentnost u Španjolskoj tek je započela. Sigurno će uslijediti još zahtjeva za pristup javnim algoritmima, a sudovi će biti vezani ovim presedanom.
Obrazloženje Suda posebno je značajno
Sud naglašava da je transparentnost posebno važna s obzirom na „rizike svojstvene korištenju novih tehnologija od strane uprave u vršenju političke moći ili pružanju javnih usluga“. Iako priznaje korisnost takvih tehnologija, inzistira na tome da moraju imati „posebne zahtjeve za transparentnost... pružajući građanima informacije potrebne za razumijevanje osnovnih značajki njihovog funkcioniranja, što može zahtijevati pristup izvornom kodu“.
Algoritamska transparentnost, u ovom smislu, ne odnosi se samo na pristup informacijama, već na dužnost javnih vlasti da objasne algoritamsko funkcioniranje na razumljiv način, kako bi građani mogli razumjeti, pratiti i sudjelovati u javnom donošenju odluka.
Sud se također bavio protuargumentima koje su iznijeli niži sudovi. Na primjer, zabrinutost zbog nacionalne sigurnosti - poput rizika da bi hakeri mogli iskoristiti izvorni kod - rješava se ograničavanjem pristupa organizacijama od javnog interesa poput Civija, uz strogu povjerljivost. Sud čak sugerira da dijeljenje koda može ojačati, a ne oslabiti, sigurnost poticanjem razvoja.
Što se tiče zabrinutosti oko privatnosti i zaštite autorskih prava, Sud prepoznaje njihovu važnost, ali inzistira na tome da se moraju odvagnuti u odnosu na prevladavajuću vrijednost transparentnosti u digitalnoj demokraciji. Sve u svemu, daje Civiju pristup Boscovom izvornom kodu, uz određene zaštitne mjere.
Provjerite svoje obavijesti o obradi osobnih podataka posebno u kojoj mjeri su one transparentne u odnosu na ispitanike čija prava ovise o objašnjenju kako funkcionira neka tehnologija odnosno algoritam.
