Italija je prva u Europi postavila nacionalna pravila za umjetnu inteligenciju

U rujnu 2025. talijanski parlament odobrio je novi Zakon o umjetnoj inteligenciji (Zakon br. 132/2025), prvi takve vrste u EU čime je Italija postala prva država članica s posebnim nacionalnim AI zakonom. Zakon o umjetnoj inteligenciji postavlja temeljna načela koja uređuju umjetnu inteligenciju i njezinu upotrebu, utvrđuje odgovornosti za upravljanje i nadzor umjetne inteligencije u Italiji, predviđajući posebna pravila u ključnim sektorima kao što su zdravstvo, javna uprava, pravosuđe, radno pravo, intelektualno vlasništvo i kazneno pravo. Zakon o umjetnoj inteligenciji, koji će stupiti na snagu 10. listopada, ne uvodi nikakve nove obveze usklađenosti osim onih utvrđenih Uredbom 2024/1689 („Akt o umjetnoj inteligenciji“). Umjesto toga, pruža detaljnije i sektorski specifične odredbe koje se nadovezuju na postojeći okvir, posebno u pogledu usklađenosti, transparentnosti, odgovornosti i upravljanja.

Načela na kojima se temelji Zakon o umjetnoj inteligenciji

• Vizija umjetne inteligencije usmjerena na čovjeka

Umjetna inteligencija trebala bi poboljšati, a ne zamijeniti ljudsko donošenje odluka i odgovornost. Sustavi umjetne inteligencije moraju biti dizajnirani tako da rade u skladu s temeljnim pravima, ustavnim pravima i pravom EU, a istovremeno odražavaju vrijednosti poput transparentnosti, pravednosti, sigurnosti, privatnosti, rodne ravnopravnosti i održivosti. Zakon također naglašava da ljudski nadzor nije opcionalan: ljudi moraju zadržati kontrolu, s mogućnošću razumijevanja, praćenja i intervencije tijekom cijelog životnog ciklusa sustava umjetne inteligencije.

• Zaštita osobnih podataka

Sustavi umjetne inteligencije moraju postupati s podacima na zakonit, pošten i transparentan način. Korisnici moraju biti jasno informirani, jednostavnim i pristupačnim jezikom, o tome kako se njihovi podaci koriste, koji rizici mogu biti uključeni i kako mogu ostvariti svoje pravo na prigovor. Izričito štiti slobodu izražavanja i pluralizam medija, osiguravajući da sustavi umjetne inteligencije ne ugrožavaju objektivnost, potpunost, nepristranost ili pravednost informacija. 

Konkretno, članak 3. nalaže da istraživanje, eksperimentiranje, razvoj i korištenje sustava umjetne inteligencije moraju poštovati ljudsko dostojanstvo, zaštitu osobnih podataka, transparentnost i nediskriminaciju. Važno je napomenuti da je središnje mjesto talijanskog Zakona o umjetnoj inteligenciji autonomija i moć donošenja odluka pojedinca. Uvodi se opću zabranu delegiranja donošenja odluka automatiziranim procesima, potvrđujući da ljudska volja ne smije biti u potpunosti zamijenjena.

Članak 4. utvrđuje dodatna načela koja uređuju korištenje osobnih podataka i zaštitu pluralizma informacija. Zabranjuje korištenje sustava umjetne inteligencije na načine koji ugrožavaju slobodu, pluralizam ili nepristranost informacija. Obrada podataka mora biti u skladu s kriterijima zakonitosti, pravednosti i transparentnosti utvrđenima u Uredbi (EU) 2016/679 („GDPR“), a sustavi umjetne inteligencije moraju biti dizajnirani i njima se upravlja u skladu s tim zahtjevima.

Zakonodavstvo također nameće pojačane obveze transparentnosti za subjekte koji koriste sustave umjetne inteligencije u pružanju svojih usluga. Članak 4. propisuje da objave o obradi podataka u vezi s korištenjem sustava umjetne inteligencije moraju biti napisane jasnim i jednostavnim jezikom, omogućujući korisnicima da razumiju povezane rizike i, gdje je to primjereno, da se usprotive takvoj obradi. To će zahtijevati procjenu i eventualno reviziju postojećih obavijesti o privatnosti, gdje je to primjereno, kako bi se osigurala usklađenost s novim standardima transparentnosti.

Zakonodavstvo pruža posebne zaštitne mjere za maloljetnike, uvodeći zaštite koje nadilaze one utvrđene u GDPR-u. Za osobe mlađe od 14 godina, pristup sustavima umjetne inteligencije i povezana obrada podataka podliježu roditeljskom pristanku. Maloljetnici u dobi od 14 do 18 godina mogu samostalno dati privolu za takvu obradu podataka, pod uvjetom da su relevantne informacije lako dostupne i razumljive.

Unatoč tome, ostaje nekoliko pravnih nesigurnosti. Na primjer, praktična primjena prava na brisanje prema članku 17. GDPR-a postavlja složena pitanja u slučajevima kada se osobni podaci koriste za obuku sustava umjetne inteligencije. Ova i druga pitanja bit će riješena budućim zakonodavnim mjerama i/ili provedbenim aktivnostima.

• Zaštita demokratske rasprave

Zakon o umjetnoj inteligenciji izričito zabranjuje korištenje umjetne inteligencije na načine koji bi mogli ometati demokratske institucije ili iskriviti javnu raspravu. To odražava rastuću zabrinutost zbog korištenja umjetne inteligencije za širenje dezinformacija, manipuliranje mišljenjima ili potkopavanje povjerenja u demokratske procese. 

• Umjetna inteligencija kao ključna poluga gospodarskog rasta

Javne vlasti aktivno podržavaju razvoj i korištenje umjetne inteligencije za poboljšanje interakcije čovjeka i stroja, uključujući i putem robotike, u svim proizvodnim sektorima i organizacijskim procesima. Potiču usvajanje umjetne inteligencije kako bi povećale produktivnost duž cijelog lanca vrijednosti i pomogle u pokretanju novih poduzeća. Njihovi napori posebno su usmjereni na jačanje talijanske industrijske baze, koja se uvelike oslanja na mikro, mala i srednja poduzeća.

Sektorske odredbe

U zdravstvu su sustavi umjetne inteligencije osmišljeni kako bi podržali, a ne zamijenili medicinske stručnjake. Mogu pomoći u prevenciji, dijagnostici i liječenju pod strogim medicinskim nadzorom i etičkim nadzorom. Pacijenti moraju biti jasno informirani kad god su tehnologije umjetne inteligencije uključene u njihovu skrb, jačajući transparentnost i povjerenje. Zakon o umjetnoj inteligenciji također potiče razvoj i usvajanje rješenja umjetne inteligencije koja poboljšavaju kvalitetu života osoba s invaliditetom, poboljšavajući pristupačnost, neovisnu mobilnost, sigurnost, socijalnu uključenost i omogućujući personalizirano planiranje života.

U sektoru rada, umjetna inteligencija se koristi za istinsko poboljšanje uvjeta rada zaštitom fizičke i mentalne dobrobiti zaposlenika, a istovremeno podržava performanse i produktivnost. Njena primjena mora biti sigurna, transparentna i poštovati ljudsko dostojanstvo i privatnost. Radnici imaju pravo znati kada se koriste AI tehnologije, bilo u zapošljavanju, evaluaciji ili svakodnevnom poslovanju. Jednako je važno da AI sustavi moraju poštivati ​​temeljna prava radnika i ne smiju se primjenjivati ​​na načine koji dovode do diskriminacije na temelju spola, dobi, etničke pripadnosti, religije, seksualne orijentacije, političkih uvjerenja ili osobnih, društvenih ili ekonomskih uvjeta.

U sektoru javne uprave mogu usvojiti AI kako bi poboljšale učinkovitost, smanjile vrijeme potrebno za dovršetak postupaka te poboljšale kvalitetu i dostupnost usluga. AI služi samo kao alat za podršku: sve odluke i službeni akti ostaju pod punom odgovornošću pojedinih osoba. Javna tijela također moraju provoditi tehničke, organizacijske i mjere obuke koje potiču odgovorno usvajanje i jačaju vještine onih koji komuniciraju s tim tehnologijama.

U pravosudnom sustavu, AI se može koristiti za podršku organizaciji pravosudnih službi, pojednostavljenje administrativnih zadataka i smanjenje opterećenja sudova. Međutim, njezina uloga ostaje isključivo pomoćna. Sve odluke o tumačenju i primjeni zakona, ocjeni činjenica i dokaza te procesu donošenja odluka isključivo su na sucima. Ministarstvo pravosuđa odgovorno je za reguliranje primjene umjetne inteligencije u ovom kontekstu, uz posebnu obuku za suce kako bi se potaknula njihova svijest o rizicima i prednostima umjetne inteligencije.

Nadzorna i provedbena tijela

Sljedeća tijela odgovorna su za nadzor, koordinaciju i provedbu u području UI:

• Nacionalno tijelo koje je odgovorno za nacionalnu strategiju UI. To će dvogodišnje odobravati Vladin odbor za digitalnu tranziciju.
• Novoosnovani Koordinacijski odbor nadgleda strateško usmjeravanje i potiče istraživanje, eksperimentiranje, razvoj, usvajanje i primjenu UI sustava i modela od strane javnih ili privatnih subjekata pod državnim nadzorom ili koji primaju javno financiranje. Predstavnici nacionalnih tijela za UI mogu biti pozvani na sastanke.
• Agencija za digitalnu Italiju (AgID) djeluje kao tijelo za obavještavanje. Njezina uloga uključuje promicanje inovacija i razvoja UI. AgID je odgovoran za definiranje postupaka i obavljanje zadataka vezanih uz obavještavanje, evaluaciju, akreditaciju i praćenje subjekata imenovanih za provjeru sukladnosti UI sustava. AgID provodi te odgovornosti u skladu s nacionalnim i UI zakonodavstvom, osiguravajući da UI sustavi ispunjavaju potrebne standarde prije ulaska na tržište ili primjene.
• Nacionalna agencija za kibernetičku sigurnost (ACN) određena je kao talijansko tijelo za nadzor i sankcioniranje umjetne inteligencije. Odgovorna je za nadgledanje sustava umjetne inteligencije u skladu s nacionalnim i zakonodavstvom EU-a kako bi se osigurala sigurnost i otpornost sustava umjetne inteligencije. ACN također djeluje kao jedinstvena kontaktna točka s Europskom unijom.
• Zakon o umjetnoj inteligenciji također zahtijeva blisku suradnju između tijela za umjetnu inteligenciju i postojećih regulatora, uključujući: Banku Italije; CONSOB (Nacionalna komisija za tvrtke i burzu) i IVASS (Institut za nadzor osiguranja), AGCOM (Talijansko regulatorno tijelo za komunikacije) i Tijelo za zaštitu podataka.

Promjene u kaznenom pravu i pravu intelektualnog vlasništva

Sa stajališta kaznenog prava, Zakon o umjetnoj inteligenciji:

• Uvodi novo kazneno djelo za nezakonito širenje sadržaja manipuliranog umjetnom inteligencijom (tzv. "deepfakes"), što može rezultirati zatvorskom kaznom.
• Utvrđuje opću otegotnu okolnost za kaznena djela počinjena korištenjem alata umjetne inteligencije, što dovodi do većih kazni.
• Uvodi posebne otegotne okolnosti kojima se pooštravaju kazne za specifična kaznena djela - manipulaciju tržištem, agiotage, kršenje političkih prava - kako bi se obuhvatilo ponašanje počinjeno korištenjem sustava umjetne inteligencije.
• Uvodi novi prekršaj neovlaštenog rudarenja teksta i podataka („TDM“), koji se sastoji od bilo koje automatizirane tehnike usmjerene na analizu teksta i podataka u digitalnom obliku radi generiranja informacija.

Iz perspektive autorskih prava, Zakon o umjetnoj inteligenciji:

• Ažurira članak 171. Zakona br. 633 od 22. travnja 1941. („Talijanski zakon o autorskim pravima“), kažnjavajući reprodukciju ili izdvajanje teksta ili podataka iz djela ili materijala dostupnih na mreži ili u bazama podataka kršeći talijanski Zakon o autorskim pravima, čak i putem sustava umjetne inteligencije.
• Izričito pojašnjava da se zaštita autorskih prava odnosi na „djela ljudskog autorstva“ i na djela stvorena uz pomoć alata umjetne inteligencije, ali samo ako su rezultat autorovog istinskog intelektualnog rada. Drugim riječima, autorska prava ne protežu se na sadržaj generiran isključivo strojevima, bez ikakvog kreativnog ljudskog doprinosa.

Zakon o umjetnoj inteligenciji također dopušta TDM u svrhu obuke modela umjetne inteligencije (uključujući generativnu umjetnu inteligenciju) ako korisnik ima zakonit pristup. Međutim, to mora biti u skladu s člancima 70-ter i 70-quarter talijanskog Zakona o autorskim pravima, koji reguliraju iznimke i ograničenja, uključujući mehanizam odustajanja nositelja prava. Kao što je gore spomenuto, Zakon o umjetnoj inteligenciji također kriminalizira neovlašteni TDM.

Promjene nadležnosti

Zakon o umjetnoj inteligenciji mijenja talijanski Zakonik o građanskom postupku, dodjeljujući isključivu nadležnost sudu za slučajeve koji se odnose na rad sustava umjetne inteligencije.

Provedbeni akti

U roku od dvanaest mjeseci od stupanja na snagu Zakona o umjetnoj inteligenciji, vlada mora donijeti jednu ili više zakonodavnih uredbi radi:

• usklađivanja talijanskog pravnog okvira sa Zakonom EU o umjetnoj inteligenciji, uključujući dodjeljivanjem tijelima iz stavka 3. gore svih relevantnih nadzornih, istražnih i sankcionirajućih ovlasti predviđenih Zakonom EU o umjetnoj inteligenciji.
• uvođenja novih specifičnih kaznenih djela povezanih s nedovoljnim usvajanjem/provedbom sigurnosnih mjera za stvaranje, distribuciju ili korištenje sustava umjetne inteligencije koji uzrokuju rizik za život ili javnu sigurnost ili za sigurnost države.
• uvođenja mjere za sprječavanje i uklanjanje nezakonito generiranog sadržaja umjetne inteligencije, potkrijepljene učinkovitim, proporcionalnim i odvraćajućim sankcijama.
• definiranja pravila koja reguliraju i individualnu kaznenu odgovornost i administrativnu odgovornost organizacija, na temelju stvarne razine kontrole koja se vrši nad sustavima umjetne inteligencije. To uključuje pojašnjenje kriterija za pripisivanje odgovornosti u slučajevima koji uključuju nezakonito ponašanje povezano s umjetnom inteligencijom.  
• osiguravanja da odgovornost odražava stvarni utjecaj i nadzor uključene osobe ili subjekta. 

Ulaganje u umjetnu inteligenciju i nove tehnologije

Kako bi podržala razvoj tvrtki za umjetnu inteligenciju i kibernetičku sigurnost, vlada osigurava do milijardu eura javnih ulaganja. To će biti usmjereno na: (i) inovativna mala i srednja poduzeća s visokim potencijalom rasta, sa sjedištem u Italiji koja posluju u područjima umjetne inteligencije i kibernetičke sigurnosti ili srodnih tehnologija, uključujući kvantne tehnologije i telekomunikacije; (ii) druge visoko inovativne tvrtke.

Implikacije za tvrtke

Dok je rasprava o tome kako regulirati umjetnu inteligenciju još uvijek u tijeku, Italija je napravila svoj korak primjenom novih propisa koji se usredotočuju na njezine nacionalne prioritete, a istovremeno nadopunjuju Akt EU o umjetnoj inteligenciji.

Neke od promjena imaju izravne implikacije za tvrtke, posebno u pogledu kaznenog prava. Zakon o umjetnoj inteligenciji mijenja određena kaznena djela koja mogu učiniti tvrtku pravno odgovornom - ako je prikladno pokrenuti administrativnu odgovornost subjekta u slučaju da su ta kaznena djela počinjena ili pokušana u Italiji ili inozemstvu u interesu ili za korist tvrtke. Tvrtke bi stoga trebale ažurirati i revidirati svoje organizacijske, upravljačke i kontrolne modele prema Uredbi 231/2001, kako bi odrazile promjene i općenito se pozabavile rizicima povezanim s umjetnom inteligencijom, štiteći tvrtku od odgovornosti u slučaju kaznenih djela povezanih s umjetnom inteligencijom.

Tvrtke će također morati pratiti odobravanje uredbi kojima se provodi Zakon o umjetnoj inteligenciji, a koje će se baviti ključnim pitanjima poput naknade štete uzrokovane umjetnom inteligencijom, uključujući ublažavanje tereta dokazivanja za oštećenu stranu. Ove promjene morat će se pravilno riješiti kako bi se ublažili rizici, uključujući i u ugovorima, kako bi se odrazila raspodjela rizika i odgovornosti, osigurale odštete ili osiguranje ovisno o okolnostima.

Okvir je koncipiran da bude usklađen s GDPR‑om, Direktivom NIS2 i drugim sektorskim propisima, stvarajući koherentan sustav upravljanja rizicima AI‑sustava u Italiji.

Hoće li i RH ići u ovom smjeru? Ostaje vidjeti, ali se svakako uskladiti.