Akt (EU) 2024/1689 o umjetnoj inteligenciji stupio je na snagu u kolovozu 2024. i postupno će se primjenjivati tijekom nadolazećih godina. Akt o umjetnoj inteligenciji u biti uspostavlja sustav klasifikacije rizika za regulaciju sustava umjetne inteligencije na temelju njihovog potencijalnog rizika, zabranjujući sustave koji predstavljaju neprihvatljiv rizik i regulirajući one s visokim, srednjim i niskim rizikom kako bi se osigurala sigurnost, učinkovitost, transparentnost i odgovornost.
Akt o umjetnoj inteligenciji ne ovisi o sektoru i stoga se primjenjuje i na medicinske proizvode i dijagnostiku pokretane umjetnom inteligencijom, sustave snimanja, sustave za podršku odlučivanju i drugu digitalnu zdravstvenu tehnologiju koja je već regulirana Uredbom (EU) 2017/745 o medicinskim proizvodima i Uredbom (EU) 2017/746 o in vitro dijagnostičkim medicinskim proizvodima (MDR/IVDR).
Sustavi umjetne inteligencije koji se koriste u medicinske svrhe ili takozvani „medicinski proizvodi umjetne inteligencije“ (Medical device AI, MDAI) kvalificirat će se kao visokorizični sustav umjetne inteligencije prema Aktu o umjetnoj inteligenciji ako je MDAI sigurnosna komponenta uređaja ili sam medicinski uređaj, a MDAI mora proći ocjenu sukladnosti treće strane od strane prijavljenog tijela.
To u biti znači da će se MDR proizvod klase IIa, IIb i III te IVDR klase A-D obično klasificirati kao visokorizični prema Aktu o umjetnoj inteligenciji (ali ne nužno prema MDR/IVDR).
Ova klasifikacija visokog rizika nameće zahtjeve usklađenosti Akta o umjetnoj inteligenciji koji nadilaze MDR/IVDR.
Dodatni zahtjevi uglavnom su specifični za umjetnu inteligenciju, kao što su kvaliteta podataka, upravljanje podacima, vođenje evidencije, transparentnost, odgovornost i ljudski nadzor, ali se također dotiču aspekata upravljanja rizicima, ocjene sukladnosti, postmarketinškog nadzora i vigilancije. Dakle, unatoč ovom fokusu specifičnom za umjetnu inteligenciju, ipak postoji rizik od preklapanja i/ili nedosljednih pravila, posebno zato što MDR/IVDR već uređuje MDAI kroz sveobuhvatne zahtjeve za sigurnost, učinkovitost i kliničke podatke.
Medtech i društva koja se bave digitalnim zdravstvom sada će se morati prilagoditi ovom dvostrukom pravnom okviru jer se Akt o umjetnoj inteligenciji primjenjuje paralelno s MDR/IVDR.
Akt o umjetnoj inteligenciji omogućuje tvrtkama da uključe zahtjeve specifične za umjetnu inteligenciju u svoju postojeću dokumentaciju, procese i postupke kako je već utvrđeno prema MDR/IVDR. To znači da tvrtke mogu dokazati usklađenost s Aktom o umjetnoj inteligenciji prilagođavanjem i proširenjem postojećeg sustava upravljanja kvalitetom, tehničke dokumentacije i drugih MDR/IVDR postupaka.
Jedinstvena ocjena sukladnosti dopuštena je i prijavljenim tijelima koja su akreditirana i prema Aktu o umjetnoj inteligenciji i prema MDR/IVDR postupcima.
Regulatorni teret za ispunjavanje zahtjeva Akta o umjetnoj inteligenciji ostat će visok i tvrtkama se savjetuje da poduzmu sljedeće praktične korake:
- Organizirajte međufunkcionalni tim koji se sastoji od pravnih, regulatornih poslova, kvalitete, inženjerstva i privatnosti (DPO mora biti obvezan dio tima).
- Provedite GAP analizu trenutne usklađenosti s MDAI prema MDR/IVDR u odnosu na zahtjeve Akta o umjetnoj inteligenciji.
- Uskladite i harmonizirajte unutar internih akata u organizaciji njih više kako biste izbjegli da se više internih akata kose jedan sa drugim.
- Obratite se svom nadzornom tijelu kako biste saznali više o njihovoj vlastitoj akreditaciji prema Aktu o umjetnoj inteligenciji i njihovim očekivanjima u vezi sa zahtjevima Akta o umjetnoj inteligenciji.
- Novi MDAI ili MDAI u razvoju koji je spreman za budućnost kako bi se predvidjela usklađenost sa zahtjevima Akta o umjetnoj inteligenciji kada se bude primjenjivao od kolovoza 2027. nadalje.
- Pratite nove europske i međunarodne standarde (npr. o upravljanju kvalitetom ili kvaliteti podataka) koji će se razviti jer usklađenost s tim standardima stvara pretpostavku usklađenosti s Aktom o umjetnoj inteligenciji.
- Pregledajte smjernice EU-a iz lipnja 2025. o međudjelovanju Akta o umjetnoj inteligenciji i MDR/IVDR.
- Procjene rizika- krenite s njima nakon svega ovoga jer će vam trebati vremena, a nakon toga trebat će vam vremena i za transparentne obavijesti prema ispitanicima.
- Ne zaboravite i na GDPR!
