Predložena Uredba EU-a o umjetnoj inteligenciji, sveobuhvatni režim za potrebe reguliranja umjetne inteligencije u EU-u, trebala bi utjecati na organizacije diljem svijeta. Očekuje se da će predložena uredba biti donesena 2024. ili 2025. Nakon što se to dogodi, oni koji AI čine dostupnom unutar EU-a, koriste AI unutar EU-a ili čiji rezultati AI-ja utječu na ljude u EU-u postat će podložni propisima , bez obzira gdje se nalazili, te stoga takve organizacije moraju razmotriti izvanteritorijalni doseg propisa i kako će oni utjecati na način na koji se obavlja poslovanje.
Na visoko konkurentnom tržištu farmaceutskih proizvoda i znanosti o životu, sposobnost zakonite primjene složene tehnologije u svrhu konkurentskih prednosti je i srž strategije gotovo svih organizacija.
Mnogi u području razvoja i otkrivanja lijekova nastojali su podići razinu svojih procesa uključivanjem umjetne inteligencije, naprednog modeliranja bolesti i molekularnog modela te drugih računalnih tehnologija koje se brzo razvijaju u svoj razvojni i proizvodni ciklus. Na taj način proizvođači i dobavljači mogu ubrzati tradicionalne inovacije i stvoriti nove uvide za nove terapije. Rezultat može biti ublažavanje nekih od tipičnih zamki na koje nailazimo u sektoru znanosti o životu – među njima, sporo vrijeme do tržišta, niske stope uspjeha, ukupni troškovi razvoja i sl.
Mnogi sada nastoje koristiti složene tehnologije, poput umjetne inteligencije, kako bi pregledali svoje zalihe dostupnih spojeva za liječenje bolesti izvan izvornog djelokruga lijeka, na isti način na koji se neki prethodno postojeći lijekovi sada koriste za ublažavanje simptoma i ozbiljnosti COVID-a -povezane bolesti.
Uz povećanje tradicionalnije upotrebe u sektoru znanosti o životu, također vidimo brzo širenje novih upotreba složenih tehnologija u cijeloj industriji, brišući tradicionalne granice između sektora znanosti o životu i zdravstvene skrbi. Procjenjuje se da je vrijednost tvrtki koje se bave zdravstvenom tehnologijom, poput onih koje se fokusiraju na pružanje carebota i nosivih zdravstvenih uređaja, porasla s otprilike 8 milijardi dolara u 2016. na oko 44 milijarde dolara u 2022.
Ove tehnologije nude sektoru znanosti o životu priliku da se pozabavi mnogim problemima s kojima se zdravstvena industrija danas suočava, poput dugog vremena čekanja liječnika i odgođene dijagnoze složenih i rijetkih bolesti.
Međutim, bez obzira na potencijalne prednosti takvih tehnologija, programeri, proizvođači, dobavljači, pa čak i krajnji korisnici morat će pažljivo pratiti nadolazeću Uredbu EU-a o umjetnoj inteligenciji kako bi izbjegli podvrgavanje znatnim novčanim kaznama.
ČOVJEK, STROJ I SVE IZMEĐU: DEFINICIJA AI
Mnogi koji pokušavaju točno odrediti što je umjetna inteligencija i kako je treba regulirati, lutaju u zbunjujućem, sjenovitom gustišu. Skupljanje nekoliko složenih tehnologija u jednu široku radnu definiciju znači samo da će definicija biti nadmašena, i to uskoro, novijim tehnologijama. Upravo zbog toga su neki zabrinuti još i više.
Trenutna verzija predložene Uredbe EU-a o umjetnoj inteligenciji nudi sveobuhvatnu radnu definiciju koju bi organizacije trebale nastojati razumjeti.
Ažurirana verzija teksta, objavljena u studenom 2021., definira AI kao:
„[sustav koji] prima strojne i/ili ljudske podatke i ulaze, zaključuje kako postići zadani skup ljudskih definiranih ciljeva korištenjem učenja, razmišljanja ili modeliranja implementiranih tehnikama i pristupima navedenim u Dodatku I, i generira rezultate u obliku sadržaja (generativni AI sustavi), predviđanja, preporuka ili odluka, koji utječu na okruženja s kojima komunicira.”
Tehnike i pristupi navedeni u Dodatku 1 uključuju:
- Pristupi strojnog učenja, uključujući nadzirano, nenadzirano i učenje s potkrepljenjem, uz korištenje širokog spektra metoda uključujući detaljno učenje,
- Pristupi temeljeni na logici i znanju, uključujući predstavljanje znanja, induktivno (logičko) programiranje, baze znanja, inferencijske i deduktivne mehanizme, (simboličko) zaključivanje i ekspertne sustave i
- Statistički pristupi, Bayesova estimacija, metode pretraživanja i optimizacije.
Dok tako širok opseg pomaže u zaštiti regulative od budućih razvoja, stvara široku klasu tehnologija koje se smatraju "AI" i koje su stoga podložne regulativi.
Doista definicija znači da bi mnoge vrste softvera mogle biti uhvaćene: ne samo autonomna umjetna inteligencija nego i sustavi čiji je put odlučivanja jasno unaprijed određen ili shvaćen i koji stoga nisu istinski autonomni. Dodajte ovome dalekosežni i izvanteritorijalni opseg uredbe i potencijalne novčane kazne za kršenje njezinih zahtjeva, i stvari bi mogle skupo koštati.
ROBO-DOKTOR ĆE VAS PRIMITI
Zdravstvena tehnologija nudi izvrstan primjer kako široka klasifikacija uredbe dopire do mnogih tehnologija koje se ne smatraju uvijek umjetnom inteligencijom. Općenito govoreći, zdravstvena tehnologija je tehnologija razvijena u svrhu poboljšanja aspekata zdravstvenog sustava ili cjelokupnog zdravlja osobe – uključujući tehnologiju koja podržava infrastrukturu (kao što su teleliječnici ili elektronički zdravstveni kartoni); osobna tehnologija (kao što su uređaji za praćenje zdravlja); i medicinske uređaje (kao što su mnogi novi uređaji za praćenje šećera u krvi za dijabetičare).
Mnogi od gore navedenih primjera mogli bi se protumačiti kao da potpadaju pod definiciju umjetne inteligencije iz uredbe.
U najosnovnijem primjeru, pametni uređaj za praćenje zdravlja (kao što je remen za fitness koji se nosi na zapešću) prikuplja informacije od korisnika i stvara zaključke o podacima, dopuštajući korisniku da vidi sažetke tih ponašanja, bilo da se radi o poduzetim koracima ili satima spavao. Čineći to, umjetna inteligencija je uzela podatke, obradila ih korištenjem niza tehnika navedenih u uredbi i proizvela izlaz koji je korisnik zatražio.
Unatoč nedostatku složenosti u usporedbi s uređajem poput stroja za kemijsko modeliranje, na primjer, čak i relativno tradicionalni alati mogu i dalje spadati u definiciju umjetne inteligencije za potrebe uredbe.
Naime, čak i tradicionalni elektronički zdravstveni karton, koji može unositi podatke u funkcije pretraživanja kako bi se zaključili o sljedećim koracima standarda skrbi, mogao bi pokrenuti predloženu definiciju.
Možda ćete se zapitati Zašto propis mora regulirati moj uređaj za praćenje fitnessa?
Iz perspektive EU-a, čak i jednostavan uređaj može prikupiti korisne informacije i koristiti ih za dalekosežna predviđanja i utjecaje. Podaci prikupljeni za određivanje koraka i brzine također mogu uključivati vaše osobne podatke o lokaciji – omogućujući nekome da prati faktore kao što su gdje ćete se vjerojatno nalaziti u određeno vrijeme, mjesta koja često posjećujete i lokacije na kojima ćete vjerojatno komunicirati s drugim korisnicima . Podatke prikupljene putem bezopasnih aplikacija kao što su brojači koraka ili zapisi o spavanju mogu koristiti tvrtke za izradu zdravstvenih profila svojih korisnika – koji se zatim mogu prodati drugim organizacijama za izračun vaših premija osiguranja ili vas ciljano oglašavati.
Sposobnost čak i jednostavnijih AI alata da postanu dio nečeg većeg potaknula je EU regulatore da rašire mrežu. A ta pretjerana inkluzivnost nužno će zaplesti inovacije svih vrsta. Osim toga, budući da se opseg tehnologije često širi kako se potrebe, ideje i menadžeri mijenjaju, regulatorni rizik određene inovacije umjetne inteligencije ne ovisi samo o tome što je alat, već o tome što bi mogao postati.
Slično kao i Opća uredba o zaštiti podataka, takav preventivni regulatorni pristup podsjeća nas da iako umjetna inteligencija nudi niz prednosti i rješenja za probleme u sektoru znanosti o životu, mora se prikladno implementirati i upravljati njome kako bi ostala na dobroj strani očekivanja EU-a regulacija. I dok bi realnost mogla biti da bi regulatori u konačnici mogli odabrati vrlo diskretne ciljeve za provedbu, ostaje činjenica da bi opseg propisa osnažio široku provedbu. Na regulatorima je da odrede koliko daleko ići.
KOGA TREBA BRINUTI?
Jednostavan odgovor: svaka tvrtka u opskrbnom lancu znanosti o životu. Uredba bi zahtijevala od organizacija u cijelom opskrbnom lancu da se pridržavaju obveza koje postavlja, a uključuje i niz mandata koje moraju slijediti. Posljedice neuspjeha mogu biti znatne, s kaznama koje dosežu do 30 milijuna eura ili 6 posto globalnog prometa (što god je veće), što bi moglo biti dodatak preklapajućim kršenjima kao što je 4 posto globalnog prometa prema Općoj Uredba o zaštiti datuma.
KAKVA JE BUDUĆNOST ZA EUROPU I AI U ZDRAVSTVENOJ TEHNOLOGIJI I ZNANOSTIMA O ŽIVOTU?
EU i brojne druge istaknute jurisdikcije jasno namjeravaju početi regulirati AI na razini organizacije i korisnika. Međutim, tehnološke tvrtke koje se ˝kreću˝ u sektoru zdravstva ili zdravstvene i farmaceutske tvrtke koje žele implementirati tehnologiju, sve moraju znati, osobito sagledamo li to iz kuta da današnja ulaganja neće biti regulirana sutra.
Evo odgovora na neka ključna pitanja o implikacijama uredbe o umjetnoj inteligenciji.
JE LI VAŽNO AKO NISAM U EU?
Ne . Cilj ove uredbe je zaštititi prava građana EU. Uredba će se primjenjivati na visokorizičnu umjetnu inteligenciju koja je dostupna unutar EU-a, koristi se unutar EU-a ili čiji učinak utječe na ljude u EU-u.
Stoga je nevažno nalazi li se pružatelj ili korisnik u EU ili ne. Na primjer, ako je umjetna inteligencija koja stvara podatkovne modele iz podataka o pacijentima smještena na poslužitelju izvan EU-a i/ili su odluke koje umjetna inteligencija donosi ili poboljšava aktivnost koja se provodi izvan EU-a, režim se i dalje može primjenjivati.
ŠTO TREBA DA RAZUMIJEM?
Pružatelji: Najstrože kontrole primjenjivat će se na pružatelje – osobu ili organizaciju koja razvija sustav umjetne inteligencije ili koja ima razvijen sustav umjetne inteligencije s ciljem njegovog stavljanja na tržište ili u upotrebu pod svojim imenom ili zaštitnim znakom, bilo uz plaćanje ili besplatno.
Mnoge kontrole koje će se primjenjivati na pružatelje usluga bit će poznate onima koji su općenito pratili razvoj i prijedloge umjetne inteligencije: transparentnost; točnost, robusnost i sigurnost; odgovornost; testiranje; upravljanje podacima i prakse upravljanja; i ljudski nadzor.
Specifični aspekti EU-a uključuju zahtjev da pružatelji samocertificiraju visokorizičnu umjetnu inteligenciju provodeći ocjene sukladnosti i stavljajući odgovarajuće oznake dokaza sukladnosti (kao što je oznaka CE); da visokorizična umjetna inteligencija mora biti registrirana u novoj bazi podataka EU-a prije prve uporabe/pružanja; te da pružatelji usluga imaju uspostavljen sustav izvještavanja o incidentima i poduzimaju korektivne radnje u slučaju ozbiljnih kršenja/nesukladnosti.
Uvoznici, distributeri i korisnici: Ostali sudionici u visokorizičnom vrijednosnom lancu umjetne inteligencije također će biti predmet novih kontrola. Na primjer, uvoznici će morati osigurati da je dobavljač proveo ocjenu sukladnosti i da je sastavio potrebnu tehničku dokumentaciju.
Od korisnika će se također sada tražiti da koriste AI u skladu s njegovim uputama, nadziru ima li problema (i označe ga pružatelju/distributeru) i, između ostalog, vode zapisnike. Međutim, napominje se da je osobna uporaba isključena iz obveza i predstavlja izuzetak od primjene velikog dijela obveza koje se propisuju.
ŠTO JE SA SUKLADNOŠĆU ORGANIZACIJE?
Ključni odgovor na ovaj rastući regulatorni trend bit će osigurati da su procesi sada uspostavljeni kako bi se zadovoljili zahtjevi propisa i kako bi se stvorila zaštita od buduće regulative, trenutnih sivih zona.
Kompanije bi trebale izvršiti reviziju svojih postojećih sustava i svojih planova za nove proizvode i usluge kako bi provjerile može li nešto biti uhvaćeno pod nadolazećim režimom. Treba biti oprezan s tehnologijama koje odlutaju prema onima koje se smatraju zabranjenima prema uredbi, poput sustava umjetne inteligencije koji koriste subliminalne tehnike ili onih koji iskorištavaju ranjivosti određenih kategorija osoba. Slične zabrane mogu se pronaći na uređajima koji koriste sustave društvenog bodovanja i sustave biometrijske identifikacije u stvarnom vremenu.
PROCJENA ODREĐIVANJA VISOKOG RIZIKA: 5 KLJUČNIH KORAKA
Kako bi procijenile što je obuhvaćeno oznakom visokog rizika unutar uredbe, organizacije bi trebale razmotriti primjenu jednostavne metodologije:
- Razumijevanje – obavite početnu reviziju trenutnih i kratkoročnih sustava koji bi mogli biti zahvaćeni trenutnim ili budućim propisima, procijenite položaj vaše organizacije u ciklusu korištenja AI-a (kupac, korisnik, pružanje AI kao usluge) i razjasnite svoje podatke;
- Politike – pogledajte relevantne tokove procesa, potrebu za obavijestima i transparentnošću, politike koje obuhvaćaju regulatorne zahtjeve, etičke politike i politike vođene SESG-om te one koje su specifične za industriju;
- Aspekti radne snage i potrošača – razmotrite rizike od pristranosti i diskriminacije;
- Očuvanje vlasništva – zaštitite svoje podatke i sustave umjetne inteligencije i
- Usklađivanje korporativne strategije – osigurajte da se politike umjetne inteligencije uklapaju u opći kontrolni skup vaše organizacije za odgovornu umjetnu inteligenciju i šire odgovorno upravljanje, kao što su protokoli za odgovorno zadržavanje podataka, ESG politike i slični interni pristupi.
JURISDIKCIJE ŠIROM SVIJETA TEŽE REGULIRATI AI
Taj isti koncept samostalne ili neovisne revizije umjetne inteligencije brzo se razvija u SAD-u, Velikoj Britaniji i drugim jurisdikcijama. U SAD-u, Savezna komisija za trgovinu objavila je svoju namjeru da tvrtke koje koriste diskriminatorne algoritme pozove na odgovornost prema svojim postojećim ovlastima. U Kongresu su sve popularniji novi prijedlozi koji bi formalizirali takve zahtjeve i FTC-u dodijelili izričitu nadležnost za nadzor i provođenje kazni za kršenja.
Ova pitanja imaju posebnu rezonanciju u zdravstvu i biološkim znanostima kao priznatim područjima "visokog rizika" gdje odluke mogu utjecati na pristup medicinskim dijagnozama i terapijama, njihovu učinkovitost i sigurnost.
U isto vrijeme, zdravstveni regulatori usredotočuju se na razliku između pomoćnih i autonomnih tehnologija, trend s implikacijama na regulatorna i običajnopravna stajališta o odgovornosti i podjeli rada između ljudskih medicinskih stručnjaka, istraživača i strojeva.
Sve će se to ubrzano razvijati u sljedećih nekoliko godina. Razvoj događaja u EU mogao bi ponuditi ključne uvide o tome što budućnost nosi u SAD-u i drugim jurisdikcijama diljem svijeta, posebno s obzirom na poticaj nekih pojedinačnih država u SAD-u da se usklade s europskim standardima.
