Novi zakon stupa na snagu

I NJENE PRIMJENE U FORMI DOKUMENTA KOJI ĆE EVROPSKI PARLAMENT RATIFICIRATI U MARTU 2023. GODINE. EVROPSKI ZAKON O VJEŠTAČKOJ INTELIGENCIJI JE TAKO POSTAO JEDNO OD NAJSAVREMENIJIH PRAVNIH RJEŠENJA ZA REGULIRANJE OBLASTI TEHNOLOGIJE VJEŠTAČKE INTELIGENCIJE

n Piše: Mirza Bahić redakcija@asadria.com

Pronalazak adekvatne pravne definicije vještačke inteligencije bila je polazna tačka u izradi ovog važnog dokumenta. Jedan od prvih problema bila je zabrinutost da bi ta definicija mogla biti preširoka i tako uključiti tradicionalni softver i nepotrebno ga povezati s rizicima koji mu nisu imanentni. Zato je uvedena uža definicija sistema povezanih s vještačkom inteligencijom, u koju su ušli mašinsko učenje i pristupi bazirani na logici i znanju. Ovi elementi su odabrani jer ih zakonodavna tijela EU-a mogu lakše naknadno ažurirati preko odgovarajućih pravnih akata.

Pri izradi zakona važnu ulogu su imali razrađena lista AI sistema “visokog rizika”, nova uloga Odbora za vještačku inteligenciju i jasnija definicija izuzetaka za primjenu AI-ja u oblasti nacionalne sigurnosti i provedbe zakona. Za početak je data definicija vještačke inteligencije “opće namjene”. Prema novom pravnom okviru, AI opće namjene uključuje velike jezičke modele koji se mogu prilagoditi za obavljanje različitih zadataka, a ne samo ciljeva. Države članice Evropske unije su smatrale da bi ostavljanje ovih kritičnih sistema izvan pravnog okvira “osakatilo” prateći pravilnik o vještačkoj inteligenciji. To je posebno važno u vremenu kada je potrebno regulisati jedno ovakvo dinamično tržište. Ovo pitanje je riješeno tako što je Evropska komisija zadužena da izvrši procjenu utjecaja i obavi konsultacije o pravilima za AI opće namjene u roku od godinu i po dana od stupanja uredbe na snagu.

Kada je riječ o klasifikaciji, tekst donosi prijeko potrebnu podjelu “visokorizičnih” AI sistema. Time se htjelo osigurati da ovaj pravni okvir ne izostavi nijedan AI sistem koji bi mogao uzrokovati ozbiljna kršenja osnovnih prava ili dovesti do pojave značajnih rizika. Kategorije visokog rizika opisane su u Aneksu III Uredbe, gdje se navodi da taj koncept podrazumijeva AI sistem čija primjena povlači visok rizik da nanese štetu ljudima ili imovini, zbog čega se na ove AI sisteme primjenjuju strožije zakonske obaveze. Kako bi se, pri tome, sistem klasificirao kao visokorizičan, on mora imati odgova-

rajuću težinu u procesu donošenja odluka. To znači da oni ne mogu biti “pomoćni” AI sistemi, čije je detaljnije definiranje ostavljeno na brigu Komisiji u vidu budućeg podzakonskog akta. Važno je napomenuti da je Evropsko vijeće s liste ovih sistema uklonilo sisteme detekcije deepfake manipulacija i prepoznavanja emocija koje koriste organi reda, kao i AI sisteme za analitiku kriminala i provjeru autentičnosti putnih isprava. Listi su, s druge strane, dodane kritična digitalna infrastruktura te životno i zdravstveno osiguranje. Radi dodatne fleksibilnosti, Komisija će u budućnosti moći ne samo dodavati visokorizične vidove primjene AI-ja kroz anekse nego ih i brisati pod određenim uslovima. Zbog toga je proširena obaveza korisnika visokorizičnih sistema vještačke inteligencije da se registruju u bazi podataka EU-a. Ova obaveza se sada odnosi i na javne organe, izuzev tijela za provođenje zakona. Korisnici AI sistema visokog rizika morat će uskladiti svoj rad sa zahtjevima Zakona, kao što su osiguravanje dovoljno kvalitetnih skupova podataka i jednako detaljne tehničke dokumentacije.

Zabrana društvenog bodovanja pomoću AI-ja sada je proširena i na privatne aktere kako bi se izbjeglo zaobilaženje zabrane preko podugovarača, dok je koncept iskorištavanja ranjivosti proširen i na socioekonomsku sferu. Na kraju, Zakon predviđa i ojačane tehničke kapacitete za njegovu lakšu implementaciju. To podrazumijeva i angažman Komisije na imenovanju institucija za tehničku podršku u primjeni ovog tehnološki orijentiranog zakona. Isto važi i za uspostavu kontroliranih okruženja u okviru kojih kompanije mogu testirati AI rješenja pod odgovarajućim nadzorom. Složenost prateće regulative o AI-ju pokazatelj je da primjena ovog zakona neće biti jednosmjerna ulica, s obzirom na to da je AI dinamično i mlado tržište. Ipak, kao prvi korak u uvođenju ove tehnologije u prave okvire, Zakon o AI-ju je historijski dokument od kojeg se s pravom mnogo očekuje. t

Evropski zakonodavci se slažu da će adekvatna primjena Zakona uveliko zavisiti i od kvalitetno definiranih izuzetaka u pogledu njegove primjene. Kao najvažniji subjekti na koje se Zakon o AI-ju neće jednako primjenjivati navode se agencije za zaštitu nacionalne sigurnosti, organi za provedbu zakona i vojska. Pojašnjeno je da se Zakon o AI-ju ne bi trebao primjenjivati na sisteme vještačke inteligencije i njihove ishode koji se koriste isključivo u svrhu istraživanja i razvoja. Isto važi i za zabranu korištenja vještačke inteligencije u neprofesionalne i netransparentne svrhe, a izvan djelokruga primjene Zakona o AI-ju. U skladu s procjenom odgovarajućih mjera zaštite, ove zakonske izmjene trebaju odražavati potrebu za zaštitom povjerljivosti osjetljivih operativnih podataka do kojih se dolazi u sklopu operativnih aktivnosti potpomognutih AI-jem. Isto tako, novi pravilnik zabranjuje korištenje vještačke inteligencije za tehnike iskorištavanja ranjivosti i uspostavljanje sistema “društvenog bodovanja”, poput onog u nekim azijskim zemljama.

Sistemi vještačke inteligencije su razvijeni i distribuirani kroz složene lance vrijednosti. Izmjene zakona o AI-ju sada detaljno pojašnjavaju raspodjelu odgovornosti i uloga različitih aktera u tim lancima, posebno dobavljača i korisnika AI sistema. Novi zakonski okvir preciznije definira i raspodjelu odgovornosti svih učesnika unutar složenih lanaca primjene te tehnologije. Naprimjer, mala i srednja preduzeća koja koriste AI sisteme označene kao visokorizične sada će morati posjedovati dovoljno detaljne podatke o njihovoj primjeni, kao i cjelovitu tehničku dokumentaciju pomoću koje će morati dokazati njihovu usklađenost s novim zakonom. Nova uredba razjašnjava i odnos različitih nadležnosti prema Zakonu o vještačkoj inteligenciji u okviru sektorskih zakonodavstava, npr. evropskih propisa o zaštiti podataka i sektoru finansijskih usluga. Na kraju, Zakon će ostati u živom dijalogu s postojećim sektorskim zakonodavstvima za različite oblasti u kojima se AI primjenjuje.