Što nam donosi EU akt o umjetnoj inteligenciji, govorilo se u nastavku Liderovog G.R.I.D foruma. Naime, akt EU o umjetnoj inteligenciji donesen nedavno postavlja okvir za reguliranje razvoja, upotrebe i nadzora sustava. Cilj je osigurati sigurnost, etičnost i transparentnost u korištenju. Akt sadrži kategorizaciju sustava prema rizicima, obvezuje na poštivanje osnovnih prava i principa, te postavlja nadzor i sankcije za nepridržavanje propisa.
Osim toga, propisuje i obavezne standarde za neke posebne kategorije AI sustava kao što su oni u sektoru javne sigurnosti. Njegova provedba otvara i pitanja kako će nova regulativa utjecati na globalnu konkurentnost europskih tvrtki u području umjetne inteligencije? Koje su glavne brige industrije i stručnjaka u vezi s predloženim regulativama? Kako će se provoditi nadzor i provođenje regulative u praksi i koja su moguća ograničenja i izazovi? Kako nova regulativa može utjecati na razvoj tehnologije i inovacija?
Andrea Čović Vidović, zamjenica voditeljice Predstavništva EK u Hrvatskoj, na početku je naglasila da je riječ o uredbi koja je donesena nedavno, a koja se izravno sa EU razine provodi u državama članicama. Uskoro, nakon što se objavi u Službenom listu EU, počet će s njezinom provedbom.
U središtu joj je zaštita čovjeka, a puna će joj primjena biti, ovisno o stupnju rizika, za šest mjeseci nakon objave u službenom listu (dio o neprihvatljivom riziku) te za 12 i 36 mjeseci, ovisno o stupnju rizika za čovjeka. Kao što vidimo, Uredba je temeljna na sustavima rizika, a najviše je zastupljen minimalni rizik. Uz njega u Uredbi se spominje i ograničeni rizik, ali i visoki rizika kojeg čine, primjerice, kritična infrastruktura, promet, zdravstvo (35 posto liječnika u svijetu koristi AI), granice. Postoji i najviši stupanj stupanj rizika u koji se ubrajaju društveno vrednovanje, nadzor, odnosno sve ono što bi ugrožavalo privatnost, sigurnost i dostojanstvo čovjeka.
- Kompanije su slobodne razvijati sustave, rekla bih da je nebo granica. No to je prvi korak. U sljedećim koracima postoje ograničenja koja su regulirana Uredbom tako da, ukoliko dođe do nekih promjena u sustavima rizika na tržištima kada se stavljaju sustavi, sustavi se vraćaju na drugi korak kako bi se prilagodili promjenama.
Kazna može iznositi i do sedam posto globalne zarade neke kompanije ili do 35 milijuna eura. Neki su takav sustav kritizirali jer postoje kompanije s milijardama eura zarade, tako da za njih tolike kazne neće predstavljati problem. No stvar je zapravo reputacijske prirode jer niti jedna kompanija ne želi za sebe reputacijski rizik – rekla je Čović Vidović koja je nakon svog predavanja sudjelovala i na okruglom stolu na temu ‘Budućnost AI u EU – između regulative i inovacija‘.
200 milijuna eura za AI projekte
Ona je rekla da su u Bruxellesu shvatili da je tržište AI potrebno regulirati na nivou EU, shvaćajući da je riječ o dimenziji koja će se razvijati jako brzo. Zato je trebalo zaštititi čovjeka. U tom smislu sudjelovali su u gospodarstvenici koji su i sami predložili segmentiranje sustava AI prema riziku. Uredba je kompromis među zemljama članicama EU koje su zastupale svoje tvrtke, ovisno o razvijenosti AI-ja. Radi se o minimalnim standardima, rekla je Čović Vidović i posebno naglasila da je formiran Pakt o umjetnoj inteligenciji koji služi kao pomoć svima koji se bave AI-jem. Pogotovo u kontekstu još uvijek nepoznate Uredbe koja treba stupiti uskoro na snagu. Ona ih je pozvala da se jave i zatraže informacije o tome kojoj skupini rizika pripada proizvod, da razmjenjuju informacije, ali i da institucije i interesna udruženja obavještavaju sudionike tržišta o svim obavezama koje stoje pred njima.
EU je predvidjela 200 milijuna eura za inovacije u području AI, a slijedi još više sredstava. Naime, vrlo veliki dio EU proračuna usmjeren je u jačanje EU kao digitalnog kontinenta, međutim, kazala je, za sada je slaba iskorištenost tog novca.
Aco Momčilović iz Global AI Ethics Institute rekao je da žele osvijestiti u drugim dijelovima svijeta činjenicu da je dobro što je EU stvorila dokument sukladan svojoj vrijednosti.
- Želimo da i drugi dijelovi svijeta naprave slično. Indija je inspirirana EU-om, Amerikanci također nešto rade, ali izdvojio bih, po meni, najzanimljiviji komentar koji je došao iz Amerike. Jedan tamošnji stručnjak je rekao: ‘U redu, akt regulira puno toga, međutim, možda bi trebalo više regulirati. Naime, ne regulira katastrofalne rizike. I to je ono o čemu trebamo razmisliti, pozivajući EU.
Tko će provoditi Uredbu?
Stefan Martinić, iz odvjetničkog društva Kramarić i Partners, dodao je da je Uredba sveobuhvatan akt, no iako je napomenuo da je ona ujedno teret i trošak za poduzetnike, naglasio je da svima nije isti jer ovisi na kojem je stupnju rizika AI kompanije. S druge strane, kao potencijalni problem Martinić vidi i to što je Uredba centralizirana (obavezna je bez promjena u nacionalnim zakonodavstvima), a njezina je primjena decentralizirana.
- Sad treba vidjeti tko će to znati primijeniti, interpretirati. I mi iz privatnog sektora moramo gurati cijeli sektor da se pripremi na provedbu Uredbe – rekao je Martinić.
Davor Aničić, izvršni direktor tvrtke Velebit AI, podsjetio je da u Hrvatskoj postoji udruga CROAI koja može puno pomoći u svim spomenutim aktivnostima. Rekao je da inače svaka regulacija usporava razvoj i postavlja velike ispred malih.
- Naši bi klijenti željeli znati u koji stupanj rizika njihov proizvod spada, što za sada teško možemo odrediti. Volio bih da nam se što prije obrazloži kako će se tretirati AI po stupnjevima rizika – rekao je Aničić.
Napomenuo je da uskoro neće biti sustava koji ne koristi AI, a da to ljudi možda neće biti svjesni. Naveo je primjer uklanjanja crvenih očiju u fotografijama, zadnjih par godina više ih nema, a to možemo zahvaliti umjetnoj inteligenciji u mobitelima.
- Nećemo ni znati da imamo sustav AI. Granice postaju mutnije, neće biti lako odrediti čije je autorsko pravo na neki tekst. Sustavi postaju kompleksniji, zato ćemo vidjeti kako će regulacija biti provedena i zato mislim da je dobro što je EU donijela uredbu - rekao je Aničić.