Što i kako
StoryEditor

UI i kibernetička sigurnost: Vodič za usklađivanje s Uredbom o umjetnoj inteligenciji EU-a

01. Prosinac 2023.
Piše: Ozren Kobsa, odvjetnik u odvjetničkom uredu Kobsa, Zornada i partneri d.o.o., u suradnji s Deloitte Legalom

Prijedlog uredbe o umjetnoj inteligenciji Europske komisije (Akt o umjetnoj inteligenciji) ključan je trenutak u regulaciji umjetne inteligencije radi uspostave horizontalnog okvira za pouzdani UI i ublažavanje rizika povezanih sa zdravljem, sigurnošću i temeljnim pravima povezanim s novim UI tehnologijama. Stoga dobavljači UI sustava trebaju provesti potrebne tehničke i organizacijske mjere prije plasiranja visokorizičnog UI sustava na tržište Europske unije, kako bi osigurali usklađenost sa zahtjevima propisanima Aktom. Svrha je izgraditi povjerenje u umjetnu inteligenciju te uvesti inovativnu tehnologiju istodobno osiguravajući pozitivan društveni utjecaj.

Ključnu ulogu pri postizanju usklađenosti igrat će normizacija standarda kibernetičke sigurnosti. Specifični alati koji osiguravaju kibernetičku sigurnost visokorizičnih sustava umjetne inteligencije još uvijek nisu dovoljno istraženi te su manjkavi. Takva istraživanja tek su u nastajanju, a cilj je prikupiti i kombinirati znanje i pristupe iz različitih područja kao što su istraživanje UI-ja (engl. AI research), neprijateljsko strojno učenje (adversarial machine learning) i kibernetička sigurnost (general cybersecurity).

Smjernice za dionike

Namjera je ovim tekstom istaknuti praktične implikacije kibernetičke sigurnosti koje su propisane Aktom i pružiti ključne smjernice za postizanje usklađenosti kako ih je objavio Zajednički istraživački centar (Joint Research Centre), koji kao znanstveni centar Europske komisije pruža neovisno znanje utemeljeno na dokazima i znanstvenim istraživanjima.

Navedene smjernice pružaju ključan uvid svim dionicima koji navigiraju kroz kibernetičku sigurnost propisanu Aktom. S obzirom na to kakav utjecaj UI može imati (pozitivan i negativan), možemo reći da je širok spektar dionika koji trebaju razmatrati zahtjeve kibernetičke sigurnosti. Možemo ih podijeliti u tri grupe: (1.) individualni dionici, (2.) organizacijski dionici te (3.) nacionalni ili međunarodni dionici koji su uključeni u izradu nacrta zakona i drugih propisa.

Ključni elementi

Članak 15. Akta o umjetnoj inteligenciji propisuje da visokorizični sustavi UI-ja trebaju postići određenu razinu točnosti, robusnosti i kibernetičke sigurnosti. Uvodna izjava 51. Akta dodatno razrađuje kibernetičku sigurnost.

Zahtjevi kibernetičke sigurnosti trebali bi uključivati sljedeće ključne elemente: otpornost na zlonamjerne izmjene, primjena tehničkih i organizacijskih rješenja, procjenu rizika kibernetičke sigurnosti i odgovarajuća tehnička rješenja temeljena na rizicima.

Prema Aktu visokorizični UI sustavi moraju proći ocjenu sukladnosti kako bi ispunili zahtjev kibernetičke sigurnosti prije upotrebe na tržištu EU-a. Uvodna izjava 51. Akta navodi da: ‘Visokorizična umjetna inteligencija treba biti popraćena sigurnosnim rješenjima i zakrpama tijekom životnog vijeka proizvoda ili, u slučaju nepostojanja ovisnosti o određenom proizvodu, tijekom razdoblja koje mora navesti proizvođač.‘ To znači da pružatelji UI sustava moraju jamčiti kibernetičku sigurnost te njegovo ažuriranje tijekom cijelog životnog vijeka UI sustava.

Normirani standardi

Postoje dvije mogućnosti osiguravanja usklađenosti. Prva mogućnost je primjena normiranih standarda navedenih u Poglavlju 5 Akta. Uvodna izjava 61. Akta navodi: ‘Normizacija bi trebala imati ključnu ulogu u pružanju tehničkih rješenja dobavljačima kako bi se osigurala usklađenost s ovom Uredbom.‘ Prvi zahtjev za normizacijom UI-ja, koji je objavila Europska komisija u svibnju 2023., službeno upućuje na razvoj potrebnih standarda za olakšavanje nadolazećih propisa o umjetnoj inteligenciji. Budući da je primjena normiranih standarda dobrovoljna, druga mogućnost je da sami pružatelji sustava UI-ja dokažu usklađenost s Aktom bez ovisnosti o istima.

Integriranjem uspostavljenih praksi kibernetičke sigurnosti s mjerama specifičnim za UI, visokorizični UI sustavi mogu učinkovito ublažiti rizike kibernetičke sigurnosti i raditi na usklađenosti. Usklađenost s Aktom o umjetnoj inteligenciji igra ključnu ulogu u razvoju UI ekosustava, pri čemu je tehnološki napredak na području kibernetičke sigurnosti sljedeći korak za veću sigurnost korisnika UI sustava.

26. veljača 2024 21:23