Što i kako
StoryEditor

Pravna regulacija umjetne inteligencije: Ne valja srljati s algoritmima

08. Prosinac 2021.
piše: Malina Krišto, specijalistica za digitalni marketing, Serengeti

Prije nego što odlučite transformirati svoje poslovanje strojnim učenjem, trebali biste provjeriti je li vaša tvrtka spremna za sljedeći tehnološki korak, koji uz mnogo prednosti donosi i neke izazove. Osim usklađenosti s regulativom zaštite osobnih podataka, koja je eksterni utjecaj, stavke koje bi tvrtke trebale razmotriti prije uvođenja rješenja umjetne inteligencije odnose se na interne probleme, ciljeve i mogućnosti

Mnogo je razloga zašto tvrtke integriraju strojno učenje u svoje aktivnosti. Poboljšanje segmentacije korisnika te u konačnici povećanje prihoda tvrtke, rast i bolja tržišna pozicija samo su neki od njih. Svrha strojnog učenja, odnosno glavno pitanje koje samo polje strojnog učenja pokušava odgonetnuti je 'kako možemo izgraditi računalne sustave koji se automatski poboljšavaju s iskustvom?' Drugim riječima, smisao strojnog učenja je detektiranje obrazaca u podacima kako bi se napravila predviđanja, a koja će u konačnici biti put za rješenje poslovnog pitanja.

Plusovi i minusi

Strojno učenje ogranak je umjetne inteligencije koji nastoji naučiti računala da djeluju bez eksplicitna programiranja. Nepobitna činjenica jest da je strojno učenje prisutno u sve većem broju industrija; od medicine, marketinga, razvoja softvera do proizvodnje, logistike, kibernetičke sigurnosti i financijskih usluga. Jedna od poslovnih prednosti implementacije strojnog učenja je omogućavanje automatizacije zadatka na temelju složenih obrazaca. Dodatna prednost jest što ta tehnologija tvrtkama omogućuje transformaciju zadataka koje su prije obavljali isključivo zaposlenici. Postalo je teško zamisliti industriju koja se ne može transformirati uz pomoć strojnog učenja. Kao i kod prethodnih tehnoloških trendova, usvajanje tih tehnologija nudi brojne prednosti, ali donosi i određene izazove.

Primjera radi, prikazivanje neke online reklame osobi na temelju aktivnosti na društvenim medijima i određenim web-stranicama možda se ne smatra nametljivim i može se čak cijeniti ako to odgovara interesu dotične osobe. Međutim, u nekim slučajevima takvo se postupanje može shvatiti kao diskriminacija. Drastičan primjer koji se nedavno dogodio odnosi se na Facebookov AI sustav, koji je video s Afroamerikancima označio kao 'primati'. Video koji je prikazivao snimke Afroamerikanaca u svađi s policijom automatski je potaknuo gledatelje da 'nastave gledati videozapise o primatima'. Drugi primjer pokazuje pristranost prema spolu – liječnici je pri boravku u teretani onemogućen pristup ženskoj svlačionici nakon što ju je automatizirani sigurnosni sustav zamijenio za muškarca jer je izraz 'dr.' bio automatski povezan samo s muškarcima.

Na što svratiti pozornost?

Prije nego što odlučite transformirati svoje poslovanje strojnim učenjem, trebali biste uzeti u obzir nekoliko stavki kako biste provjerili je li vaša tvrtka spremna za sljedeći tehnološki korak. Prva stavka koju treba uzeti u obzir pravna je regulacija, odnosno zaštita osobnih podataka. Prema definiciji Europske komisije, osobni podatak je svaka informacija koja se odnosi na pojedinca čiji je identitet utvrđen ili se može utvrditi. Različite informacije, koje zajedno prikupljene mogu rezultirati utvrđivanjem identiteta određene osobe, također čine osobne podatke.

Mnoge AI aplikacije obrađuju osobne podatke koji se mogu upotrijebiti za analizu, predviđanje i utjecaj na ljudsko ponašanje. Zahvaljujući umjetnoj inteligenciji, takve podatke i rezultate njihove obrade možemo pretvoriti u vrijedne uvide. Algoritmi strojnog učenja temelje se na velikim količinama podataka koje je potrebno obraditi da bi algoritam naučio. Način na koji se ti podaci upotrebljavaju ključni je element u određivanju podlijeganja pravnim regulacijama. Osobni podaci mogu se upotrijebiti samo u svrhu znanstvenih, povijesnih ili statističkih istraživanja, kao što je otkrivanje uzoraka i korelacija. S druge strane, podaci se također mogu upotrijebiti za donošenje odluka koje mogu utjecati na pojedince. Čak i u sektorima u kojima se moraju donositi komplicirane odluke na temelju više aspekata i kriterija koji nisu unaprijed definirani, kombinacija umjetne inteligencije i velike količine podataka omogućuje automatsko donošenje odluka. Širenje tržišta strojnog učenja i sve učestalija primjena te tehnologije potaknuli su rasprave o prednostima i nedostacima algoritamskih procjena te načinima na koje mogu utjecati na pojedince.

Gdje su osobni podaci, tu je i GDPR

GDPR zahtijeva od tvrtki da se pridržavaju propisa koji će osigurati podatke korisnika. No, postavlja se pitanje kako će se ta regulacija odnositi prema automatizaciji u analitici kako tržište umjetne inteligencije i strojnog učenja raste. Kako navodi Europski odbor za zaštitu podataka: 'Svaka obrada osobnih podataka putem algoritma ulazi u opseg GDPR-a.' Stoga, kad god se algoritam strojnog učenja ili AI sustav koriste osobnim podacima, može se i mora primijeniti GDPR. GDPR adresira dvije bitne stavke strojnog učenja, a to su automatizirano donošenje odluka i profiliranje. Prema Članku 22 GDPR-a, pojedinac ima pravo ne podlijegati ni jednom ni drugom ako na njega imaju pravne učinke. Time se vlasnicima podataka daje pravo isključenja iz isključivo automatizirane obrade, uključujući i profiliranje. Članak 22 predstavlja opće ograničenje, a Članak 15 daje nešto strože zahtjeve koji su povezani s navedene dvije stavke. Osim usklađenosti s regulativom zaštite osobnih podataka, koja je eksterni utjecaj, stavke koje bi tvrtke trebale razmotriti prije usvajanja AI rješenja odnose se na interne probleme, ciljeve i mogućnosti.

Prikupljanje podataka je prihvatljivo, ali uz neke uvjete

GDPR navodi šest načela zaštite podataka, a prema norveškom nadzornom tijelu za zaštitu podataka (NDPA), AI se povezuje s četiri od njih:

Pravednost i nepristranost

Postoji mogućnost da algoritamske odluke budu diskriminirajuće ili pogrešne. Odabir ispravnog modela učenja (nadgledanog ili nenadgledanog) pravih podataka za obuku i praćenje izvedbe trebao bi imati pozitivan utjecaj na minimiziranje pristranosti.

Minimiziranje podataka

Količina podataka koji se prikupljaju i analiziraju trebala bi biti minimalna. Strane koje prikupljaju podatke moraju jamčiti da su osobni podaci prikladni – da su dovoljni za ispravno ispunjenje navedene svrhe, relevantni i ograničeni na ono što je potrebno – da ne sadrže više nego što im je potrebno za taj cilj.

Ograničenje svrhe

Osim minimiziranja, osobni podaci mogu se prikupljati samo za određenu i točno definiranu svrhu.

Transparentnost

Transparentnost podrazumijeva pružanje jasnih informacija pojedincima o tome kako se njihovi osobni podaci obrađuju pomoću umjetne inteligencije, kao i o svakom mogućem utjecaju na njihovu privatnost. Korisnici moraju biti svjesni da se njihovi podaci prikupljaju i na koji način se obrađuju.

Izazovi, mogućnosti i ciljevi

Prije implementacije bitno je definirati potrebe tvrtke i problem koji se implementacijom nove tehnologije želi riješiti. Pitanja na koja je poželjno odgovoriti su:

  • Koji rezultat koji želite vidjeti?
  • Koje su glavne prepreke koje vas sprječavaju da postignete željeni ishod?
  • Koje je postojeće procese potrebno modificirati?
  • Na koji bi način strojno učenje moglo pomoći vašem poslovanju i kako ćete mjeriti rezultate?
  • Koje podatke imate, a koje podatke trebate?

No čak i nakon odgovora na prethodno postavljena pitanja, mnogi se pitaju kako odrediti koji su izazovi pogodni za rješavanje strojnim učenjem. Savjet je sljedeći: započnite razlikovanjem teškoća u automatizaciji i izazova učenja. Strojno učenje može pomoći u automatizaciji vaših operacija, ali ne zahtijevaju svi izazovi automatizacije prethodno učenje. Kada je zadatak dovoljno jednostavan, može se primijeniti automatizacija bez učenja. To su jednostavni zadaci s preciznim, određenim redoslijedom radnji koje trenutačno obavlja čovjek. U slučaju složenijih zadataka, standardna automatizacija nije dovoljna. Za uspješnu primjenu strojnog učenja na ovu vrstu zadatka, model treba učiti iz podataka.

Samo kvaliteta

Nakon definiranja potreba i problema koji se žele riješiti, vrijeme je da se osvrnemo na podatke. Kao što smo već spomenuli, algoritmi strojnog učenja upotrebljavaju velike količine podataka. Strojno učenje temelji se na učenju iz prošlih iskustava. Istražuje podatke i identificira obrasce. Međutim, ti modeli ne mogu steći nikakvo znanje koje nije sadržano u podacima koje dostavite. Nedostatna veličina skupa podataka često je odgovorna za smanjenje performansi projekta strojnog učenja jer bez dovoljno podataka ne možete kvalitetno trenirati nijedan model. Često pitanje koje se postavlja jest koliki je skup podataka dovoljan? Nažalost, ne postoje utvrđena pravila koja će dati jasan odgovor, ali postoji nekoliko stvari koje možete uzeti u obzir:

  • Koliko je složen problem koji pokušavate riješiti strojnim učenjem?
  • Koliko je složen algoritam koji ćete odabrati?

Složeniji modeli, poput neuronskih mreža, zahtijevaju veći skup podataka. Osim nedostatkom podataka, problem može biti uzrokovan nedostatkom dobrih podataka. Loša kvaliteta podataka jedan je od glavnih protivnika uspješnog i profitabilnog usvajanja strojnog učenja. Kvalitetni podaci daju kvalitetne rezultate, ali nedostatni podaci ne.

Ljudski resursi

Posljednja, ali ništa manje važna stavka su interni resursi. Da biste ostvarili najveću poslovnu korist od strojnog učenja, potrebni su vam stručnjaci. Internim programerima možda nedostaje stručnost za izgradnju modela temeljenih na strojnom učenju, a s obzirom na to da je ta tehnologija relativno nedavno dobila na popularnosti, pronalazak stručnjaka može biti izazovan. Dodatni problem koji se može pojaviti u procesu zapošljavanja potvrđivanje je njihove stručnosti jer to od vas zahtijeva poznavanje strojnog učenja. S druge strane, vanjski konzultant, ili čak cijeli tim stručnjaka, već poznaju najbolje prakse i upoznati su koje strategije funkcioniraju na različitim mjestima i projektima.

Pouzdan partner pomoći će vašem poslovnom razvoju pružanjem pouzdanih i dosljednih konzultantskih usluga vezanih uza strojno učenje i implementaciju prilagođenih rješenja, a također će razumjeti izazove takvih projekata. Kada se izvede ispravno, outsourcingom se prilagođena rješenja znatno brže kreiraju, skraćujući vrijeme do izlaska na tržište, a pritom zadržavajući visoku kvalitetu. 

26. svibanj 2022 00:51