Ni umjetna inteligencija ne smije ubiti privatnost

Iako sustave umjetne inteligencije u Hrvatskoj, prema podacima Državnoga zavoda za statistiku, primjenjuje samo 22 posto velikih poduzeća, deset posto srednjih i samo osam posto malih, ona je postala sastavni dio mnogih industrija, uključujući telekomunikacijsku, financijsku, marketinšku, trgovačku i sl. Prema Deloitteovim predviđanjima, uskoro možemo očekivati pojačanu raspravu o regulaciji uporabe umjetne inteligencije (AI), nove tehnologije u svijetu biznisa koja je do sada uspješno izbjegavala dugu ruku regulativnih agencija i propisa. No sa sve većom zabrinutošću zbog privatnosti to razdoblje odgode uskoro će završiti. Prve zakonske regulative očekuju se već 2023., no u regulaciji AI-ja stvari su se već zakotrljale. Lani su i Europska unija i Američka savezna trgovinska komisija (FTC) izradile prijedloge i dokumente čiji je cilj stroža regulacija umjetne inteligencije, a i Kina je predložila skup propisa koji reguliraju tehnološke tvrtke. Tehnologija postaje sve moćnija, sposobnija i raširenija, pa su regulatori zabrinuti zbog društvene pristranosti, diskriminacije i pitanja privatnosti koja su svojstvena uporabi strojnog učenja, a i tvrtke koje se koriste umjetnom inteligencijom već su naišle na kontroverzije povezane s neugodnim zabludama koje katkad donosi tehnologija. E, sad je pitanje hoće li, kao u slučaju GDPR-a, postojati neki jedinstven skup pravila jednak za sve ili će velike sile uvesti svaka svoju regulaciju, ili će se pak sami dobavljači umjetne inteligencije početi samoregulirati.

Iskustvo vrhunsko, podaci sigurni

Vlasnik tvrtke Poslovna inteligencija ​Dražen Oreščanin kaže da, kad je riječ o korisnicima, njihova prava već štiti GDPR u EU, a i u drugim državama svijeta donose se slične regulative.

– Tijekom vremena sve će se digitalne usluge prilagoditi tim regulativama tako da iskustvo korisnika bude vrhunsko, a njegovi privatni podaci zaštićeni. U svakom slučaju, kad nova regulativa za umjetnu inteligenciju bude na snazi, sve će tvrtke svoje proizvode i usluge morati prilagoditi novoj regulativi, zato je najbolja politika da se već sada u razvoju proizvoda i usluga ona uzme u obzir. Ograničenja predložena novom regulativom koja se bavi AI-jem uglavnom su društvena i birokratska kako bi se smanjile društvene nejednakosti – smatra Oreščanin.

Mnoge hrvatske kompanije već se koriste softverima baziranima na korištenju algoritama umjetne inteligencije, dodaje Oreščanin, s time da su to u većini slučajeva softveri kupljeni od dobavljača koji imaju ugrađene algoritme umjetne inteligencije.

– Primjerice, naš softver Data Privacy Manager koristi se algoritmima zasnovanima na umjetnoj inteligenciji i strojnom učenju za otkrivanje privatnih podataka u strukturiranim i nestrukturiranim izvorima podataka te za povezivanje entiteta. Neke kompanije imaju i interne timove koji se bave razvojem internih rješenja temeljenih na umjetnoj inteligenciji za internu upotrebu. Umjetna inteligencija svakako pomaže ubrzati i olakšati interne procese, a i poboljšati korisničko iskustvo – kaže Oreščanin.

Bob Rock, Nikša i dr.

Primjerice, u telekomu A1 umjetnu inteligenciju počeli su uvoditi 2019. za administrativne pozadinske radnje u korisničkoj službi jer su ti zadaci dugotrajni i opterećuju agente poslovima koji im oduzimaju kvalitetno vrijeme s korisnicima. Pritom roboti ne rade sami – njima upravlja osoba čije radno mjesto prije nije postojalo i surađuje sa specijalistima iz svakog odjela koji pomažu u optimizaciji njihova rada. Nakon uspješne transformacije nastavili su primjenu u drugim odjelima.

– Trenutačno u produkciji imamo više od osamdeset robota, tj. robotizirali smo više od osamdeset procesa u kompaniji, na čemu surađujemo sa startupom. Roboti nam pomažu u različitim pozadinskim aktivacijskim procesima usluga za korisnike, u korisničkim upitima, u nabavnim procesima, prodaji, financijama i IT odjelu. Pripremamo još mnogo projekata. Primjerice, razvili smo model strojnog učenja za usmjeravanje e-poruka koje nam šalju korisnici. Tako smo interno ubrzali odgovaranje na e-poštu i uštedjeli vrijeme i novac. Razvili smo i bazu znanja temeljenu na umjetnoj inteligenciji, sustav koji iz nekoliko tisuća internih dokumenata pronalazi točan odgovor na korisničko pitanje, što zaposlenicima koji komuniciraju s korisnicima olakšava posao i omogućuje bržu reakciju. Interno smo razvili chatbot koji se temelji na umjetnoj inteligenciji. Nazvali smo ga Bob Rock; on zaposlenicima pomaže s najčešćim pitanjima o HR-u i IT-u – objašnjavaju u A1.

Nedavno su predstavili i chatbot Nikšu u aplikaciji Moj A1, koji korisnicima odgovore na svoje upite šalje još brže i jednostavnije. Nikša naprednom neuronskom mrežom odlično prepoznaje korisničke upite, ali iz njih i uči. Trenutačno je dostupan korisnicima na bonove, a sljedeći je korak nadogradnja za korisnike na ugovoru.

Nema problema

U Hrvatskom Telekomu kažu da umjetnu inteligenciju primjenjuju u sklopu analitike velikih skupova podataka (big data)​, u čemu se primjenjuju tehnike i metode podatkovne znanosti u svrhu unaprjeđenja usluge.

– To ujedno znači da HT kao tehnološki napredna kompanija razvija vlastita rješenja u toj domeni i isto tako prilagođava tradicionalne algoritme iz domene podatkovne znanosti za što bolju analizu i preciznost u svrhu predikcije. S obzirom na svoj tim iskusnih podatkovnih znanstvenika možemo reći kako smo u procese uveli niz inovativnih rješenja vezanih uz primjenu i razvoj algoritama iz spektra AI-ja na velikim skupovima podataka. Izazovi na koje smo usredotočeni i koji se tako rješavaju u domeni su unapređivanja korisničkog iskustva, prevencije tehničkih problema, prepoznavanja potreba korisnika vezanih uz različite proizvode i usluge i sličnog – objašnjavaju u HT-u te dodaju i to da će se bilo kakve dodatne regulativne promjene i zahtjevi, naravno, poštovati kao i do sada, no zbog prirode trenutačnih i budućih projekata na kojima rade u sklopu analitike velikih skupova podataka ne vide probleme i velike promjene metodološkog okvira.

Analiza gomile podataka

Suosnivač platforme za praćenje posjećenosti internetskih stranica DotMetrics Jan Jilek komentira kako su se svi telekomi primili analize golemih količina podataka koje posjeduju. Razlika je u tome do kojeg se stupnja te analize primjenjuju u svakodnevnom poslovanju i je li netko od njih došao do stupnja da podaci hrane npr. neuralnu mrežu koja donosi odluke umjesto ljudi.

– Tu su otprilike i naše banke, koje također posjeduju goleme baze podataka i kojima analiza podataka koje imaju može višestruko unaprijediti poslovanje. Jedan od ograničavajućih faktora na našem tržištu jest to što se količina posla vezanog uz analizu podataka povećava mnogo brže od broja podatkovnih stručnjaka, data scientista, a nije ih lako ni proizvesti, zbog čega si ih samo neke tvrtke mogu priuštiti. To će, zasigurno, usporiti brzinu primjene naprednijih rješenja – smatra Jilek.

Već preregulirano

Prema njegovu mišljenju, u području anonimiziranja i analize podataka o korisnicima Europska unija već je preregulirana, zato, kaže Jilek, dodatna ograničenja u upotrebi AI-ja zasigurno neće pomoći razvoju umjetne inteligencije u Europi, ali neće biti ni prevelikih promjena.

– Sâm GDPR kreiran je da bi odmah na izvoru, ondje gdje se podatci stvaraju, ograničio načine na koji se mogu upotrebljavati i analizirati. To znači da, iako možemo imati golemu količinu podataka o korisnicima, ne možemo u njima lako tražiti nove vrijednosti, što ograničava bilo kakav razvoj novih proizvoda. Ali, s druge strane, regulacija je potrebna. Donesene regulacije zapravo nisu loše, ali loše su provedene i u mnogim slučajevima proizvedu kontraefekt, a ne onaj efekt koji su u početku trebale postići. Uzmimo za primjer Google. On može zaposliti tisuću odvjetnika i pronaći način da napravi ono što je zamislio, a da pritom poštuje regulativu. Za drugi primjer uzmimo neki hrvatski startup koji i ne zna da regulativa postoji jer je usredotočen na kreiranje proizvoda, a kad za nju dozna, najčešće samo odustane. Dakle, uz takve regulative veliki postaju još veći jer regulativa ograničava malima da im jednoga dana postanu konkurencija – kaže Jilek i spominje također da svaka nova regulativa stvara neizvjesnost, a neizvjesnost zaustavlja nove investicije i razvoj.

– Možemo se nadati da će nove regulative biti dobro uravnotežene i da će se pametnije primjenjivati, što do sada, nažalost, nije bio slučaj. No možda se nešto na dosadašnjim slučajevima i naučilo – zaključuje Jilek.

Etično s algoritmima

Pro Media Groupu u dijelu digitalnoga performance-marketinga umjetna inteligencija pomaže u novim spoznajama za koje bi tvrtki inače trebalo više tjedana ili mjeseci, kao i da kvalitetnije cilja oglase prema onim uređajima koji bi mogli ostvariti konverziju. U tome prije svega pomažu vanjski sustavi kao što su Google ili Facebook sa svojim algoritmima. Prema mišljenju Roberta Petkovića, direktora digitalne analitike Pro Media Groupa, GDPR je postigao to da svi okrenemo glavu prema problemu, jer i prije GDPR-a imali smo zakone o zaštiti osobnih podataka, ali nismo ih poštovali. Tako će i ove promjene više staviti u fokus etičnost u pristupanju algoritmima, o čemu se već više godina govori u krugovima stručnjaka koji se bave podacima.

– Kao i do sada, pogotovo u marketingu, treba se držati etičkih standarda, a ne samo legislative, jer ako podacima pristupamo neetično, sami sebi štetimo na duge staze. Umjetna inteligencija, koliko god moćna bila, i dalje može biti 'glupa' te donositi neke zaključke koji ne stoje niti možda u startu ne donose ispravne rezultate ili ih mi ne možemo razumjeti. Većina će algoritama umjetne inteligencije, ako se u te algoritme ne uključe i etičke provjere, ponašati se kao frustrirani zlostavljač s moralnim kočnicama 'pripitog tinejdžera'. Iako će takav algoritam možda svom kreatoru izravno donijeti kratkoročnu najveću korist, dugoročno to može biti štetno za sve, pa i za kreatora – smatra Petković.

Dvosjekli mač

Velika je moguća korist od algoritama koji ulaze u područje AI-ja, no to može biti i dvosjekli mač te ugroziti kompaniju koja se njima koristi.

– Osnovni je problem tehnologa koji kreiraju i prihvaćaju pojedina digitalna rješenja, ono što popularno zovemo digitalizacijom poslovanja, što polaze od pretpostavke da je sve dopušteno jer je inovativna tehnologija svemoćna i zbog svojih mogućnosti zarazna. Svaka digitalizacija i obrada podataka o pojedincima stvaraju digitalni otisak fizičke osobe u digitalnom svijetu – novomu virtualnom svijetu. I upravo je izloženost opasnostima u tom svijetu najveća prijetnja za pojedince. Ako netko može doći do mojih podataka i povezati ih u logičku cjelinu te pri tome iskoristiti mogućnosti naprednih tehnologija poput AI-ja i deepfakea kako bi lažno predstavio mene kao fizičku osobu u stvarnom svijetu, tada su moja ljudska prava i moja privatnost ozbiljno narušeni. Bilo je primjera kad su pojedinci zbog toga izvršili samoubojstvo. To je prava opasnost. Njezino zanemarivanje odmaže kompanijama jer se pouzdaju u tehnologiju i obezvređuju prijetnje za pojedinca koje ta tehnologija može prouzročiti. Zato nam trebaju jači zakoni i jače uredbe, da proizvođači, dizajneri i programeri počnu shvaćati i primjenjivati te zaštitne mehanizme – smatra William Bello, stručnjak za zaštitu podataka i vlasnik konzultantske tvrtke Bello Consulting

Dok se god GDPR smatra samo pravnim dokumentom, dodaje, dotad smo još na samim počecima zaštite ljudskih prava i osobnih podataka. A u području AI-ja nismo još ni došli do pravnog okvira.