Hrvatska
StoryEditor

Robert Petković: Algoritmi AI-a bez etičke provjere su frustrirani zlostavljači s moralnim kočnicama pripitog tinejdžera

22. Siječanj 2022.
Robert Petković

Iako sustave umjetne inteligencije u Hrvatskoj, prema podacima Državnog zavoda za statistiku, primjenjuje samo 22 posto velikih poduzeća, deset posto srednjih i tek osam posto malih, ona je postala sastavni dio mnogih industrija, uključujući telekomunikacijsku, financijsku, marketinšku, trgovačku i sl. Prema predviđanjima Deloitta, uskoro možemo očekivati pojačanu raspravu o regulaciji uporabe umjetne inteligencije (AI), nove tehnologije u svijetu biznisa, koja je do sada uspješno izbjegavala dugu ruku regulatornih agencija i propisa. No, s rastućom zabrinutošću oko privatnosti, to razdoblje odgode uskoro će završiti. Prve zakonske regulative očekuju se već u 2023, iako su se oko regulacije AI-ja, stvari već 'zakotrljale'. O tome do kud smo do sada stigli sa zaštitom podataka i kako se pripremiti za nove regulacije razgovarali smo s Robertom Petkovićem, direktorom digitalne analitike Pro media grupe.

Koliko je primjena umjetne inteligencije raširena u Hrvatskoj i  na koji način ona pomaže vašoj tvrtki?

Vjerujem da, osim telekoma i trgovci koriste prvenstveno strojno učenje i umjetnu inteligenciju za utvrđivanje čudnih odstupanja u podacima, kao i za predviđanje trendova u potrošnji kupaca. S druge strane, mnogi od nas svakodnevno koriste recimo različite navigacijske aplikacije na pametnim telefonima, gdje se za predviđanje vremena dolaska koriste algoritmi umjetne inteligencije. Tik Tok koristi umjetnu inteligenciju za sintetiziranje glasova, oglasi koje gledamo po internetu često su bazirani na umjetnoj inteligenciji, koja je na temelju, oglašivačima često nepoznatih algoritama, odlučila na nekom uređaju prikazati neki oglas i slično.

Nama u Pro media grupi, u dijelu digitalnog performance marketinga umjetna inteligencija pomaže da dođemo do nekih zanimljivih saznanja, za koja bi nam inače trebalo više tjedana ili mjeseci, kao i da kvalitetnije ciljamo oglase prema onim uređajima koji bi mogli ostvariti konverziju. Tu nam prvenstveno pomažu vanjski sustavi kao što su Google ili Facebook sa svojim algoritmima.

Kako se danas zapravo anonimiziraju i analiziraju podaci o korisnicima?

Umjetna inteligencija ne poznaje nužno koncept osobe, ona samo radi obrađivanje podataka, pokušava naučiti nešto iz njih, pronaći neke zanimljive korelacije za koje bi nama ljudima trebale godine. Hoćemo li umjetnoj inteligenciji dati osobni podatak, identifikator nečijeg mobitela ili najčešću rutu za dolazak na posao, to je već stvar naše etičnosti i legislative. Što se digitalnog marketinga tiče, podaci koji se koriste moraju biti anonimizirani, jer ne samo da ćemo u protivnom narušiti privatnost korisnika, nego će nas recimo i Google i Facebook kazniti ukoliko na njihove servere pošaljemo neki osobni podatak.

U Pro media grupi za svakog klijenta vodimo računa da se nikakvi osobni podaci (uključujući IP adrese korisnika, e-mail adrese i slično) ne šalju u analitičke i marketinške alate jer tako nešto može biti, ne samo neetično već i protuzakonito. Nažalost, znam da smo pritom u manjini, jer većina vlasnika webova niti ne zna kako ispravno podesiti alate, a da ne šalju osobne podatke tamo gdje ne bi smjeli.

Što bi se moglo promijeniti uvođenjem novih restrikcija na području umjetne inteligencije?

GDPR je postigao da svi okrenemo glavu prema problemu. I prije GDPR-a smo imali zakone o zaštiti osobnih podataka, ali ih nismo poštivali. Mnoge su tvrtke, pogotovo u SAD-u, trgovale podacima o korisnicima u svrhu povećanja profita te često krajnji korisnici nisu imali izbora no da daju svoje osobne podatke kako bi se koristili nekom uslugom. Tako će i ove promjene više staviti u fokus etičnost u pristupanju algoritmima, o čemu se već više godina govori u krugovima stručnjaka koji se bave podacima.

Mi kao krajnji korisnici cijenimo svoju privatnost, ali s druge strane ćemo rado dati privatni podatak ako na internetu želimo vidjeti neki šaljiv ili zabavan sadržaj ili ćemo svim prijateljima na društvenim mrežama dati na desetine privatnih podataka svaki dan, samo zato da budemo zabavni. S druge strane, ne želimo da nas se prati, ali bismo ipak radije vidjeli oglase koji su nam zanimljivi nego oglase koji nemaju veze s nama, a što nam omogućuje dijeljenje anonimiziranih osobnih podataka i slično.

Kakva je trenutno važnost geolokacijskih, a kakva biometrijskih podataka u digitalnom marketingu?

Biometrijski podaci se ne koriste u digitalnom marketingu niti se smiju koristiti. Geolokacijski su bitni za precizno ciljanje korisnika na pojedinim lokacijama, što se često koristi. No takav pristup koristi se u početničkim kampanjama, kada ne znamo za neke druge pristupe, kao što je npr. ciljanje korisnika određenim marketinškim porukama na temelju njihovog prethodnog ponašanja. Tu nam umjetna inteligencija može davati zanimljive podatke, ali koji su uvijek usmjereni prema nekoj skupini korisnika (kojih je više od barem stotinu ili tisuću), a nikada prema točno pojedinim osobama.

Možete li navesti neki primjer?

Umjetna inteligencija može npr. na temelju našeg dosadašnjeg ponašanja i načina vožnje zaključiti kolika bi nam trebala biti premija osiguranja vozila ili recimo premija zdravstvenog osiguranja. Možda se možemo složiti da bi bilo najpoštenije dati umjetnoj inteligenciji da određuje tako nešto jer bi bila objektivna. No to bi značilo da bi umjetna inteligencija trebala nadzirati sve ljude na svijetu kako bi bila najtočnija, a tu već jako ulazimo u sferu privatnosti. Nisam baš siguran da bi bilo ispravno toliku moć dati stroju koji nema morala niti ljudski nadzor, iako je Marshall Brain u svom distopijsko-utopijskom romanu „Manna: Two Visions of Humanity's Future“ (Dvije vizije budućnosti čovječanstva) pokazao da bi tako nešto bilo moguće. Ali i da konačni rezultat takvog nadzora prvenstveno ovisi o početnim algoritmima i ciljevima te razini psihopatije i sociopatije onoga tko naručuje projekt.

Kako iz trenutne situacije, prije nego što dođu nova ograničenja,  izvući ono najbolje i za korisnike i za tvrtke?   

Bilo kakva ograničenja prvenstveno dolaze iz naše zloupotrebe, često vođene profitom. Kao i do sada, pogotovo u marketingu, potrebno je držati se etičkih standarda, a ne samo legislative. Jer ukoliko podacima pristupamo na neetičan način, sami sebi štetimo na duge staze. Umjetna inteligencija, koliko god moćna bila i dalje može biti 'glupa' te donositi neke zaključke koji ne stoje niti možda u startu ne donose ispravne rezultate. Ili ih mi ne možemo razumjeti. Većina će algoritama umjetne inteligencije, ukoliko se u te algoritme ne uključe i etičke provjere, ponašati se kao frustrirani zlostavljač s moralnim kočnicama pripitog tinejdžera. Iako će takav algoritam možda svom kreatori izravno donositi kratkoročnu najveću korist, dugoročno to može biti štetno svima pa i kreatoru.

Već se dugo govori o raznim verzijama četvrtog zakona robotike (prva tri je donio Isaac Asimov), koji se uvijek tiču ili etičnosti (umjetna inteligencija mora kontaktirati čovjeka u slučaju moralnih dvojbi, pogotovo u slučaju izbora života ili smrti) ili boljeg razumijevanja (umjetna inteligencija mora moći ljudima objasniti rezultate svojih algoritama). Tko god želi razvijati umjetnu inteligenciju, mora imati i ovakve „zakone“ na umu, jer kao što mi je jednom rekao Jim Sterne (autor nagrađivane knjige „Artificial Intelligence for Marketing: Practical Applications“), kako možemo biti sigurni da nam umjetna inteligencija već sad ne daje odgovore za koje smo mi premalo inteligentni da ih shvatimo pa ih mi nazivamo – bugovima?

20. svibanj 2022 08:13