Umjetna inteligencija može čitati račun, ali i nasjesti na prijevaru
Davor Lozić, CTO Codilasa
Na 14. međunarodnoj konferenciji o kontrolingu u prvi je plan stavljena umjetna inteligencija, ali i rizici koji dolaze s njom
Umjetna inteligencija ubrzava obradu računa, prepoznaje podatke i povezuje poslovne sustave. No što ako račun sadrži skrivenu uputu koja AI navodi da promijeni IBAN?
Automatizacija financija zato zahtijeva razumijevanje tehnologije, jasne ovlasti i ljudski nadzor. Na te izazove upozorio je Davor Lozić, CTO Codilasa, u prezentaciji na 14. međunarodnoj konferenciji o kontrolingu u Zagrebu.
– Nisam siguran do koje će razine sve ovo ići, ali ne može se nastaviti da osoba koja prompta ne zna ništa o tome – ističe Lozić.
Na primjeru aplikacije InvoiceFlow Lozić je prikazao put od zaprimanja PDF računa do plaćanja. AI očitava dobavljača, iznos i IBAN, nakon čega slijede odobrenje ovlaštenog voditelja, knjiženje u ERP sustavu i plaćanje preko banke. Iza jednostavnog sučelja nalaze se poslužitelji, baze podataka i servisi čija pouzdanost izravno utječe na sigurnost procesa.
Teško je biti u koži IT-a
Veliki jezični modeli prepoznaju obrasce i predviđaju sljedeći dio odgovora, ali uvjerljiv rezultat nije jamstvo točnosti. Poseban rizik predstavlja prompt injection, odnosno umetanje zlonamjernih uputa u sadržaj koji AI obrađuje.
Naime, onaj tko zna prevariti sustav može primjerice na računu sitnim bijelim slovima skriti naredbu AI-ju da model zanemari prethodne upute, zamijeni IBAN i označi račun kao odobren. To može dovesti do značajnih financijskih gubitaka.
– Događaju se jako inovativni napadi. Ja baš ne bih htio biti u koži IT-jevaca koji se bave infrastrukturom i sigurnošću – rekao je Lozić.
Zaštita počinje ograničavanjem ovlasti: AI može očitati račun i predložiti obradu, ali ne bi smio samostalno odobravati ni izvršavati plaćanja. Važni su i testiranje prije uvođenja aplikacije, zaštita pristupnih podataka, sigurnosne kopije te postupci za prekide rada ERP-a. Povjerljive poslovne podatke ne treba unositi u javne AI servise bez provjere uvjeta njihove obrade i zaštite.
Financijski stručnjaci i kontroleri zato trebaju sudjelovati u oblikovanju AI rješenja. Moraju znati kojim podacima sustav pristupa, što smije učiniti, kako se provjeravaju rezultati i tko odgovara za konačnu odluku.
– Kada bih vam mogao dati jedan savjet, to je da morate naučiti osnovne principe jer, ako ne znate osnove, ne postoji ništa što će vas spasiti – poručio je Lozić.
Nestaje li poslovna inteligencija?
Može li umjetna inteligencija u potpunosti 'ubiti' sustave poslovne inteligencije, poznate pod kraticom BI (Business Intelligence), i stručnjake koji ih razvijaju? Hoće li kompanije uskoro moći jednostavno povezati svoje informacijske sustave s umjetnom inteligencijom, postaviti pitanje i odmah dobiti pouzdan odgovor, bez složenih implementacija, analitičkih modela i tradicionalnih izvještaja?
Takva pitanja postaju sve aktualnija kako se razvijaju mogućnosti generativne umjetne inteligencije i novih AI agenata sposobnih za samostalno izvršavanje složenijih zadataka. Mario Korbar, osnivač i direktor tvrtke Data Sense, u prezentaciji 'Hoće li AI učiniti BI suvišnim?
Budućnost poslovne inteligencije', daje jasan odgovor: umjetna inteligencija neće učiniti poslovnu inteligenciju suvišnom, ali će u velikoj mjeri promijeniti način njezine implementacije i korištenja.
Da bi se razumjelo koliko umjetna inteligencija može promijeniti poslovnu analitiku, potrebno je razumjeti kako danas funkcioniraju sustavi poslovne inteligencije. Tradicionalna BI arhitektura sastoji se od nekoliko međusobno povezanih dijelova. Proces započinje prikupljanjem i obradom podataka iz različitih izvora, primjerice ERP sustava, računovodstvenih programa, prodajnih aplikacija ili drugih poslovnih baza podataka.
Ti se podaci zatim obrađuju i objedinjuju u skladištu podataka, odnosno data warehouseu, koje omogućuje njihovu sustavnu analizu. Sljedeći korak predstavlja izgradnja semantičkog modela, koji definira odnose između podataka i poslovnu logiku na temelju koje se izračunavaju pojedini pokazatelji.
Na kraju se podaci prikazuju kroz izvještaje, grafikone i upravljačke nadzorne ploče koje menadžmentu omogućuju praćenje poslovnih rezultata i donošenje odluka.
Takav pristup zahtijeva različite tehnološke alate i specijalizirana znanja, od integracije podataka i razvoja baza do definiranja poslovnih pokazatelja i izrade izvještaja.
AI to može bolje
Umjetna inteligencija već sada može pomoći u gotovo svim tim fazama i radi to bolje od najboljih inženjera, ističe Korbar. Može pisati SQL upite za pristup podacima, generirati DAX izraze za analitičke izračune, sudjelovati u pripremi podataka, izradi modela i vizualizacija te omogućiti korisnicima da informacije dobivaju postavljanjem pitanja prirodnim jezikom.
Umjesto da korisnik samostalno izrađuje složen izvještaj, može zatražiti analizu prodaje, usporedbu troškova ili objašnjenje odstupanja od plana. No takva mogućnost ne uklanja potrebu za kvalitetnom podatkovnom infrastrukturom. Ona prije svega mijenja način na koji se s tom infrastrukturom radi.
Jedno od ključnih pitanja budućnosti poslovne inteligencije jest hoće li AI agenti moći samostalno implementirati cjelovita BI rješenja.
- Da, moći će, uz veliko 'ali' – kazao je Korbar. Prema njegovim riječima, takva će automatizacija biti moguća za standardizirane implementacije u kojima su unaprijed pripremljeni izvori podataka, jasno definirana poslovna pravila i uspostavljeni mehanizmi automatske provjere rezultata. - No, takvu tvrtku s tako sređenim podacima još nisam vidio – naglasio je Korbar.
Tko definira istinu?
Ključno ograničenje stoga nije isključivo tehnološko, nego proizlazi iz potrebe da se unaprijed definira što sustav treba izračunati, na temelju kojih pravila i kako će se utvrditi da je rezultat ispravan.
Upravo tu dolazi do izražaja važnost poslovne semantike, odnosno jasnog definiranja značenja podataka i pokazatelja koji se koriste u upravljanju kompanijom. Na prvi pogled jednostavni poslovni pojmovi mogu imati različita značenja ovisno o organizaciji, njezinim procesima i načinu izvještavanja.
Primjerice, kada menadžment zatraži podatak o prihodima, potrebno je znati uključuje li pokazatelj sve fakturirane iznose, kako se tretiraju odobrenja i povrati te na koje se razdoblje pojedine transakcije odnose.
Slično vrijedi za izračun marže, profitabilnosti, troškova ili učinkovitosti pojedinih poslovnih jedinica. Ako poslovna pravila nisu jasno definirana, dvije različite analize mogu dati različite rezultate, iako se obje temelje na podacima iz istog informacijskog sustava.
Umjetna inteligencija može ubrzati izračun, ali ne može sama odlučiti koja je poslovna definicija ispravna za konkretnu kompaniju. Zbog toga Korbar posebno naglašava važnost semantičkih modela, kvalitete podataka i upravljanja podacima, odnosno data governancea. - Tek kada imate sve to posloženo, imate BI spreman za AI – kaže Korbar.
