Microsoft: AI agenti postaju sve veći poslovni rizik

AI agenti šire se brže nego što ih mnoge organizacije mogu vidjeti ili nadzirati, a taj nedostatak vidljivosti postaje sve veći poslovni rizik. Upravo je to najozbiljniji kibernetički izazov kojeg je Microsoft uvrstio u svoje najnovije izvješće Cyber Pulse koje daje konkretan uvid u nove kibernetičke rizike koji se mogu pojaviti tijekom svakodnevnog obavljanja radnih zadataka. 

U Microsoftovom ekosustavu korisnici razvijaju i implementiraju AI agente na svim ključnim platformama, od Fabric i Foundry do Copilot Studija i Agent Buildera, što odražava veći korak prema automatizaciji rada temeljenoj na umjetnoj inteligenciji.

Izrada agenata više nije rezervirana samo za tehničke uloge, odnosno ICT odjel. Danas zaposlenici na raznim funkcijama stvaraju i koriste agente u svakodnevnom radu. Microsoftovi podaci pokazuju da više od 80 posto kompanija s liste Fortune 500 koristi aktivne agente izrađene putem low‑code/no‑code alata. Kako se primjena agenata širi, a prilike za transformaciju rastu, sada je pravi trenutak za uspostavu temeljnih kontrola.

Usvajanje i korištenje AI agenata ubrzano raste na globalnoj razini: Europa, Bliski istok i Afrika čine 42 posto aktivnih AI agenata, slijede SAD (29 posto), Azija (19 posto) te Amerike (10 posto).

Rast je najizraženiji u visoko reguliranim i operativno složenim industrijama. Nakon razvoja softvera i tehnologije (16 posto), proizvodnja čini 13 posto globalne uporabe AI agenata, slijede financijske usluge (11 posto) i maloprodaja (devet posto). U tim se sektorima AI agenti sve više koriste za izradu prijedloga, analizu financijskih podataka, trijažu sigurnosnih upozorenja, automatizaciju repetitivnih procesa i otkrivanje uvida brzinom stroja.

Izvješće upozorava da brza implementacija AI agenata može prestići sigurnosne i druge sustave upravljanja, povećavajući rizik od shadow AI‑a. Agenti s prevelikim ovlastima ili pod utjecajem pogrešnih ulaznih podataka, mogu biti zloupotrijebljeni i pretvoreni u nenamjerne 'dvostruke agente'.

Baš kao i kod ljudskih zaposlenika, AI agenti trebaju jasne uloge, ograničene privilegije i kontinuirani nadzor kako ne bi postali ranjivost. Prema Cyber Pulse izvješću, već 29 posto zaposlenika poseže za neodobrenim AI agentima u obavljanju radnih zadataka.

– U Hrvatskoj i diljem regije AI agenti brzo postaju digitalne kolege u svakodnevnim poslovnim operacijama. No bez jasnih pravila, vidljivosti i odgovornosti oni mogu postati ozbiljan sigurnosni rizik. Inovacije i sigurnost moraju napredovati istom brzinom. Organizacije koje primjenjuju Zero Trust principe, potpunu vidljivost i centralizirano upravljanje AI agentima, kao što to čine s ljudima i sustavima, smanjit će rizik, ojačati povjerenje i biti bolje pozicionirane u odnosu na konkurenciju i to na sve reguliranijem i digitalnijem europskom tržištu, pa i šire – rekao je Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu.

Prema Microsoftovom Data Security Indexu, samo 47 posto organizacija uvodi specifične sigurnosne kontrole za GenAI — što ukazuje na priliku da organizacije osiguraju potrebnu vidljivost za sigurno uvođenje AI‑a.

Upravljanje AI‑em ne može biti isključivo u domeni IT‑a, niti sigurnost AI‑a može biti odgovornost samo rukovoditelja za sigurnost informacija (CISO). To je zajednička odgovornost koja obuhvaća pravni sektor, HR, podatkovne timove, poslovno vodstvo i uprave. Kada se AI rizik tretira kao ključni rizik poslovanja, uz financijski, operativni i regulatorni rizik,  organizacije se mogu poslovati brže i sigurnije.

Ovo je iznimno važno razdoblje za kompanije koje Microsoft naziva 'frontier' kompanije, odnosno organizacije koje pomiču granice i trenutno koriste AI za modernizaciju upravljanja, smanjenje prekomjernog dijeljenja podataka te uvođenje sigurnosnih kontrola koje omogućuju odgovornu upotrebu AI‑a.

Cyber Pulse izvješće zaključuje kako sigurnost i inovacije nisu suprotstavljene sile, već jer se one međusobno osnažuju. Kvalitetno upravljanje gradi transparentnost, a transparentnost postaje ključna konkurentska prednost.

Organizacije koje odmah djeluju smanjit će rizik, ubrzati inovacije, zaštititi povjerenje korisnika i izgraditi otpornost u samu strukturu svojih AI‑om pokretanih poslovnih sustava.