Politiscope upozorava na nepažljivo korištenje AI-ja u javnoj upravi

Sustavi umjetne inteligencije sve se više koriste u radu državne i javne uprave, dok javnost nema osnovne informacije o tome koji se sustavi primjenjuju, u koje svrhe i s kakvim posljedicama za građane. Istodobno, ne postoje jasne interne politike, pravila ni smjernice za njihovu nabavu i primjenu. Ovaj manjak transparentnosti predstavlja ozbiljan rizik za prava građana i otežava izgradnju povjerenja u digitalne tehnologije koje država koristi, smatraju u udruzi Politiscope, čiji je fokus zaštita privatnosti, osobnih podataka i digitalnih prava građana RH i EU.

Nedavni slučaj spajanja zemljišnih registara, u kojem je korištenje automatiziranog sustava rezultiralo brisanjem podataka o stvarnim vlasnicima, pokazuje konkretne posljedice nepažljivog i nepripremljenog uvođenja umjetne inteligencije u javnu upravu. Mediji izvještavaju kako će se ispravak pogrešaka provoditi 'ručno', dok su pojedine skupine građana, osobito poljoprivrednici, izložene riziku izravne financijske štete.

– Ovaj slučaj jednostavan je primjer koji pokazuje da korištenje AI sustava bez jasnih pravila, nadzora i odgovornosti može proizvesti ozbiljne pravne i financijske posljedice za građane. Takvi incidenti ne smiju postati prihvatljiva kolateralna žrtva digitalizacije javne uprave – upozorava Duje Kozomara iz udruge Politiscope.

Posebno zabrinjava činjenica da u ovom trenutku ne postoji javno dostupan popis AI sustava koje koristi državna i javna uprava. Izostanak transparentnosti onemogućuje učinkovitu javnu kontrolu te sprječava medije, stručnu i zainteresiranu javnost da procijene zakonitost, sigurnost i opravdanost primjene AI u javnom sektoru.

Politiscope poziva Vladu RH i Ministarstvo digitalne transformacije da uspostave javni registar svih AI sustava koje koristi javna i državna uprava, po uzoru na Sloveniju. Za razliku od minimalnih zahtjeva iz Akta o umjetnoj inteligenciji, slovenski registar obuhvaća sve AI sustave u javnom sektoru, a ne samo one visokorizične.

– Uspostava obveznih standarda transparentnosti, počevši od javnog registra AI sustava, prvi je i nužan korak prema odgovornom upravljanju digitalnim tehnologijama u javnom sektoru. Državna i javna administracija moraju biti primjeri odgovornog i transparentnog korištenja umjetne inteligencije – ističe Duje Prkut iz Politiscopea.

Odredbe o uspostavi javnog registra umjetne inteligencije potrebno je uvrstiti u nacrt Zakona o provedbi Akta o umjetnoj inteligenciji, koji se, zajedno s AI Strategijom, već osam mjeseci izrađuje u neuključivom procesu. Dok su predstavnici industrije nadzastupljeni, udruge koje se bave zaštitom ljudskih i digitalnih prava u potpunosti su isključene iz sastava radnih skupina. Uključivanje civilnog društva ključno je kako bi se osiguralo da razvoj i primjena umjetne inteligencije u javnoj upravi ne ide na štetu temeljnih prava građana i javnog interesa.

Politiscope poziva Vladu RH da osigura potpunu transparentnost u korištenju umjetne inteligencije i automatiziranih sustava odlučivanja u državnoj i javnoj upravi te da bez odgode uspostavi uistinu participativne procese za oblikovanje zakonskog i strateškog okvira za razvoj umjetne inteligencije.