Biznis i politika
StoryEditor

Europski AI Act do kraja godine: Društveno bodovanje bit će zabranjeno

05. Travanj 2023.
ai dionice

Europska komisija i Europski parlament planiraju do kraja godine objaviti AI Act, Zakon o umjetnoj inteligenciji - AI (artificial intelligence). Premda još uvijek nije kristalno jasno što će taj zakon sadržavati i kako će regulirati područje umjetne inteligencije, poznato je samo da Komisija ni u kom slučaju neće dopustiti društveno bodovanje odnosno social scoring bilo koje vlade na tlu Europske unije poput onog koji se koristi u Kini.

Ono što je poznato jest da će zakon biti prvenstveno usredotočen na jačanje pravila o kvaliteti podataka, transparentnosti, ljudskom nadzoru i odgovornosti. Također će se baviti etičkim pitanjima i izazovima provedbe u različitim sektorima, od zdravstva i obrazovanja do financija i energetike. Zakonski prijedlog isto tako ima za cilj ojačati poziciju Europe kao globalnog središta izvrsnosti u AI od laboratorija do tržišta, osigurati da AI u Europi poštuje europske vrijednosti i pravila te iskoristiti potencijal AI za industrijsku upotrebu.

Sustavi klasifikacije

Glavna okosnica AI Acta bit će sustav klasifikacije koji određuje razinu rizika koju tehnologija umjetne inteligencije može predstavljati za zdravlje i sigurnost ili temeljna prava osobe. Okvir uključuje četiri razine rizika: neprihvatljiv, visok, ograničen i minimalan. Sustavi umjetne inteligencije s ograničenim i minimalnim rizikom, poput filtera neželjene pošte ili videoigara, smiju se koristiti uz male zahtjeve osim obveza transparentnosti. Sustavi za koje se smatra da predstavljaju neprihvatljiv rizik - poput državnog socijalnog bodovanja i sustava biometrijske identifikacije u stvarnom vremenu u javnim prostorima – bit će zabranjeni, uz malu iznimku. Sustavi umjetne inteligencije visokog rizika su dopušteni, ali programeri i korisnici moraju se pridržavati propisa koji zahtijevaju rigorozno testiranje, odgovarajuću dokumentaciju o kvaliteti podataka i okvir odgovornosti koji detaljno opisuje ljudski nadzor. Inače, umjetna inteligencija koja se smatra visokim rizikom uključuje autonomna vozila, medicinske uređaje i strojeve kritične infrastrukture.

Presedan i globalni standard

Bit će to presedan, jer dosad niti jedna država nije pokušala regulirati umjetnu inteligenciju. Europski AI Act bi mogao postati, nadaju se u Komisiji, globalni standard, koji će određivati u kojoj mjeri umjetna inteligencija ima pozitivan, a u kojoj negativan učinak na naš život gdje god se nalazili.

- I same tvrtke koje razvijaju tehnologiju koja se bazira na umjetnoj inteligenciji nas doslovno mole da reguliramo tu djelatnost da znaju u kojem smjeru je smiju razvijati – poručuju iz Komisije itekako svjesni opasnosti koju AI tehnologija može imati ako završi u krivim rukama.

Kazne do 30 milijuna eura

No, zasad nije poznato kako bi se i na koji način propisivale kazne za kompanije koje ne budu poštovale europska zakonska rješenja o korištenju AI tehnologija, a jedan od najizglednijih su visoke novčane kazne u obliku nekoliko postotaka godišnjih prihoda.Za tvrtke kazne mogu doseći i do 30 milijuna eura odnosno šest posto ukupnih globalnih prihoda. Podnošenje lažne ili obmanjujuće dokumentacije regulatorima također može rezultirati kaznama. Hoće li to biti dovoljno, ne znaju ni birokrati iz EU.

- Na neistraženom smo terenu – poručuju iz Komisije.

Inače, predloženi zakon također ima za cilj uspostaviti Europski odbor za umjetnu inteligenciju, koji bi nadgledao provedbu uredbe i osigurao jedinstvenu primjenu u cijeloj EU. Tijelo bi imalo zadatak objavljivati mišljenja i preporuke o pitanjima koja se pojave, kao i pružati smjernice nacionalnim tijelima.

Sve se to događa uslijed talijanske zabrane Chat GPT-a. Naime, talijanski GDPR regulator zabranio je na određeno vrijeme chatbot američke kompanije Open AI jer navodno neprimjereno koristi podatke o korisnicima.

16. srpanj 2024 04:39