Nakon nekoliko mjeseci intenzivnih pregovora europske su institucije početkom prosinca postigle politički dogovor o usklađenim pravilima o umjetnoj inteligenciji (AI), otvarajući tako vrata za skoro donošenje prvog sveobuhvatnog zakona o umjetnoj inteligenciji. Kompleksni pregovori su uključivali Europsku komisiju, Vijeće i Parlament koji su se usuglasili na političkoj razini, što znači da bi prijedlog zakona mogao biti finaliziran i formalno usvojen u prvom dijelu ove godine.
Cilj novog zakona je osigurati da su sustavi umjetne inteligencije koji se stavljaju na europsko tržište i koriste na području Unije sigurni te poštuju temeljna prava i vrijednosti EU-a. Usmjeravajući se na reguliranje prepoznatljivih rizika, zakon će ujedno poticati odgovorne inovacije u Europi i te uvođenje i primjena pouzdane umjetne inteligencije u Uniji. Nova će se pravila izravno primjenjivati na isti način u svim državama članicama, a temeljit će se na definiciji umjetne inteligencije koja je prilagođena budućim okolnostima, u čijoj je izradi korišten pristup koji se temelji na riziku.
Zakon će tako razlikovati sustave umjetne inteligencije minimalnog, visokog i neprihvatljivog rizika. U prvu kategoriju spada većina sustava umjetne inteligencije, kao što su sustavi za preporučivanje koji se oslanjaju na umjetnu inteligenciju ili filtri za neželjenu poštu, a na njih se neće se primjenjivati ograničenja i obveze jer takvi sustavi nose samo minimalan ili nikakav rizik za prava ili sigurnost građana. Sustavi umjetne inteligencije koji se smatraju visokorizičnima kao što su primjerice sustavi za biometrijsku identifikaciju ili medicinski uređaji morat će se pridržavati strogih zahtjeva koji obuhvaćaju primjenu sustava za ublažavanje rizika, visokokvalitetne skupove podataka, bilježenje aktivnosti, detaljnu dokumentaciju, jasne informacije za korisnike, ljudski nadzor te visoku razinu stabilnosti, točnosti i kibernetičke sigurnosti.
Sustavi umjetne inteligencije koji se smatraju jasnom prijetnjom temeljnim pravima građana bit će novim zakonom zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu slobodnu volju, kao što su, na primjer, igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika ili sustavi koji državama ili poduzećima omogućuju „društveno vrednovanje” te određene aplikacije za prognostički rad policije. Osim toga, neke primjene biometrijskih sustava bit će zabranjene, na primjer sustavi za prepoznavanje emocija na radnom mjestu i neki sustavi za kategorizaciju ljudi ili biometrijska identifikacija u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona (uz strogo ograničene iznimke).
Zakon će jamčiti transparentnost pri korištenju sustava umjetne inteligencije, npr. chatbotova, gdje bi korisnici trebali biti svjesni da je riječ o interakciji sa strojem. Uvjerljivi krivotvoreni sadržaji (deep fake) i drugi sadržaji stvoreni umjetnom inteligencijom morat će se označiti kao takvi, a korisnike treba obavijestiti kad se koriste sustavi za biometrijsku kategorizaciju ili za prepoznavanje emocija.
Poduzećima koja se ne pridržavaju pravila izricat će se novčane kazne čiji iznos ovisi o veličini kompanije. Za najveće od njih predviđena je kazna od 35 milijuna eura ili 7 posto globalnog godišnjeg prometa (ovisno o tome koji je iznos veći) za povrede zabranjenih primjena umjetne inteligencije, 15 milijuna eura ili 3 posto za povrede drugih obveza te 7,5 milijuna eura ili 1,5 posto prometa za pružanje netočnih informacija. Za mala i srednja poduzeća te start-up poduzeća predviđene su proporcionalnije gornje granice za upravne novčane kazne. u slučaju kršenja Akta o umjetnoj inteligenciji.
Kako je riječ o prvom zakonskom prijedlogu te vrste, Akt o umjetnoj inteligenciji će postaviti standarde za regulaciju tih tehnologija na globalnoj razini.
Komentari