Sprejet akt o umetni inteligenci. Kako bo vplival na naša življenja?

Po dolgoletnih pripravah je Evropski parlament sprejel akt o umetni inteligenci, ki obravnava njena tveganja in Evropi zagotavlja vodilno vlogo na svetovni ravni. Zaradi njegove dolgotrajnosti in obsežnosti ga opisujejo kot enega največjih podvigov tega mandata, z njim pa želijo vplivati na globalno prakso.

Evropski parlament je podprl akt o umetni inteligenci, s katerim prvič zakonsko urejajo to področje. »Cilj nove zakonodaje je zagotoviti, da bo umetna inteligenca zanesljiva, varna in v skladu s temeljnimi pravicami, obenem pa podpirati inovacije in zagotoviti, da bo Evropa postala vodilna na tem področju,« poroča Slovenska tiskovna agencija (STA).

AI sistemi naj spoštujejo temeljne pravice, varnost in etična načela

Da želijo zagotoviti, da umetnointeligenčni sistemi spoštujejo temeljne pravice, varnost in etična načela, so zapisali tudi na strani Evropske komisije in dodali: »Akt o umetni inteligenci zagotavlja, da lahko Evropejci zaupajo temu, kar ponuja umetna inteligenca. Čeprav je večina umetnointeligenčnih sistemov omejena na nič tveganja in lahko prispeva k reševanju številnih družbenih izzivov, nekateri umetnointeligenčni sistemi ustvarjajo tveganja, ki jih moramo obravnavati, da bi se izognili neželenim rezultatom. Pogosto na primer ni mogoče ugotoviti, zakaj je umetnointeligenčni sistem sprejel odločitev ali napoved in sprejel določen ukrep. Zato je morda težko oceniti, ali je bil nekdo neupravičeno prikrajšan, na primer v odločitvi o zaposlitvi ali v vlogi za javno koristno shemo. Čeprav obstoječa zakonodaja zagotavlja določeno zaščito, ne zadostuje za obravnavanje posebnih izzivov, ki jih lahko prinesejo umetnointeligenčni sistemi.«

Tudi po besedah slovenske ministrice za digitalno preobrazbo Emilije Stojmenove Duh nov sprejeti dokument predstavlja odlično ravnovesje med razvojem novih tehnologij in varovanjem človekovih pravic. Slovenija akt podpira, saj ne regulira tehnologije, ampak njeno uporabo. Ministrica se je zavzela za to, da bi v evropskem regulatornem uradu za umetno inteligenco sodelovali strokovnjaki iz vseh držav članic, a je ob opozorila tudi na pomanjkanje strokovnjakov za področje umetne inteligence.

Nekateri sistemi umetne inteligence so prepovedani

Vsi sistemi umetne inteligence, ki nedvomno predstavljajo tveganje varnosti, življenju in pravicam ljudi, so prepovedani. Sem sodijo sklepanje o čustvenem stanju posameznikov na delovnem mestu ali v izobraževalnih ustanovah (izjema so zdravstveni ali varnostni nameni), prepovedano bo družbeno točkovanje, kar predstavlja ocenjevanje posameznikov ali skupin glede na njihovo obnašanje ter osebne lastnosti s pomočjo umetne inteligence. Umetna inteligenca ne bo smela opravljati biometrične kategorizacije na podlagi občutljivih podatkov. Sem sodijo podatki o rasi, političnem prepričanju, članstvu v sindikatu, verskih ali svetovnonazorskih prepričanjih, spolni usmerjenosti ... Ne bo smela neciljano zbirati obrazov z medmrežja ali z varnostnih kamer, niti uporabljati zavajajočih, manipulativnih ali subliminalnih tehnik za usmerjanje vedenja. Prepovedano je izkoriščanje ranljivosti, povezanih s starostjo ali socialno ekonomskim položajem, ter ocenjevanje nagnjenosti h kaznivim dejanjem. Organi pregona ne bodo smeli uporabljati biometrične identifikacije v živo na javnih površinah, razen v izjemnih primerih.

Delovanje sistemov bo tako strogo omejeno, a dovoljeno za naslednja področja: v kritični infrastrukturi, izobraževanju, kadrovanju, pri dostopu do bistvenih javnih in zasebnih storitev, pri varnosti izdelkov, v pravosodju, pri policiji ter pri migracijah, azilnih postopkih in nadzoru meje.

Akt o umetni inteligenci, za katerega je glasovalo 523 poslancev, 46 jih je bilo proti, 49 pa vzdržanih, bo objavljen v uradnem listu EU. Veljati bo začel 20 dni po objavi, uporabljati pa se bo začel postopoma.