- Prispevek pripravili:
- Svet slovenskih organizacij
Leta 2024 je Evropska unija sprejela Akt o umetni inteligenci (AI Act), katerega namen je urediti razvoj in uporabo sistemov umetne inteligence, zaščititi ljudi pred morebitno škodo ter varovati temeljne pravice. Maja 2026 pa so evropski zakonodajalci potrdili nov predlog, imenovan »AI Omnibus«, ki zmanjšuje nekatere ključne varovalke temeljnih pravic, saj odpravlja oziroma zmanjšuje več obveznosti za podjetja in pristojne organe.
Glavne spremembe, ki jih prinaša predlog, so:
Širša uporaba občutljivih podatkov. AI Omnibus razvijalcem in uporabnikom sistemov umetne inteligence omogoča obdelavo podatkov o zdravju ali invalidnosti z namenom odkrivanja in odpravljanja diskriminatornega delovanja, tudi brez privolitve posameznika. To ne velja le za visokotvegane sisteme, temveč pod določenimi pogoji za vse sisteme umetne inteligence. S tem se bistveno širi možnost dostopa do zelo občutljivih podatkov.
Zmanjšanje pristojnosti organov za varstvo temeljnih pravic. Predlog spreminja način, kako lahko organi, pristojni za varstvo enakih možnosti, dostopajo do informacij o visokotveganih sistemih umetne inteligence. Omnibus odpravlja neposreden dostop, ki ga je predvideval akt iz leta 2024, zato bi morali ti organi do informacij dostopati prek organov za nadzor trga. To bi lahko zmanjšalo sposobnost specializiranih organov za preiskovanje primerov diskriminacije in kršitev pravic, povezanih z uporabo umetne inteligence.
Odložena zaščita pri visokotveganih sistemih umetne inteligence. Akt o umetni inteligenci je določene sisteme opredelil kot visokotvegane zaradi njihovega potencialno velikega vpliva na življenje ljudi. Mednje sodijo sistemi, ki se uporabljajo pri zaposlovanju, izobraževanju, ocenjevanju kreditne sposobnosti in dostopu do socialnih prejemkov. Omnibus pa začetek uporabe nekaterih ključnih obveznosti za te sisteme prestavlja na december 2027 za samostojne visokotvegane sisteme ter na avgust 2028 za visokotvegane sisteme umetne inteligence, ki so del proizvodov, urejenih z drugo zakonodajo Evropske unije.
Blažje zahteve glede pismenosti na področju umetne inteligence. Prvotni Akt o umetni inteligenci je od organizacij zahteval, da zagotovijo, da imajo osebe, vključene v uporabo in nadzor sistemov umetne inteligence, ustrezno raven znanja in razumevanja sistemov, s katerimi delajo. Po predlogu Omnibus pa morajo organizacije pismenost na področju umetne inteligence le podpirati, ne pa tudi zagotavljati. Neustrezna presoja rezultatov umetne inteligence lahko vodi do nepravičnih odločitev, pri čemer je takšne rezultate zaradi njihove tehnične narave pogosto težko izpodbijati.
