Naša življenja so vse bolj prežeta z umetno inteligenco. Tega se včasih zavedamo, pogosto pa nanjo sploh ne pomislimo. Pomaga nam brskati po podatkih ter ustvarjati besedila in slike, načrtovati potovanja, zbira in obdeluje pa tudi številne naše podatke, na podlagi katerih nam lahko postreže z nam prilagojenimi vsebinami, še raje pa oglasi.

Umetna inteligenca (AI) prinaša veliko prednosti, pa tudi številna tveganja, prav zaradi njenega velikega vpliva pa jo želi EU v okviru svoje digitalne strategije regulirati, s tem pa zagotoviti boljše pogoje za njen razvoj in uporabo. Uporaba umetne inteligence v EU bo urejena z uredbo o umetni inteligenci, prvim celovitim zakonom o umetni inteligenci na svetu.

Že aprila 2021 je Evropska komisija predlagala prvi regulativni okvir EU za umetno inteligenco, katerega namen je oblikovati zavezujoča pravila za sisteme umetne inteligence na trgih EU. Predlog akta ne obravnava umetne inteligence kot take, temveč se osredotoča na njeno uporabo. Sredi junija 2023 je Evropski parlament sprejel svoje pogajalsko stališče, sledijo pa pogajanja med Svetom, Evropskim parlamentom in Evropsko komisijo, katerih cilj je doseči dogovor do konca tega leta. Ker gre za uredbo, bi se pravila neposredno uporabljala v vseh državah članicah EU. Uporabljala bi se za javne in zasebne akterje, če bi bil njihov sistem umetne inteligence dan na trg EU ali bi njegova uporaba vplivala na ljudi, ki se nahajajo v EU.

Evropski parlament želi prednostno zagotoviti, da so sistemi umetne inteligence, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni. Poudarjajo, da bi sisteme umetne inteligence morali nadzorovati ljudje in ne avtomatizacija, da bi preprečili škodljive rezultate. Vzpostaviti želi tudi tehnološko nevtralno, enotno definicijo umetne inteligence, ki bi jo lahko uporabili za prihodnje sisteme umetne inteligence.

Različna pravila za različne stopnje tveganja

Sistemi AI so v aktu razvrščeni glede na tveganje, ki ga predstavljajo za uporabnike. Različne stopnje tveganja bodo pomenile večjo ali manjšo regulacijo.

Sistemi umetne inteligence, ki veljajo za grožnjo ljudem in predstavljajo nesprejemljivo tveganje, bi bili prepovedani. Izrecno prepovedani bi bili:

• sistemi kognitivne vedenjske manipulacije ljudi ali posebnih ranljivih skupin (npr. glasovno aktivirane igrače, ki spodbujajo nevarno vedenje otrok),
• sistemi socialnega točkovanja (razvrščanje ljudi na podlagi vedenja, socialno-ekonomskega statusa ali osebnih lastnosti) in
• sistemi biometrične identifikacije v realnem času in na daljavo, kot je prepoznavanje obraza, z nekaterimi izjemami (npr. naknadna identifikacija za pregon hudih kaznivih dejanj, vendar le po odobritvi sodišča).

Za sisteme umetne inteligence, ki predstavljajo visoko tveganje za varnost ljudi ali njihove temeljne pravice, bodo veljale obvezne zahteve in predhodna ocena skladnosti (tj. preden se dajo na trg EU ali začnejo uporabljati). Mednje sodijo:

• sistemi umetne inteligence, ki se uporabljajo v izdelkih, za katere velja zakonodaja EU o varnosti izdelkov. To vključuje igrače, letalstvo, avtomobile, medicinske pripomočke in dvigala;
• sistemi umetne inteligence, ki spadajo v osem posebnih področij, ki jih bo treba registrirati v zbirki podatkov EU (biometrična identifikacija in kategorizacija fizičnih oseb, upravljanje in delovanje kritične infrastrukture, izobraževanje in poklicno usposabljanje, zaposlovanje, upravljanje delavcev in dostop do samozaposlitve, dostop in uživanje bistvenih zasebnih storitev ter javnih storitev in ugodnosti, organi pregona, upravljanje migracij, azila in mejne kontrole, pomoč pri pravni razlagi in uporabi prava).

Generativni AI, kot je ChatGPT, bo moral izpolnjevati dodatne zahteve glede preglednosti, in sicer:

• razkritje, da je vsebino ustvaril AI;
• oblikovanje modela za preprečevanje ustvarjanja nezakonite vsebine;
• objavljanje povzetkov avtorsko zaščitenih podatkov, ki se uporabljajo za usposabljanje.

Sistemi umetne inteligence z omejenim tveganjem so sistemi, ki so namenjeni neposredni interakciji s fizičnimi osebami (npr. chatboti). Za ponudnike teh sistemov bi veljale obveznosti glede preglednosti, tj. uporabniki bi morali biti obveščeni, da komunicirajo s takimi sistemi umetne inteligence. Mednje sodijo sistemi za prepoznavanje čustev; biometrični sistemi kategorizacije; sistemi umetne inteligence, ki ustvarjajo ali manipulirajo s slikovno, zvočno ali video vsebino (npr. globoki ponaredki, znani predvsem pod izrazom »deep fakes«).

Večina sistemov umetne inteligence, ki se trenutno uporabljajo v EU, sodi v kategorijo, ki predstavlja minimalno tveganje (npr. videoigre ali filtri za neželeno pošto, podprti z umetno inteligenco). Ponudniki teh sistemov bi se prostovoljno lahko odločili za uporabo obveznih zahtev za sisteme umetne inteligence z visokim tveganjem ali za spoštovanje prostovoljnih kodeksov ravnanja.

Kaj sledi?

S predlaganim besedilom uredbe pa niso zadovoljna številna evropska največja podjetja. V odprtem pismu namreč opozarjajo, da je zakon o umetni inteligenci neučinkovit in bi lahko negativno vplival na konkurenco. Svarijo, da so odobrena pravila preveč skrajna, zato obstaja tveganje, da bodo spodkopala tehnološke ambicije, namesto da bi zagotovila primerno okolje za inovacije AI.

Ko bo uredba sprejeta, bodo morale države članice EU imenovati enega ali več nacionalnih pristojnih organov za nadzor nad uporabo in izvajanjem uredbe. Na ravni EU je predlagana ustanovitev Evropskega odbora za umetno inteligenco, ki bi ga sestavljali predstavniki držav članic (iz zadevnih nacionalnih nadzornih organov), Evropski nadzornik za varstvo podatkov, predsedovala pa bi mu Evropska komisija.

Viri:

Evropski parlament: EU AI Act: first regulation on artificial intelligence, AI Act: a step closer to the first rules on Artificial Intelligence  (uporabljeno 5. 7. 2023)

Svet EU: Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights (uporabljeno 5. 7. 2023)

The Verge: European companies claim the EU’s AI Act could ‘jeopardise technological sovereignty’(uporabljeno 5. 7. 2023)