Kaj ureja akt o umetni inteligenci
Akt o umetni inteligenci (Uredba (EU) 2024/1689) ureja razvoj, dajanje na trg in uporabo sistemov umetne inteligence v Evropski uniji. Ker gre za uredbo, velja neposredno v vseh državah članicah in je ni treba prenašati v nacionalno zakonodajo. Države članice morajo določiti nacionalne organe za nadzor in pravila o kaznih. Aktualne informacije za Slovenijo spremljajte na portalu GOV.SI.
Uredba temelji na tveganju: strožje kot sistem lahko vpliva na zdravje, varnost in temeljne pravice ljudi, več obveznosti velja zanj. Velja za ponudnike in uvajalce v EU, pa tudi za ponudnike zunaj EU, če se rezultati njihovih sistemov uporabljajo v EU. Izvzeti so med drugim vojaška in obrambna raba, znanstvene raziskave ter povsem osebna, nepoklicna uporaba. Razred svojega sistema preverite z orodjem na tej strani.
Štirje razredi tveganja
| Razred | Primeri | Posledica |
|---|---|---|
| Prepovedane prakse (5. člen) | Družbeno točkovanje, manipulativne tehnike, prepoznavanje čustev zaposlenih, neciljno zajemanje podob obraza | Uporaba ni dovoljena |
| Visoko tvegani sistemi (6. člen, prilogi I in III) | Razvrščanje kandidatov za zaposlitev, ocena kreditne sposobnosti, varnostne komponente medicinskih pripomočkov ali strojev | Obsežne zahteve za ponudnike in uvajalce |
| Omejeno tveganje: preglednost (50. člen) | Klepetalniki, generiranje slik in besedil, globoki ponaredki | Obveščanje uporabnikov in označevanje vsebin |
| Minimalno tveganje | Filtri neželene pošte, napovedovanje zalog, priporočila izdelkov | Brez posebnih obveznosti, razen pismenosti na področju UI |
Visoko tvegani sistemi po Prilogi III so tisti, ki se uporabljajo na področjih biometrije, kritične infrastrukture, izobraževanja, zaposlovanja in upravljanja kadrov, dostopa do bistvenih javnih in zasebnih storitev (na primer ocena kreditne sposobnosti ter ocena tveganja in oblikovanje cen pri življenjskih in zdravstvenih zavarovanjih), kazenskega pregona, migracij in nadzora meja ter pravosodja in demokratičnih procesov.
Sistem s področja Priloge III ni visoko tvegan, če ne predstavlja znatnega tveganja, na primer ker opravlja le ozko proceduralno ali pripravljalno nalogo. Ta izjema ne velja, če sistem izvaja profiliranje fizičnih oseb. Ponudnik mora tako presojo dokumentirati.
Ponudnik ali uvajalec: kdo kaj odgovarja
Obveznosti so odvisne od vloge. Ponudnik sistem UI razvije ali ga da na trg oziroma v uporabo pod svojim imenom ali znamko. Uvajalec sistem uporablja v okviru svoje poklicne dejavnosti. Večina slovenskih podjetij bo v vlogi uvajalca, na primer pri uporabi orodja za zaposlovanje, ki ga je razvil drug ponudnik.
| Visoko tvegan sistem | Ponudnik | Uvajalec |
|---|---|---|
| Obvladovanje tveganj in kakovost podatkov | da | ustreznost vhodnih podatkov, ki jih nadzira |
| Tehnična dokumentacija in dnevniki | pripravi dokumentacijo, omogoči beleženje | hrani dnevnike, praviloma najmanj šest mesecev |
| Človeški nadzor | zasnova, ki ga omogoča | izvajajo ga usposobljene osebe |
| Ugotavljanje skladnosti, oznaka CE, registracija | da | javni organi registrirajo uporabo |
| Obveščanje | navodila za uporabo | obvesti zaposlene in osebe, o katerih sistem pomaga odločati |
| Ocena učinka na temeljne pravice | ne | javni organi, izvajalci javnih storitev, ocena kreditne sposobnosti in zavarovanja |
Uvajalec postane ponudnik, če visoko tvegani sistem označi s svojim imenom ali znamko, ga bistveno spremeni ali mu spremeni namen tako, da postane visoko tvegan. To je pomembno pri prilagajanju obstoječih rešitev za lastne potrebe.
Primeri iz prakse
- Klepetalnik za pomoč strankam na osnovi velikega jezikovnega modela: praviloma omejeno tveganje. Uporabnike morate obvestiti, da komunicirajo z UI, razen če je to očitno.
- Orodje za razvrščanje življenjepisov ali ocenjevanje kandidatov: visoko tvegan sistem s področja zaposlovanja. Podjetje kot uvajalec mora zagotoviti človeški nadzor, hrambo dnevnikov ter obveščanje kandidatov in predstavnikov zaposlenih.
- Napovedovanje okvar strojev iz podatkov senzorjev: praviloma minimalno tveganje, razen če je sistem varnostna komponenta stroja, za katerega velja zakonodaja iz Priloge I.
- Ocena kreditne sposobnosti fizičnih oseb: visoko tvegan sistem. Odkrivanje finančnih goljufij je pri tem izrecno izvzeto.
- Analiza čustev zaposlenih iz video ali glasovnih klicev: na delovnem mestu prepovedana praksa, razen iz zdravstvenih ali varnostnih razlogov.
Modeli UI za splošne namene
Veliki jezikovni modeli in drugi modeli za splošne namene (GPAI) imajo posebna pravila, ki veljajo od 2. avgusta 2025. Ponudniki modelov morajo pripraviti tehnično dokumentacijo, zagotoviti informacije ponudnikom, ki model vgrajujejo v svoje sisteme, imeti politiko spoštovanja avtorskih pravic in objaviti povzetek vsebin, uporabljenih za učenje. Za najzmogljivejše modele s sistemskim tveganjem veljajo dodatne zahteve.
Podjetje, ki obstoječi model uporablja prek API ali ga vgradi v svojo aplikacijo, praviloma ni ponudnik modela za splošne namene. Lahko pa je ponudnik ali uvajalec sistema UI, ki ga je zgradilo na tem modelu, in razred tega sistema je odvisen od namena uporabe.
Roki in globe
| Datum | Kaj se začne uporabljati |
|---|---|
| 1. avgust 2024 | Uredba začne veljati |
| 2. februar 2025 | Prepovedane prakse in obveznost pismenosti na področju UI |
| 2. avgust 2025 | Pravila za modele UI za splošne namene, upravljanje in kazni |
| 2. avgust 2026 | Večina določb, vključno z visoko tveganimi sistemi iz Priloge III in obveznostmi preglednosti |
| 2. avgust 2027 | Visoko tvegani sistemi kot varnostne komponente izdelkov iz Priloge I |
Evropska komisija je s paketom, imenovanim digitalni omnibus, predlagala odlog nekaterih rokov za visoko tvegane sisteme. Ker zakonodajni postopek še poteka ali se je morda že zaključil, pred načrtovanjem preverite aktualno stanje na straneh Evropske komisije.
Globe znašajo do 35 milijonov evrov ali 7 % svetovnega letnega prometa za prepovedane prakse, do 15 milijonov evrov ali 3 % za kršitve drugih obveznosti in do 7,5 milijona evrov ali 1 % za nepravilne informacije organom. Za MSP in zagonska podjetja se upošteva nižji od obeh zneskov.
Kako se pripraviti
- Popis sistemov UI. Zberite vse sisteme in orodja z UI, ki jih razvijate ali uporabljate, tudi tiste, ki so jih oddelki uvedli sami.
- Razvrstitev. Vsak sistem razvrstite z orodjem zgoraj in rezultat dokumentirajte.
- Pismenost. Pripravite usposabljanje za zaposlene, ki uporabljajo UI, in notranjo politiko uporabe.
- Visoko tvegani sistemi. Od dobaviteljev zahtevajte dokumentacijo o skladnosti, določite odgovorne za človeški nadzor in uredite hrambo dnevnikov.
- Upravljanje. Povežite zahteve uredbe z obstoječimi procesi varstva podatkov in informacijske varnosti.
Humanfrog podjetjem pomaga pri načrtovanju in uvedbi rešitev UI, ki so od začetka zasnovane skladno z uredbo, z ustrezno varnostjo, nadzorom dostopa in beleženjem. Če želite preveriti konkreten primer uporabe, se pogovorite z nami.
