EU AI Act – uredba o umetni inteligenci
Uredba EU o umetni inteligenci, ki določa obveznosti glede na stopnjo tveganja.
EU AI Act je Uredba (EU) 2024/1689, ki določa pravila za razvoj in uporabo sistemov umetne inteligence glede na stopnjo tveganja. Obveznosti se razlikujejo za ponudnike in za uporabnike (deployerje).
Katero težavo rešujemo
Organizacije uporabljajo umetno inteligenco pri kadrovanju, ocenjevanju strank, v klepetalnikih in notranjih procesih, ne da bi vedele, v katero kategorijo tveganja spadajo in kateri roki veljajo.
Zakaj je to pomembno
Nekatere obveznosti že veljajo, druge se uporabljajo kasneje. Brez popisa sistemov AI v organizaciji ni mogoče oceniti tveganja ali določiti vloge.
Za koga je
- Ponudniki sistemov umetne inteligence, ki jih razvijajo ali ponujajo pod svojo znamko.
- Uporabniki (deployerji), ki v poslovanju uporabljajo tuje sisteme AI.
- Organizacije, ki uporabljajo generativno umetno inteligenco z zaposlenimi ali strankami.
Kaj obsega delo
- Popis sistemov AI in njihove uporabe v organizaciji.
- Okvirna razvrstitev po tveganju in preverjanje prepovedanih praks.
- Pregled obveznosti preglednosti, na primer obveščanje o interakciji z AI in označevanje vsebin.
- Ugotovitev vloge organizacije: ponudnik ali uporabnik.
- Povezava s sistemom upravljanja po ISO/IEC 42001, kjer je to smiselno.
Potek dela
Uvodni pogovor in zbiranje seznama orodij ter uporab AI.
GAP analiza glede na obveznosti, ki jih organizacija po prvi oceni zadevajo.
Pregled obstoječih politik in navodil za zaposlene.
Poročilo z ugotovitvami in načrtom ukrepov glede na roke.
Kaj potrebujemo od vas
- Seznam orodij in sistemov AI, ki jih uporabljate ali razvijate.
- Kateri podatki in odločitve so povezani z AI (kadrovanje, stranke, nadzor).
- Pogodbe z dobavitelji AI, če obstajajo.
Kaj prejmete
- Popis sistemov AI z okvirno razvrstitvijo po tveganju.
- Poročilo GAP analize z načrtom ukrepov in roki.
- Priporočila za politiko uporabe AI za zaposlene.
Kaj ni vključeno in kje so meje
- Pravno mnenje ali dokončna razvrstitev sistema po tveganju.
- Ocena skladnosti visoko tveganih sistemov.
- Tehnično preverjanje modelov, pristranskosti in kakovosti podatkov.
Pravnega svetovanja ne dajemo. Roki in obveznosti veljajo po stanju na dan zadnje preveritve ter se lahko spremenijo, zato jih preverite v uradnem besedilu predpisa.
Pogosta vprašanja
Kateri roki veljajo?
Prepovedane prakse veljajo od 2. februarja 2025, obveznosti za splošno namenske modele od 2. avgusta 2025 in obveznosti preglednosti iz člena 50 od 2. avgusta 2026. Za visoko tvegane sisteme iz Priloge III je po Uredbi (EU) 2026/1744 rok premaknjen na 2. december 2027, za izdelke iz Priloge I pa na 2. avgust 2028. Za ponudnike generativnih sistemov, danih na trg pred 2. avgustom 2026, velja za označevanje vsebin (člen 50(2)) prehodno obdobje do 2. decembra 2026. Roke preverite v uradnem besedilu.
Ali ISO/IEC 42001 pomeni skladnost z EU AI Act?
Ne. Standard je prostovoljen okvir za sistem upravljanja, uredba pa je pravno zavezujoča. Standard pomaga pri organizaciji dela in dokazih, obveznosti po uredbi je treba presojati posebej.
Ali moram že zdaj imeti popis sistemov AI?
Priporočljivo je. Brez popisa ne morete oceniti tveganja, roki pa so za različne vrste sistemov različni.
Ali se uredba nanaša tudi na uporabo orodij, kot je ChatGPT?
Lahko, vsaj v delu obveznosti preglednosti in pri uporabi v organizaciji. Razvrstitev je odvisna od namena uporabe, ne samo od orodja.
Viri
- Uredba (EU) 2024/1689 (AI Act), EUR-Lex (odpre se v novem zavihku)
- Uredba (EU) 2026/1744 (digitalni omnibus za AI), EUR-Lex (odpre se v novem zavihku)
Zadnja vsebinska preveritev: . Besedilo je strokovni povzetek in ne nadomešča pravnega mnenja ali besedila standarda.
Potrebujete notranjo presojo ali pripravo na ISO?
Opišite organizacijo in cilj. Predlagamo smiseln obseg dela in pripravimo individualno ponudbo, brez obljub o rezultatu certifikacije.