Evropska uredba o umetni inteligenci (AI Act) razvršča sisteme UI glede na tveganje. Del aplikacij, ki so povezane z osebjem, sodi v kategorijo visokega tveganja. To ni ocena, kako dobro ali slabo sistem deluje, temveč razvrstitev na podlagi tega, o čem sistem odloča ali svetuje in o kom. Sistemi, ki se nanašajo na zaposlovanje, napredovanje, ocenjevanje ali odpuščanje ljudi, posegajo v temeljno pravico — pravico do poštenega obravnavanja v delovnem razmerju — in zato zanje velja strožji režim: dodatna dokumentacija, človeški nadzor in v številnih primerih obveznost obveščanja zadevnih oseb.
Ta stran opisuje mehanizem, kot je zasnovan v uredbi. Celotno, aktualno besedilo s točnimi prilogami in definicijami je na voljo na spletni strani Evropske unije in pri nizozemski državni upravi; tam si lahko preberete formulacijo, ki je pravno merodajna.
Uredba o UI kot primere visoko tveganih aplikacij v kontekstu zaposlovanja med drugim navaja sisteme, ki:
Skupni imenovalec je, da sistem ustvari rezultat, ki neposredno vpliva na položaj posameznega zaposlenega ali prosilca za zaposlitev. Orodje za načrtovanje, ki optimizira urnike za celoten oddelek, ponavadi ne sodi sem; orodje, ki za vsakega zaposlenega ustvari oceno, ki se upošteva pri pogovoru o ocenjevanju, pa sodi sem. Kje natanko poteka meja znotraj vaših lastnih procesov, je vprašanje za pravnika ali svetovalca za skladnost, ne nekaj, kar ta stran določa namesto vas.
To je del, na katerem se veliko organizacij zatika, in je hkrati prav vprašanje, ki ga poskušajo urediti tri kategorije tega orodja. Naloga, ki jo UI lahko v celoti prevzame, je praviloma naloga brez trajne presoje o osebi: povzemanje besedila, izračun urnika, optimizacija planiranja. Takoj ko sistem ustvari izhodne podatke, ki služijo kot vhod za odločitev o posamezniku — zaposlitev, nezaposlitev, napredovanje, nepodaljšanje pogodbe — se naloga premakne v drugo ali tretjo kategorijo: človeški nadzor, ki z obrazložitvijo odobri ali zavrne, ali povsem ročno delo.
Praktična značilnost pripomočka je, da človek preveri vhodne podatke, lahko brez posledic zanemari izhodne podatke in končno presojo sprejme sam na podlagi več kot le rezultata sistema. Praktična značilnost sistema ocenjevanja pa je, da rezultat dobi znatno ali odločilno težo pri odločitvi o tej konkretni osebi, tudi če formalno človek reče "da". Ocena, ki jo v praksi vedno prevzamejo, deluje kot sistem ocenjevanja, ne glede na to, kako je interno poimenovana. Ta razmejitev je primerljiva s tem, kar velja pri GDPR pri avtomatizaciji nalog: tudi tam ne šteje oznaka orodja, temveč to, kaj to orodje dejansko odloča in kateri podatki se za to uporabljajo.
Če sistem velja za visoko tveganega, to prinaša obveznosti za stranko, ki ga uporablja: oceno tveganja, dokumentacijo o delovanju, človeški nadzor, ki lahko dejansko poseže, in preglednost do zadevnih zaposlenih ali prosilcev glede tega, da pri odločitvi sodeluje sistem UI. Ta stran ne navaja odstotkov, rokov ali zneskov, povezanih s temi obveznostmi, ker se ti razlikujejo glede na situacijo in fazo predpisov. Za natančne zahteve in datume se posvetujte z uradnimi besedili ali svetovalcem, ki pozna trenutno stanje.
Pomembno je tudi, da je ta razvrstitev ločena od kadrovskih odločitev. Uredba o UI govori o sistemu, ne o tem, kaj organizacija naredi z izidom reorganizacije ali spremembe funkcije. Za odločitve, ki vplivajo na delovno razmerje, veljajo lastne zakonske zahteve — na primer delovnopravna ureditev odpovedi in vloga soodločanja — ki jih je treba oceniti ločeno in pred uvedbo sistema. Ta stran o tem ne podaja mnenja.
Uvedba sistema, ki spremlja ali ocenjuje vedenje ali uspešnost zaposlenih, pogosto ni le vprašanje uredbe o UI, temveč tudi vprašanje soodločanja. Pravice do soglasja lahko veljajo že preden je sistem razvrščen kot visoko tvegan. Kdaj je treba vključiti svet delavcev in v katerem trenutku, je opisano na strani kdaj je za to pristojen svet delavcev. Ta postopek poteka vzporedno z obveznostmi iz uredbe o UI, ne namesto njih.
Ta stran opisuje mehanizem: katere aplikacije so navedene in kje leži praktično razlikovanje med pripomočkom in sistemom ocenjevanja. Ali konkreten sistem v vaši organizaciji spada v kategorijo visokega tveganja in kateri koraki iz tega izhajajo, je vprašanje, na katero je treba odgovoriti za vsak primer posebej — podobno kot velja za nianse, opisane v kaj lahko UI prevzame v poslovnih storitvah, kjer se ponovno pojavi isto vprašanje glede nadzora in odgovornosti.
Bi radi dobili prvi vtis o tem, kateri del nalog v vašem profilu delovnega mesta danes lahko prevzame UI, ne da bi pri tem gledali na sisteme ocenjevanja oseb? Brezplačni hitri pregled ftetoai obsega dvanajst vprašanj, deluje brez računa in poda oceno po posameznem profilu. Celoten delovni pregled, ki se poglobi v posamezne procese in razvrstitev tveganja, je še v pripravi.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.