AI visokog rizika na radnom mjestu: pregled pravila

Zašto je zapošljavanje zasebna riziko-domena

Europska uredba o umjetnoj inteligenciji (AI Act) dijeli AI sustave prema riziku. Dio primjena koje se odnose na osoblje spada u kategoriju visokog rizika. To nije kvalifikacija koliko dobro ili loše sustav funkcionira, već klasifikacija na temelju toga o čemu sustav odlučuje ili što savjetuje i o kome. Sustavi koji se odnose na zapošljavanje, promaknuće, ocjenjivanje ili otkaz zaposlenika dotiču temeljno pravo — pravo na pošteno postupanje u radnom odnosu — i stoga dobivaju stroži režim: dodatnu dokumentaciju, ljudski nadzor i u mnogim slučajevima obvezu obavještavanja dotičnih osoba.

Ova stranica opisuje mehanizam kako je uspostavljen u uredbi. Potpuni, aktualni tekst s točnim prilozima i definicijama nalazi se na web-mjestu Europske unije i kod nizozemske državne uprave; ondje pročitajte formulaciju koja je pravno mjerodavna.

Koje primjene spadaju pod zapošljavanje

AI uredba kao primjere primjena visokog rizika u kontekstu rada navodi, među ostalim, sustave koji:

Prethodno biraju prijave ili ciljano usmjeravaju oglase za posao na temelju profila;
Ocjenjuju ili testiraju kandidate tijekom postupka zapošljavanja;
Donose odluke ili savjetuju o promaknuću, prestanku radnog odnosa ili raspodjeli zadataka na temelju individualnog ponašanja ili osobnih obilježja;
Prate i ocjenjuju učinak ili ponašanje zaposlenika.

Zajednički nazivnik jest da sustav generira ishod koji izravno utječe na položaj pojedinog zaposlenika ili kandidata. Alat za planiranje koji optimizira rasporede za cijeli odjel u pravilu tu ne spada; alat koji za svakog zaposlenika generira ocjenu koja se uzima u obzir prilikom razgovora o ocjeni rada, tu spada. Gdje točno unutar vaših vlastitih procesa leži granica, pitanje je za pravnika ili savjetnika za usklađenost, a ne nešto što ova stranica utvrđuje umjesto vas.

Granica između pomoćnog alata i sustava za ocjenjivanje

Ovo je dio na kojem se mnoge organizacije spotiču, a ujedno je to točno pitanje koje tri kategorije ovog alata pokušavaju urediti. Zadatak koji AI može u potpunosti preuzeti u pravilu je zadatak bez trajne prosudbe o osobi: sažimanje teksta, izračun rasporeda, optimizacija planiranja. Čim sustav proizvede rezultat koji služi kao ulazni podatak za odluku o pojedincu — zaposliti, ne zaposliti, promaknuti, ne produljiti ugovor — zadatak se pomiče u drugu ili treću kategoriju: ljudski nadzor koji odobrava ili odbija uz obrazloženje, ili posve ljudski rad.

Praktično obilježje pomoćnog alata jest to što osoba provjerava ulazne podatke, može zanemariti rezultat bez posljedica i konačnu odluku sama donosi na temelju više od samog rezultata sustava. Praktično obilježje sustava za ocjenjivanje jest to što rezultat dobiva znatnu ili presudnu težinu u odluci o toj konkretnoj osobi, čak i ako formalno osoba daje „suglasnost”. Ocjena koja se u praksi uvijek preuzima funkcionira kao sustav za ocjenjivanje, neovisno o tome kako se interno naziva. Ovo razgraničenje slično je onome što vrijedi kod GDPR-a pri automatizaciji zadataka: i ondje se ne broji oznaka alata, već ono što taj alat u praksi odlučuje i koji se podaci pritom koriste.

Što klasifikacija u praksi znači

Ako sustav vrijedi kao visokorizičan, to za stranu koja ga primjenjuje donosi obveze: procjenu rizika, dokumentaciju o funkcioniranju, ljudski nadzor koji stvarno može intervenirati te transparentnost prema dotičnim zaposlenicima ili kandidatima o činjenici da AI sustav ima ulogu. Ova stranica ne navodi postotke, rokove ni iznose vezane uz te obveze, jer se oni razlikuju ovisno o situaciji i fazi propisa. Za točne zahtjeve i datume konzultirajte službene tekstove ili savjetnika koji poznaje aktualno stanje.

Važno je i to da je ova klasifikacija odvojena od odluka o osoblju. AI uredba govori nešto o sustavu, a ne o tome što organizacija čini s ishodom reorganizacije ili promjene funkcije. Za odluke koje se tiču radnog odnosa vrijede vlastiti zakonski zahtjevi — mislite na pravo na otkaz i ulogu sudjelovanja zaposlenika — koji se moraju procijeniti zasebno i prije primjene sustava. Ova stranica o tome ne daje izjavu.

Uloga sudjelovanja zaposlenika (medezeggenschap)

Uvođenje sustava koji prati ili ocjenjuje ponašanje ili učinak zaposlenika često nije samo pitanje AI uredbe, nego i pitanje sudjelovanja zaposlenika. Prava suglasnosti mogu vrijediti već prije nego što je sustav klasificiran kao visokorizičan. Kada radničko vijeće (ondernemingsraad) treba biti uključeno i u kojem trenutku, opisano je na kada radničko vijeće o tome odlučuje. Taj postupak teče usporedno s, a ne umjesto, obvezama iz AI uredbe.

Što sada možete učiniti

Ova stranica opisuje mehanizam: koje se primjene spominju i gdje leži praktična razlika između pomoćnog alata i sustava za ocjenjivanje. Je li određeni sustav u vašoj organizaciji obuhvaćen kategorijom visokog rizika i koji koraci iz toga proizlaze, pitanje je na koje treba odgovoriti za svaku situaciju posebno — slično nijansama koje vrijede i u što AI može preuzeti u poslovnim uslugama, gdje se vraća isto pitanje nadzora i odgovornosti.

Želite li prvi dojam o tome koji se dio zadataka u vašem profilu radnog mjesta danas može prepustiti AI-u, bez razmatranja sustava za ocjenjivanje osoba? Besplatni brzi test tvrtke ftetoai sastoji se od dvanaest pitanja, radi bez naloga i daje indikaciju po profilu. Potpuni radni test, koji dublje ulazi u pojedinačne procese i klasifikaciju rizika, još je u izradi.