Europejskie rozporządzenie o AI (AI Act) klasyfikuje systemy AI według poziomu ryzyka. Część zastosowań związanych z personelem znajduje się w kategorii wysokiego ryzyka. Nie jest to ocena tego, jak dobrze lub źle system działa, ale klasyfikacja na podstawie tego, o czym system decyduje lub co zaleca i wobec kogo. Systemy, które dotyczą rekrutacji, awansu, oceny lub zwolnienia osób, dotykają prawa podstawowego — prawa do sprawiedliwego traktowania w relacji zatrudnienia — i z tego powodu podlegają bardziej rygorystycznemu reżimowi: dodatkowej dokumentacji, ludzkiemu nadzorowi, a w wielu przypadkach obowiązkowi poinformowania osób, których to dotyczy.
Niniejsza strona opisuje mechanizm tak, jak został on ustanowiony w rozporządzeniu. Pełny, aktualny tekst z precyzyjnymi załącznikami i definicjami znajduje się na stronie internetowej Unii Europejskiej oraz u administracji rządowej; tam znajdą Państwo brzmienie, które ma znaczenie prawne.
AI Act wymienia jako przykłady zastosowań wysokiego ryzyka w kontekście zatrudnienia między innymi systemy, które:
Wspólnym mianownikiem jest to, że system generuje wynik, który ma bezpośredni wpływ na pozycję konkretnego pracownika lub kandydata. Narzędzie do planowania, które optymalizuje harmonogramy dla całego działu, zazwyczaj nie wchodzi w tę kategorię; narzędzie, które generuje dla każdego pracownika wynik uwzględniany podczas rozmowy oceniającej, już się w niej znajduje. Gdzie precyzyjnie przebiega granica w Państwa własnych procesach, jest pytaniem do prawnika lub doradcy do spraw zgodności, a nie czymś, co niniejsza strona rozstrzyga za Państwa.
Jest to element, na którym wiele organizacji się zatrzymuje, i jest to również dokładnie ta kwestia, którą starają się porządkować trzy kategorie tego narzędzia. Zadanie, które AI może w pełni przejąć, jest zazwyczaj zadaniem bez trwałego osądu wobec osoby: streszczanie tekstu, przeliczanie harmonogramu, optymalizacja planowania. Z chwilą, gdy system generuje wynik, który służy jako podstawa decyzji dotyczącej konkretnej osoby — przyjęcie, odmowa przyjęcia, awans, nieprzedłużenie umowy — zadanie przesuwa się do drugiej lub trzeciej kategorii: ludzkiego nadzoru, który zatwierdza lub odrzuca z uzasadnieniem, albo pracy wykonywanej całkowicie przez człowieka.
Praktyczną cechą narzędzia pomocniczego jest to, że człowiek kontroluje dane wejściowe, może zignorować wynik bez konsekwencji i sam podejmuje ostateczną decyzję na podstawie więcej niż tylko wyniku systemu. Praktyczną cechą systemu oceny jest to, że wynik otrzymuje istotną lub decydującą wagę w decyzji dotyczącej tej konkretnej osoby, nawet jeśli formalnie człowiek wyraża „zgodę”. Wynik, który w praktyce jest zawsze przyjmowany bez zmian, funkcjonuje jako system oceny, niezależnie od tego, jak jest wewnętrznie nazywany. To rozgraniczenie jest podobne do tego, co obowiązuje przy RODO w automatyzacji zadań: tam również nie liczy się etykieta narzędzia, ale to, co ono faktycznie decyduje i jakie dane są do tego wykorzystywane.
Jeśli system jest uznany za wysokiego ryzyka, wiąże się to z obowiązkami dla strony, która go wdraża: oceną ryzyka, dokumentacją dotyczącą działania systemu, ludzkim nadzorem, który może faktycznie interweniować, oraz transparentnością wobec pracowników lub kandydatów, których to dotyczy, w zakresie tego, że system AI odgrywa rolę. Niniejsza strona nie podaje żadnych procentów, terminów ani kwot związanych z tymi obowiązkami, ponieważ różnią się one w zależności od sytuacji i fazy regulacji. W celu uzyskania dokładnych wymogów i dat prosimy zapoznać się z oficjalnymi tekstami lub skonsultować się z doradcą znającym aktualny stan przepisów.
Ważne jest również, że ta klasyfikacja jest niezależna od decyzji personalnych. AI Act mówi o systemie, nie o tym, co organizacja robi z wynikiem reorganizacji lub zmiany funkcji. Dla decyzji dotyczących relacji zatrudnienia obowiązują własne wymogi prawne — na przykład prawo dotyczące zwolnień oraz rola rad pracowniczych — które muszą być oceniane odrębnie i przed wdrożeniem systemu. Niniejsza strona nie zajmuje w tej sprawie stanowiska.
Wdrożenie systemu, który monitoruje lub ocenia zachowanie lub wyniki pracowników, jest często nie tylko kwestią AI Act, ale również kwestią współdecydowania pracowniczego. Prawa do wyrażenia zgody mogą obowiązywać już przed sklasyfikowaniem systemu jako wysokiego ryzyka. Kiedy i w jakim momencie rada pracownicza musi zostać w to zaangażowana, opisano na stronie kiedy sprawa dotyczy rady pracowniczej. Ten proces przebiega równolegle do obowiązków wynikających z AI Act, a nie zamiast nich.
Niniejsza strona opisuje mechanizm: jakie zastosowania są wymieniane oraz gdzie leży praktyczna granica między narzędziem pomocniczym a systemem oceny. Czy konkretny system w Państwa organizacji wchodzi w kategorię wysokiego ryzyka i jakie kroki z tego wynikają, jest pytaniem, na które należy odpowiedzieć indywidualnie dla każdej sytuacji — podobnie jak niuanse, które obowiązują również w co AI może przejąć w usługach biznesowych, gdzie powraca to samo pytanie o nadzór i odpowiedzialność.
Chcą Państwo uzyskać pierwsze wrażenie, jaka część zadań w Państwa profilu funkcji może już dziś zostać przejęta przez AI, bez uwzględniania systemów oceny osób? Bezpłatny quickscan ftetoai składa się z dwunastu pytań, działa bez konta i podaje wskazanie dla danego profilu. Pełny workscan, który zagłębia się bardziej w indywidualne procesy i klasyfikację ryzyka, jest jeszcze w budowie.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.